Files

T

koriweb 5ba5a55c78 feat: Wiki 지식 자산 업데이트 - UX Scenarios, Frontend, Game Design, Topics 추가 [2026-05-08]

2026-05-08 19:52:07 +09:00

5.3 KiB

Raw Blame History

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit, inferred_by

title

NLP (Natural Language Processing))]]

📌 한 줄 통찰 (The Karpathy Summary)

"기계와 언어의 가교: 인간이 일상적으로 쓰는 복잡하고 모호한 자연어를 컴퓨터가 이해하고, 분석하고, 생성할 수 있게 만드는 인공지능의 핵심 분야이자 실질적인 '컴퓨터의 문해력' 교육."

"인류의 복잡한 언어 체계를 기계의 숫자로 번역하고, 다시 그 숫자를 지혜로운 문장으로 복원하여 인간과 기계의 소통 장벽을 허물어라" — 인간의 언어를 컴퓨터가 처리하고 이해할 수 있도록 분석, 가공, 생성하는 인공지능의 핵심 분야.

📖 구조화된 지식 (Synthesized Content)

자연어 처리(NLP)는 컴퓨터와 인간 언어 사이의 상호작용을 연구하는 학문입니다.

주요 태스크:
- Sentiment Analysis: 텍스트에 담긴 감정 파악.
- Machine Translation: 서로 다른 언어로 번역. (Language-Models와 연결)
- NER: 텍스트 속 고유 명사 식별.
- Summarization: 긴 글을 핵심 위주로 요약.
왜 중요한가?:
- 인류 지식의 80% 이상은 비구조화된 '텍스트' 형태로 존재하며, 이를 기계가 활용하려면 반드시 통과해야 하는 관문이기 때문임. (Information-Society의 기반)

추출된 패턴: "Textual Representation and Contextual Understanding" — 파편화된 텍스트 데이터를 토큰화(Tokenization)하고 벡터 공간으로 투영(Embedding)한 뒤, 순환(RNN)이나 주의 집중(Attention) 메커니즘을 통해 문맥적 의미를 파악하는 지능형 해석 패턴.
주요 과업:
- NLU (Natural Language Understanding): 구문 분석, 개체명 인식, 감성 분석 등 의미 파악.
- NLG (Natural Language Generation): 번역, 요약, 자유 대화 등 문장 생성.
- Core Processes: Tokenization -> Stemming/Lemmatization -> POS Tagging -> Dependency Parsing.
의의: 지식의 저장 형태인 '언어'를 다룸으로써, AI가 단순한 도구를 넘어 인간의 지식 체계와 직접 상호작용하는 인터페이스로 진화하게 함.

⚠️ 모순 및 업데이트 (Contradictions & Updates)

과거 데이터와의 충돌: 과거에는 형태소 분석, 구문 트리 등 수동 언어학 규칙 정책이 중심이었으나, 현대 정책은 이 모든 규칙을 거대 신경망 안의 패턴 정책으로 통합한 '엔드-투-엔드 딥러닝 정책'으로 패러다임이 완전히 전환됨(RL Update). (Large Language Models (LLM)와 연결)
정책 변화(RL Update): 단순 텍스트 이해 정책을 넘어, 문맥에 담긴 의도(Intent)와 뉘앙스, 그리고 문학적 비유까지 생성해 내는 '생성형 NLP 정책' 시대로 진입함. (Gen-AI와 연결)

과거 데이터와의 충돌: 규칙 기반(Grammar-based) 통계적 분석에서 신경망 기반의 거대 모델로 완전히 패러다임이 시프트되었으며, 이제는 단순 처리를 넘어 '추론(Reasoning)'과 '계획(Planning)'의 영역으로 확장 중임.
정책 변화: Antigravity 프로젝트는 모든 지식 보강 프로세스의 근간으로 고도화된 NLP 파이프라인을 사용하며, 특히 다국어 지원과 전문 용어 보존에 최적화된 하이브리드 토큰화 전략을 채택함.

🔗 지식 연결 (Graph)

Large Language Models (LLM), Language-Models, Gen-AI, HCI (Human-Computer Interaction), Inquiry-Based Learning
Modern Tech/Tools: Transformers, NLTK, spaCy, Hugging Face, Word embeddings.

Linguistic-Analysis-in-AI, Natural-Language-Generation-NLG, Named-Entity-Recognition-NER, Transformer-Architecture-Foundations
Raw Source: 10_Wiki/Topics/AI/Natural-Language-Processing-NLP.md

🤖 LLM 활용 힌트 (How to Use This Knowledge)

언제 이 지식을 쓰는가:

(TODO)

언제 쓰면 안 되는가:

(TODO)

🧪 검증 상태 (Validation)

정보 상태: needs_review
출처 신뢰도: A
검토 이유: (P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)

🧬 중복 검사 (Duplicate Check)

기존 유사 문서: (TODO: 인덱서 클러스터 리포트 참조)
처리 방식: UPDATE (자동 정규화)
처리 이유: Phase 1 정규화 — 옛 템플릿/누락 필드 보강.

🕓 변경 이력 (Changelog)

날짜	변경 내용	처리 방식	신뢰도
2026-05-08	P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화)	UPDATE	A

5.3 KiB Raw Blame History