29 lines
2.4 KiB
Markdown
29 lines
2.4 KiB
Markdown
---
|
|
id: NLP-FOUND-002
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 1.0
|
|
tags: [ai, nlp, natural-language-processing, language-model, foundations]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Natural Language Processing (NLP, 자연어 처리)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "인류의 복잡한 언어 체계를 기계의 숫자로 번역하고, 다시 그 숫자를 지혜로운 문장으로 복원하여 인간과 기계의 소통 장벽을 허물어라" — 인간의 언어를 컴퓨터가 처리하고 이해할 수 있도록 분석, 가공, 생성하는 인공지능의 핵심 분야.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** "Textual Representation and Contextual Understanding" — 파편화된 텍스트 데이터를 토큰화(Tokenization)하고 벡터 공간으로 투영(Embedding)한 뒤, 순환(RNN)이나 주의 집중(Attention) 메커니즘을 통해 문맥적 의미를 파악하는 지능형 해석 패턴.
|
|
- **주요 과업:**
|
|
- **NLU (Natural Language Understanding):** 구문 분석, 개체명 인식, 감성 분석 등 의미 파악.
|
|
- **NLG (Natural Language Generation):** 번역, 요약, 자유 대화 등 문장 생성.
|
|
- **Core Processes:** Tokenization -> Stemming/Lemmatization -> POS Tagging -> Dependency Parsing.
|
|
- **의의:** 지식의 저장 형태인 '언어'를 다룸으로써, AI가 단순한 도구를 넘어 인간의 지식 체계와 직접 상호작용하는 인터페이스로 진화하게 함.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 규칙 기반(Grammar-based) 통계적 분석에서 신경망 기반의 거대 모델로 완전히 패러다임이 시프트되었으며, 이제는 단순 처리를 넘어 '추론(Reasoning)'과 '계획(Planning)'의 영역으로 확장 중임.
|
|
- **정책 변화:** Antigravity 프로젝트는 모든 지식 보강 프로세스의 근간으로 고도화된 NLP 파이프라인을 사용하며, 특히 다국어 지원과 전문 용어 보존에 최적화된 하이브리드 토큰화 전략을 채택함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Linguistic-Analysis-in-AI|Linguistic-Analysis-in-AI]], [[Natural-Language-Generation-NLG|Natural-Language-Generation-NLG]], [[Named-Entity-Recognition-NER|Named-Entity-Recognition-NER]], Transformer-Architecture-Foundations
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Natural-Language-Processing-NLP.md
|