2nd/10_Wiki/Topics_Blog/Natural-Language-Processing.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
NLP-001	10_Wiki/💡 Topics/AI	1.0	ai nlp linguistics llm text-analysis	2026-04-26

Natural Language Processing (NLP, 자연어 처리)

📌 한 줄 통찰 (The Karpathy Summary)

"인간의 언어를 컴퓨터의 언어로 번역하고 이해하게 하라" — 텍스트와 음성 등 인간의 자연 언어를 기계가 처리, 분석, 생성할 수 있게 만드는 컴퓨터 과학과 언어학의 융합 분야.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 비정형 텍스트 데이터에서 의미적 특징을 추출하고(Feature Extraction), 문맥과 문법을 파악하여 인간과 유사한 수준의 대화와 추론을 수행하는 인지 처리 패턴.
• 세부 내용:
  • Tokenization & Embedding: 텍스트를 최소 단위로 쪼개고 이를 고차원 벡터 공간의 숫자로 변환.
  • Syntactic & Semantic Analysis: 문장의 구조(문법)와 실질적인 의미(콘텐츠)를 분석.
  • Key Tasks: 기계 번역, 감성 분석, 질문 답변(QA), 개체명 인식(NER), 요약.
  • Evolution: 규칙 기반(Rule-based) -> 통계 기반(Statistical) -> 딥러닝 기반(RNN/LSTM) -> 트랜스포머 기반(LLM)으로 진화.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 문법 규칙을 일일이 가르치던 방식에서, 방대한 데이터를 통해 언어의 통계적 구조와 지식을 스스로 학습하는 방식으로 정착.
• 정책 변화: Antigravity 프로젝트는 NLP 기술을 활용하여 방대한 원시 데이터(00_Raw)를 자동으로 분류하고 핵심 지식을 추출하여 위키화함.

🔗 지식 연결 (Graph)

• LLM, Word-Embeddings, Transformer-Architecture, Information-Extraction
• Raw Source: 10_Wiki/Topics/AI/Natural-Language-Processing.md