2nd/10_Wiki/Topics/Latent-Semantic-Analysis-LSA.md

---

id: NLP-LSA-001 category: Unified confidence_score: 1.0 tags: [nlp, lsa, svd, latent-semantics, dimensional-reduction, Search-Optimization] last_reinforced: 2026-04-26

Latent Semantic Analysis (LSA, 잠재 의미 분석)

📌 한 줄 통찰 (The Karpathy Summary)

"서로 다른 단어라도 같은 의미를 품고 있다면, 고차원 수학의 눈(SVD)으로 그들을 한곳으로 모아라" — 단어-문서 행렬을 특이값 분해(SVD)하여 데이터의 차원을 축소하고, 이를 통해 단어들 사이에 숨겨진 잠재적인 의미 구조를 파악하는 기법.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Semantic Noise Reduction" — 철자가 다르지만 의미가 비슷한 유의어 문제를 해결하기 위해, 중복되거나 중요도가 낮은 정보를 제거하고 핵심적인 '의미적 특징'만을 남기는 차원 축소 패턴.
• 작동 원리:
  • Step 1: 단어-문서 행렬(DTM) 생성.
  • Step 2: TF-IDF 등을 통해 단어의 가중치 조절.
  • Step 3: SVD를 수행하여 상위 K개의 특이값만 남기고 나머지 삭제 (차원 축소).
• 의의: 동의어(Synonymy) 문제를 효과적으로 처리할 수 있으며, 현대 임베딩 기술(Word2Vec 등)이 나오기 전까지 텍스트의 의미적 유사도를 측정하는 표준 기술로 군림함.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 단어의 순서를 무시하는 Bag-of-Words 기반의 한계와 새로운 데이터 추가 시 전체 행렬을 다시 분해해야 하는 비효율성으로 인해, 최근에는 신경망 기반의 벡터 임베딩 기술로 대체되는 추세.
• 정책 변화: Antigravity 프로젝트는 과거에 구축된 대규모 텍스트 아카이브를 빠르게 색인화하고 주제 간의 거대 지도를 시각화할 때, 연산 속도가 빠른 LSA를 초기 분석 도구로 병행함.

🔗 지식 연결 (Graph)

• Latent-Dirichlet-Allocation, Dimensionality-Reduction, Information-Retrieval-IR, NLP-Foundations
• Raw Source: 10_Wiki/Topics/AI/Latent-Semantic-Analysis-LSA.md