---
id: NLP-LSA-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [nlp, lsa, svd, latent-semantics, dimensional-reduction, [[Search|Search]]-[[Optimization|Optimization]]]
last_reinforced: 2026-04-26
---

# Latent Semantic [[Analysis|Analysis]] (LSA, 잠재 의미 분석)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "서로 다른 단어라도 같은 의미를 품고 있다면, 고차원 수학의 눈(SVD)으로 그들을 한곳으로 모아라" — 단어-문서 행렬을 특이값 분해(SVD)하여 데이터의 차원을 축소하고, 이를 통해 단어들 사이에 숨겨진 잠재적인 의미 구조를 파악하는 기법.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Semantic [[Noise|Noise]] Reduction" — 철자가 다르지만 의미가 비슷한 유의어 문제를 해결하기 위해, 중복되거나 중요도가 낮은 정보를 제거하고 핵심적인 '의미적 특징'만을 남기는 차원 축소 패턴.
- **작동 원리:**
    - **Step 1:** 단어-문서 행렬(DTM) 생성.
    - **Step 2:** TF-IDF 등을 통해 단어의 가중치 조절.
    - **Step 3:** SVD를 수행하여 상위 K개의 특이값만 남기고 나머지 삭제 (차원 축소).
- **의의:** 동의어(Synonymy) 문제를 효과적으로 처리할 수 있으며, 현대 임베딩 기술(Word2Vec 등)이 나오기 전까지 텍스트의 의미적 유사도를 측정하는 표준 기술로 군림함.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 단어의 순서를 무시하는 Bag-of-Words 기반의 한계와 새로운 데이터 추가 시 전체 행렬을 다시 분해해야 하는 비효율성으로 인해, 최근에는 신경망 기반의 벡터 임베딩 기술로 대체되는 추세.
- **정책 변화:** Antigravity 프로젝트는 과거에 구축된 대규모 텍스트 아카이브를 빠르게 색인화하고 주제 간의 거대 지도를 시각화할 때, 연산 속도가 빠른 LSA를 초기 분석 도구로 병행함.

## 🔗 지식 연결 (Graph)
- [[Latent-Dirichlet-Allocation|Latent-Dirichlet-Allocation]], [[Dimensionality-Reduction|Dimensionality-Reduction]], [[Information-Retrieval-IR|Information-Retrieval-IR]], NLP-Foundations
- **Raw Source:** 10_Wiki/Topics/AI/Latent-Semantic-Analysis-LSA.md
