Files
2nd/10_Wiki/Topics_Blog/Dimensionality-Reduction.md
T

29 lines
2.2 KiB
Markdown

---
id: DIM-REDUC-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, machine-learning, statistics, dimensionality-reduction, pca, tsne]
last_reinforced: 2026-04-26
---
# Dimensionality Reduction (차원 축소)
## 📌 한 줄 통찰 (The Karpathy Summary)
> "데이터의 덩치는 줄이되, 그 안에 담긴 핵심 메시지는 보존하라" — 수많은 변수(Feature)를 가진 고차원 데이터를 본질적인 특징을 잃지 않으면서 낮은 차원으로 변환하여, 연산 효율을 높이고 데이터 시각화를 가능하게 하는 기법.
## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** 중복되거나 노이즈에 가까운 차원을 제거하고 데이터의 분산(Variance)이나 구조적 유사성을 가장 잘 설명하는 새로운 축을 찾아 정보를 압축하는 패턴.
- **주요 기법:**
- **PCA (Principal Component Analysis):** 데이터의 분산이 최대인 방향으로 선형 결합하여 차원 축소 (선형 방식).
- **t-SNE / UMAP:** 고차원에서 가까운 데이터는 저차원에서도 가깝게 유지 (비선형 방식, 시각화에 탁월).
- **Autoencoders:** 신경망의 병목 구조를 통해 데이터를 압축 및 복원하며 핵심 특징 추출.
- **장점:** 차원의 저주(Curse of Dimensionality) 해결, 오버피팅 방지, 연산 속도 향상, 2D/3D 시각화를 통한 인사이트 도출.
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 단순히 데이터를 삭제(Feature Selection)하던 방식에서, 전체 데이터의 상관관계를 고려하여 새로운 정보를 창출(Feature Extraction)하는 방식으로 진화.
- **정책 변화:** Antigravity 프로젝트는 수천 개의 위키 문서 임베딩 벡터를 클러스터링하고 지식 지도로 시각화할 때 UMAP이나 t-SNE 기법을 사용하여 지식 간의 거리를 직관적으로 노출함.
## 🔗 지식 연결 (Graph)
- Principal-Component-Analysis-PCA, Unsupervised-Learning-Foundations, Autoencoder, [[Representation-Learning|Representation-Learning]]
- **Raw Source:** 10_Wiki/Topics/AI/Dimensionality-Reduction.md