Antigravity Agent
2.4 KiB
2.4 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||
|---|---|---|---|---|---|---|---|---|---|---|
| MATH-PCA-001 | 10_Wiki/💡 Topics/AI | 1.0 |
|
2026-04-26 |
PCA and Dimension Reduction (PCA와 차원 축소)
📌 한 줄 통찰 (The Karpathy Summary)
"데이터의 흩어짐(Variance)이 가장 큰 핵심 축을 찾아, 고차원의 안개를 걷어내고 데이터의 진정한 뼈대를 드러내라" — 변수들 사이의 상관관계를 분석하여 주성분(Principal Components)을 추출함으로써, 정보의 손실을 최소화하며 데이터의 차원을 낮추는 통계적 방법론.
📖 구조화된 지식 (Synthesized Content)
- 추출된 패턴: "Variance Maximization and Orthogonal Projection" — 데이터의 분산이 가장 크게 보존되는 방향으로 좌표축을 회전시키고, 중요도가 낮은 축(고유값이 작은 축)을 제거하여 데이터의 본질적인 구조를 저차원의 평면에 투영하는 패턴.
- 핵심 단계:
- Standardization: 변수들의 단위를 맞춤 (평균 0, 분산 1).
- Covariance Matrix: 변수 간의 관계 파악.
- Eigen-decomposition: 주성분 방향(고유벡터)과 중요도(고유값) 산출.
- Projection: 상위 k개의 주성분으로 데이터 변환.
- 의의: 차원의 저주(Curse of Dimensionality)를 극복하고, 모델의 과적합을 방지하며, 수천 차원의 임베딩 데이터를 2D/3D로 시각화하여 인간이 이해할 수 있게 함.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 선형적인 관계만 포착할 수 있는 PCA의 한계를 넘어, 최근에는 커널 PCA나 오토인코더를 이용한 비선형 차원 축소, 그리고 t-SNE나 UMAP과 같이 데이터의 지역적 구조 보존에 특화된 시각화 기법들이 함께 활용됨.
- 정책 변화: Antigravity 프로젝트는 1,174개 문서의 임베딩 벡터를 시각화하여 지식의 군집(Cluster) 상태를 점검할 때, PCA를 1차 필터로 사용하여 전체적인 데이터 분포를 조망함.
🔗 지식 연결 (Graph)
- Principal-Component-Analysis-PCA, Multivariate-Analysis, Exploratory-Data-Analysis, Autoencoders-in-Deep-Learning
- Raw Source: 10_Wiki/Topics/AI/PCA-and-Dimension-Reduction.md