---
id: MATH-PCA-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [[Statistics|[Statistics]], math, pca, dimension-reduction, un[[Supervised-Learning|Supervised-Learning]], data-science]
last_reinforced: 2026-04-26
---

# PCA and Dimension Reduction (PCA와 차원 축소)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "데이터의 흩어짐(Variance)이 가장 큰 핵심 축을 찾아, 고차원의 안개를 걷어내고 데이터의 진정한 뼈대를 드러내라" — 변수들 사이의 상관관계를 분석하여 주성분(Principal Components)을 추출함으로써, 정보의 손실을 최소화하며 데이터의 차원을 낮추는 통계적 방법론.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Variance Maximization and Orthogonal Projection" — 데이터의 분산이 가장 크게 보존되는 방향으로 좌표축을 회전시키고, 중요도가 낮은 축(고유값이 작은 축)을 제거하여 데이터의 본질적인 구조를 저차원의 평면에 투영하는 패턴.
- **핵심 단계:**
    - **Standardization:** 변수들의 단위를 맞춤 (평균 0, 분산 1).
    - **Covariance Matrix:** 변수 간의 관계 파악.
    - **Eigen-decomposition:** 주성분 방향(고유벡터)과 중요도(고유값) 산출.
    - **Projection:** 상위 k개의 주성분으로 데이터 변환.
- **의의:** 차원의 저주(Curse of Dimensionality)를 극복하고, 모델의 과적합을 방지하며, 수천 차원의 임베딩 데이터를 2D/3D로 시각화하여 인간이 이해할 수 있게 함.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 선형적인 관계만 포착할 수 있는 PCA의 한계를 넘어, 최근에는 커널 PCA나 오토인코더를 이용한 비선형 차원 축소, 그리고 t-SNE나 UMAP과 같이 데이터의 지역적 구조 보존에 특화된 시각화 기법들이 함께 활용됨.
- **정책 변화:** Antigravity 프로젝트는 1,174개 문서의 임베딩 벡터를 시각화하여 지식의 군집(Cluster) 상태를 점검할 때, PCA를 1차 필터로 사용하여 전체적인 데이터 분포를 조망함.

## 🔗 지식 연결 (Graph)
- Principal-Component-[[Analysis|Analysis]]-PCA, [[Multivariate-Analysis|Multivariate-Analysis]], [[Exploratory-Data-Analysis|Exploratory-Data-Analysis]], Autoencoders-in-[[Deep-Learning|Deep-Learning]]
- **Raw Source:** 10_Wiki/Topics/AI/PCA-and-Dimension-Reduction.md
