--- id: MATH-PCA-DET-001 category: "10_Wiki/πŸ’‘ Topics/AI" confidence_score: 1.0 tags: [math, linear-algebra, pca, principal-component-analysis, statistics, dimensionality-reduction] last_reinforced: 2026-04-26 --- # Principal Component Analysis (μ£Όμ„±λΆ„ 뢄석) ## πŸ“Œ ν•œ 쀄 톡찰 (The Karpathy Summary) > "λ°μ΄ν„°μ˜ 혼돈 μ†μ—μ„œ κ°€μž₯ κ°•ν•œ μ—λ„ˆμ§€κ°€ λΆ„μΆœλ˜λŠ” 'μ£Όμ„±λΆ„'의 λ°©ν–₯을 μ°Ύκ³ , κ·Έ 좕을 μ€‘μ‹¬μœΌλ‘œ 세상을 λ‹€μ‹œ μ •λ ¬ν•˜λΌ" β€” 고차원 λ°μ΄ν„°μ˜ 정보λ₯Ό μ„ ν˜• 결합을 톡해 μ„œλ‘œ 상관관계가 μ—†λŠ” μ£Όμ„±λΆ„λ“€λ‘œ λ³€ν™˜ν•˜μ—¬ 데이터λ₯Ό μš”μ•½ν•˜κ³  κ΅¬μ‘°ν™”ν•˜λŠ” 톡계적 기법. ## πŸ“– κ΅¬μ‘°ν™”λœ 지식 (Synthesized Content) - **μΆ”μΆœλœ νŒ¨ν„΄:** "Orthogonal Transformation and Information Compaction" β€” λ°μ΄ν„°μ˜ 곡뢄산 행렬을 κ³ μœ λΆ„ν•΄(Eigen-decomposition)ν•˜μ—¬, 뢄산이 큰 μˆœμ„œλŒ€λ‘œ 수직인 κΈ°μ € 벑터듀을 μ°Ύμ•„λ‚΄κ³  데이터λ₯Ό κ·Έ μΆ• μœ„λ‘œ μ •μ‚¬μ˜(Projection)μ‹œν‚€λŠ” μˆ˜ν•™μ  νŒ¨ν„΄. - **μˆ˜ν•™μ  3λŒ€ μ •μˆ˜:** - **Eigenvectors (κ³ μœ λ²‘ν„°):** 데이터가 κ°€μž₯ 많이 흩어져 μžˆλŠ” 'λ°©ν–₯'. 즉, μƒˆλ‘œμš΄ μΆ•. - **Eigenvalues (κ³ μœ κ°’):** κ·Έ 좕이 μ–Όλ§ˆλ‚˜ λ§Žμ€ 정보λ₯Ό λ‹΄κ³  μžˆλŠ”μ§€λ₯Ό λ‚˜νƒ€λ‚΄λŠ” '크기'. - **Variance Preservation:** μƒμœ„ λͺ‡ 개의 μ£Όμ„±λΆ„λ§ŒμœΌλ‘œ 원본 데이터 μ •λ³΄μ˜ 80~90%λ₯Ό 보쑴 κ°€λŠ₯. - **의의:** 데이터 λ‚΄μ˜ λ…Έμ΄μ¦ˆλ₯Ό μ œκ±°ν•˜κ³  핡심적인 λ³€μˆ˜ 쑰합을 μ°Ύμ•„λƒ„μœΌλ‘œμ¨, 기계 ν•™μŠ΅ λͺ¨λΈμ˜ ν•™μŠ΅ 속도λ₯Ό 높이고 닀차원 λ°μ΄ν„°μ˜ μ‹œκ°μ  해석을 κ°€λŠ₯μΌ€ 함. ## ⚠️ λͺ¨μˆœ 및 μ—…λ°μ΄νŠΈ (Contradictions & RL Update) - **κ³Όκ±° λ°μ΄ν„°μ™€μ˜ 좩돌:** λ³€μˆ˜κ°€ λ§Žμ„μˆ˜λ‘ μ’‹λ‹€λŠ” 양적 팽창의 μ‹œλŒ€μ—μ„œ, μ΄μ œλŠ” λ°μ΄ν„°μ˜ 쀑볡성(Redundancy)을 μ œκ±°ν•˜κ³  'κ°€μž₯ μ„€λͺ…λ ₯이 높은' 핡심 λ³€μˆ˜λ§Œμ„ λ‚¨κΈ°λŠ” 질적 μ••μΆ•μ˜ μ‹œλŒ€λ‘œ μ „ν™˜λ˜λŠ” 핡심 λ„κ΅¬λ‘œ μž‘μš©ν•¨. - **μ •μ±… λ³€ν™”:** Antigravity ν”„λ‘œμ νŠΈλŠ” μ—μ΄μ „νŠΈμ˜ λ‹€μ–‘ν•œ μ„±λŠ₯ μ§€ν‘œλ“€ μ‚¬μ΄μ˜ λΆˆν•„μš”ν•œ 상관관계λ₯Ό μ œκ±°ν•˜κ³  핡심 μ„±κ³Ό 동인을 νŒŒμ•…ν•˜κΈ° μœ„ν•΄, 주기적으둜 리포트 데이터에 PCA 뢄석을 μ μš©ν•˜μ—¬ μΈμ‚¬μ΄νŠΈλ₯Ό λ„μΆœν•¨. ## πŸ”— 지식 μ—°κ²° (Graph) - [[PCA-and-Dimension-Reduction|PCA-and-Dimension-Reduction]], [[Multivariate-Analysis|Multivariate-Analysis]], [[Linear-Algebra-Foundations|Linear-Algebra-Foundations]], Feature-Engineering-Best-Practices - **Raw Source:** 10_Wiki/Topics/AI/Principal-Component-Analysis.md