2nd/10_Wiki/Topics/AI/Linear-Algebra-for-ML.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
MATH-LA-001	10_Wiki/💡 Topics/AI	1.0	math machine-learning linear-algebra vectors matrices	2026-04-26

Linear Algebra for ML (머신러닝을 위한 선형대수)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터를 공간으로, 연산을 행렬로 이해하라" — 고차원 데이터를 벡터와 행렬이라는 수학적 객체로 치환하여 방대한 양의 연산을 효율적으로 처리하고 기하학적으로 해석하게 해주는 AI의 근간 언어.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 복잡한 선형 관계를 행렬 연산(Dot product, Matrix Multiplication)으로 단순화하여 대규모 병렬 연산(GPU)이 가능하게 만드는 수치 계산 패턴.
• 핵심 개념:
  • Vectors & Vector Spaces: 데이터를 고차원 공간상의 점으로 표현.
  • Matrices & Linear Transformations: 공간을 변환하거나 투영하는 도구. 신경망의 '레이어'가 바로 이 행렬 연산임.
  • Eigenvalues & Eigenvectors: 시스템의 고유한 특성(방향과 크기)을 추출. 주성분 분석(PCA)의 기초.
  • Singular Value Decomposition (SVD): 복잡한 행렬을 단순한 세 개의 행렬로 분해하여 데이터 압축 및 특징 추출에 활용.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 단순한 산술 연산 수준에서, 현대에는 수천억 개의 파라미터를 동시에 처리하는 텐서(Tensor) 연산과 희소 행렬(Sparse Matrix) 최적화의 영역으로 확장됨.
• 정책 변화: Antigravity 프로젝트의 '벡터 검색' 엔진은 선형대수의 코사인 유사도(Cosine Similarity) 원리를 바탕으로 가장 관련성 높은 문서를 실시간으로 검색함.

🔗 지식 연결 (Graph)

• Calculus-for-ML, Statistics-for-ML, PCA, Vector-Database
• Raw Source: 10_Wiki/Topics/AI/Linear-Algebra-for-ML.md