--- id: MATH-LA-001 category: Unified confidence_score: 1.0 tags: [math, machine-learning, [[Linear-Algebra|Linear-Algebra]], vectors, matrices] last_reinforced: 2026-04-26 --- # Linear Algebra for ML (머신러닝을 위한 선형대수) ## 📌 한 줄 통찰 (The Karpathy Summary) > "데이터를 공간으로, 연산을 행렬로 이해하라" — 고차원 데이터를 벡터와 행렬이라는 수학적 객체로 치환하여 방대한 양의 연산을 효율적으로 처리하고 기하학적으로 해석하게 해주는 AI의 근간 언어. ## 📖 구조화된 지식 (Synthesized Content) - **추출된 패턴:** 복잡한 선형 관계를 행렬 연산(Dot product, Matrix Multiplication)으로 단순화하여 대규모 병렬 연산(GPU)이 가능하게 만드는 수치 계산 패턴. - **핵심 개념:** - **Vectors & Vector Spaces:** 데이터를 고차원 공간상의 점으로 표현. - **Matrices & Linear Transformations:** 공간을 변환하거나 투영하는 도구. 신경망의 '레이어'가 바로 이 행렬 연산임. - **Eigenvalues & Eigenvectors:** 시스템의 고유한 특성(방향과 크기)을 추출. 주성분 분석(PCA)의 기초. - **Singular Value Decomposition (SVD):** 복잡한 행렬을 단순한 세 개의 행렬로 분해하여 데이터 압축 및 특징 추출에 활용. ## ⚠️ 모순 및 업데이트 (Contradictions & RL Update) - **과거 데이터와의 충돌:** 단순한 산술 연산 수준에서, 현대에는 수천억 개의 파라미터를 동시에 처리하는 텐서(Tensor) 연산과 희소 행렬(Sparse Matrix) 최적화의 영역으로 확장됨. - **정책 변화:** Antigravity 프로젝트의 '벡터 검색' 엔진은 선형대수의 코사인 유사도(Cosine Similarity) 원리를 바탕으로 가장 관련성 높은 문서를 실시간으로 검색함. ## 🔗 지식 연결 (Graph) - Calculus-for-ML, [[Statistics|Statistics]]-for-ML, PCA, Vector-Database - **Raw Source:** 10_Wiki/Topics/AI/Linear-Algebra-for-ML.md