---
id: MATH-LSM-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [math, statistics, linear-regression, least-squares, optimization, data-science]
last_reinforced: 2026-04-26
---

# Least Squares Methods (최소제곱법)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "실제 데이터와 예측값 사이의 벌어진 틈(Residuals)을 최소로 좁히는 가장 정직한 직선을 그려라" — 데이터 포인트들과 모델 함수 사이의 오차 제곱합을 최소화함으로써 가장 적합한 파라미터를 찾아내는 회귀 분석의 핵심 수학 기법.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Error Minimization" — 개별 오차의 절대값 대신 제곱을 사용함으로써 큰 오차에 더 큰 벌점을 부여하고, 미분이 가능한 매끄러운 손실 함수를 구성하여 수학적으로 명확한 최적해를 구하는 패턴.
- **핵심 원리:**
    - **Residuals:** 관측값과 모델이 예측한 값의 차이.
    - **Objective Function:** $\sum (y_i - \hat{y}_i)^2$ 를 최소화.
    - **Normal Equation:** 행렬 연산을 통해 반복적 계산 없이 한 번에 최적의 가중치를 구하는 공식.
- **의의:** 선형 회귀분석의 표준 방법론이며, 데이터 속에 숨겨진 선형적 관계를 파악하고 미래 값을 예측하는 가장 기초적이면서 강력한 도구.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 이상치(Outliers)에 매우 민감하다는 단점이 있어, 실제 산업 데이터 처리 시에는 로버스트 회귀(Robust Regression)나 정규화(L1/L2) 기법과 결합하여 한계를 보완함.
- **정책 변화:** Antigravity 프로젝트는 에이전트의 응답 지연 시간 경향성을 분석하고 하드웨어 자원 사용량의 선형적 추세를 예측할 때, 최소제곱법 기반의 회귀 모델을 활용함.

## 🔗 지식 연결 (Graph)
- [[Linear-Regression-Mastery]], Gradient-Descent-Foundations, [[L1-and-L2-Regularization]], Probability-Theory
- **Raw Source:** 10_Wiki/Topics/AI/Least-Squares-Methods.md