2nd/10_Wiki/Topics/Least-Squares-Methods.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
MATH-LSM-001	Unified	1.0	math Statistics|Statistics linear-regression least-squares Optimization|Optimization data-science	2026-04-26

Least Squares Methods (최소제곱법)

📌 한 줄 통찰 (The Karpathy Summary)

"실제 데이터와 예측값 사이의 벌어진 틈(Residuals)을 최소로 좁히는 가장 정직한 직선을 그려라" — 데이터 포인트들과 모델 함수 사이의 오차 제곱합을 최소화함으로써 가장 적합한 파라미터를 찾아내는 회귀 분석의 핵심 수학 기법.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Error Minimization" — 개별 오차의 절대값 대신 제곱을 사용함으로써 큰 오차에 더 큰 벌점을 부여하고, 미분이 가능한 매끄러운 손실 함수를 구성하여 수학적으로 명확한 최적해를 구하는 패턴.
• 핵심 원리:
  • Residuals: 관측값과 모델이 예측한 값의 차이.
  • Objective Function: \sum (y_i - \hat{y}_i)^2 를 최소화.
  • Normal Equation: 행렬 연산을 통해 반복적 계산 없이 한 번에 최적의 가중치를 구하는 공식.
• 의의: 선형 회귀분석의 표준 방법론이며, 데이터 속에 숨겨진 선형적 관계를 파악하고 미래 값을 예측하는 가장 기초적이면서 강력한 도구.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 이상치(Outliers)에 매우 민감하다는 단점이 있어, 실제 산업 데이터 처리 시에는 로버스트 회귀(Robust Regression)나 정규화(L1/L2) 기법과 결합하여 한계를 보완함.
• 정책 변화: Antigravity 프로젝트는 에이전트의 응답 지연 시간 경향성을 분석하고 하드웨어 자원 사용량의 선형적 추세를 예측할 때, 최소제곱법 기반의 회귀 모델을 활용함.

🔗 지식 연결 (Graph)

• Linear-Regression-Mastery, Gradient-Descent-Foundations, L1-and-L2-Regularization, Probability-Theory
• Raw Source: 10_Wiki/Topics/AI/Least-Squares-Methods.md