29 lines
2.3 KiB
Markdown
29 lines
2.3 KiB
Markdown
---
|
|
id: MATH-REG-RID-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 1.0
|
|
tags: [math, statistics, machine-learning, regression, l2-regularization, ridge-regression, overfitting]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Ridge Regression (릿지 회귀)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "데이터의 노이즈에 과민반응하지 않도록 가중치의 제곱합(L2)을 제한하여, 부드럽고 강건한 예측의 곡선을 설계하라" — 선형 회귀의 손실 함수에 가중치의 제곱에 비례하는 페널티 항을 추가하여 모델의 복잡도를 제어하고 과적합을 방지하는 규제 기법.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** "Weight Shrinkage and Variance Reduction" — 모든 가중치를 골고루 0에 가깝게 수렴시키되 완전히 0으로 만들지는 않음으로써, 특정 변수에 대한 과도한 의존성을 줄이고 모델의 일반화 성능(Generalization)을 높이는 패턴.
|
|
- **핵심 메커니즘:**
|
|
- **L2 Regularization:** 가중치 벡터의 L2 노름(Norm)을 최소화.
|
|
- **Hyperparameter $\lambda$ (Lambda):** 규제의 강도를 조절. 값이 클수록 규제가 강해짐.
|
|
- **Bias-Variance Tradeoff:** 편향(Bias)은 약간 증가시키되 분산(Variance)을 대폭 낮추어 전체 오차 최소화.
|
|
- **의의:** 다중공선성(Multicollinearity) 문제가 있는 데이터셋에서 선형 회귀보다 훨씬 안정적인 성능을 보이며, 거의 모든 머신러닝 모델의 기본 규제 장치로 활용됨.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 변수를 완전히 제거하여 모델을 단순화하려는 Lasso(L1)와 달리, 데이터의 모든 정보를 조금씩이라도 유지하려는 특성이 있어 변수 간 상관관계가 높은 실전 데이터에서 종종 더 우수한 성능을 나타냄.
|
|
- **정책 변화:** Antigravity 프로젝트는 에이전트의 성능 예측 모델 구축 시, 소수의 성능 지표에만 치우치지 않는 균형 잡힌 판단을 위해 릿지 회귀 기반의 규제 로직을 적용함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Regression-Analysis-Foundations]], [[Regularization-Strategies]], [[Overfitting-and-Underfitting]], [[Loss-Functions-Foundations]]
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Ridge-Regression.md
|