Ridge Regression (릿지 회귀)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터의 노이즈에 과민반응하지 않도록 가중치의 제곱합(L2)을 제한하여, 부드럽고 강건한 예측의 곡선을 설계하라" — 선형 회귀의 손실 함수에 가중치의 제곱에 비례하는 페널티 항을 추가하여 모델의 복잡도를 제어하고 과적합을 방지하는 규제 기법.

추출된 패턴: "Weight Shrinkage and Variance Reduction" — 모든 가중치를 골고루 0에 가깝게 수렴시키되 완전히 0으로 만들지는 않음으로써, 특정 변수에 대한 과도한 의존성을 줄이고 모델의 일반화 성능(Generalization)을 높이는 패턴.
핵심 메커니즘:
- L2 Regularization: 가중치 벡터의 L2 노름(Norm)을 최소화.
- Hyperparameter \lambda (Lambda): 규제의 강도를 조절. 값이 클수록 규제가 강해짐.
- Bias-Variance Tradeoff: 편향(Bias)은 약간 증가시키되 분산(Variance)을 대폭 낮추어 전체 오차 최소화.
의의: 다중공선성(Multicollinearity) 문제가 있는 데이터셋에서 선형 회귀보다 훨씬 안정적인 성능을 보이며, 거의 모든 머신러닝 모델의 기본 규제 장치로 활용됨.

과거 데이터와의 충돌: 변수를 완전히 제거하여 모델을 단순화하려는 Lasso(L1)와 달리, 데이터의 모든 정보를 조금씩이라도 유지하려는 특성이 있어 변수 간 상관관계가 높은 실전 데이터에서 종종 더 우수한 성능을 나타냄.
정책 변화: Antigravity 프로젝트는 에이전트의 성능 예측 모델 구축 시, 소수의 성능 지표에만 치우치지 않는 균형 잡힌 판단을 위해 릿지 회귀 기반의 규제 로직을 적용함.