---
id: AI-ENS-STACK-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, machine-learning, ensemble, stacking, stacked-generalization, meta-learning, predictive-modeling]
last_reinforced: 2026-04-26
---

# Stacked Generalization (스택 일반화)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "여러 모델의 예측 결과라는 새로운 차원의 데이터를 만들고, 이를 다시 학습하는 '메타 모델(Meta-model)'을 통해 개별 지능의 편향을 상쇄하고 통합된 통찰을 도출하라" — 서로 다른 모델들의 장점을 결합하여 단일 모델보다 강력한 일반화 성능을 얻기 위해 층(Stack)을 쌓아 학습하는 앙상블 기법.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Multi-level Learning and Predictive Synthesis" — 1단계에서 여러 기저 모델(Base Models)을 독립적으로 학습시켜 예측값을 얻고, 2단계에서 이 예측값들을 입력값으로 삼아 최종 정답을 맞히는 메타 모델을 학습시켜 최적의 조합을 찾아내는 패턴.
- **핵심 프로세스:**
    - **Base Models (Level 0):** 랜덤 포레스트, XGBoost, 신경망 등 다양한 특성의 모델들.
    - **Meta Model (Level 1):** 기저 모델들의 예측 패턴을 학습하여 최종 결론 도출 (주로 선형 회귀나 가벼운 모델 사용).
    - **Out-of-fold Prediction:** 과적합을 막기 위해 교차 검증(Cross-validation)을 통해 메타 데이터를 생성하는 것이 필수.
- **의의:** 단일 모델로는 도달하기 힘든 극단적인 정확도를 달성하게 해주며, 모델들 간의 보완적 관계를 데이터로부터 스스로 학습하게 함.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 단순히 모델을 많이 합치면 좋다는 맹신에서 벗어나, 이제는 모델 간의 상관관계(Correlation)가 낮을수록(즉, 서로 다른 방식으로 틀릴수록) 스태킹의 효과가 극대화된다는 사실이 설계의 핵심 원칙이 됨.
- **정책 변화:** Antigravity 프로젝트는 에이전트의 최종 판단 신뢰도를 높이기 위해, 서로 다른 아키텍처를 가진 언어 모델들의 응답을 종합하여 최적의 답변을 선택하는 스택 일반화 로직을 추론 파이프라인에 적용함.

## 🔗 지식 연결 (Graph)
- [[Random-Forest-Classifiers]], [[Optimization-in-AI]], [[Performance-Metrics-in-AI]], [[Representation-Learning]]
- **Raw Source:** 10_Wiki/Topics/AI/Stacked-Generalization.md