Antigravity Agent
2.6 KiB
2.6 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | |||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
| AI-ENS-STACK-001 | 10_Wiki/💡 Topics/AI | 1.0 |
|
2026-04-26 |
Stacked Generalization (스택 일반화)
📌 한 줄 통찰 (The Karpathy Summary)
"여러 모델의 예측 결과라는 새로운 차원의 데이터를 만들고, 이를 다시 학습하는 '메타 모델(Meta-model)'을 통해 개별 지능의 편향을 상쇄하고 통합된 통찰을 도출하라" — 서로 다른 모델들의 장점을 결합하여 단일 모델보다 강력한 일반화 성능을 얻기 위해 층(Stack)을 쌓아 학습하는 앙상블 기법.
📖 구조화된 지식 (Synthesized Content)
- 추출된 패턴: "Multi-level Learning and Predictive Synthesis" — 1단계에서 여러 기저 모델(Base Models)을 독립적으로 학습시켜 예측값을 얻고, 2단계에서 이 예측값들을 입력값으로 삼아 최종 정답을 맞히는 메타 모델을 학습시켜 최적의 조합을 찾아내는 패턴.
- 핵심 프로세스:
- Base Models (Level 0): 랜덤 포레스트, XGBoost, 신경망 등 다양한 특성의 모델들.
- Meta Model (Level 1): 기저 모델들의 예측 패턴을 학습하여 최종 결론 도출 (주로 선형 회귀나 가벼운 모델 사용).
- Out-of-fold Prediction: 과적합을 막기 위해 교차 검증(Cross-validation)을 통해 메타 데이터를 생성하는 것이 필수.
- 의의: 단일 모델로는 도달하기 힘든 극단적인 정확도를 달성하게 해주며, 모델들 간의 보완적 관계를 데이터로부터 스스로 학습하게 함.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 단순히 모델을 많이 합치면 좋다는 맹신에서 벗어나, 이제는 모델 간의 상관관계(Correlation)가 낮을수록(즉, 서로 다른 방식으로 틀릴수록) 스태킹의 효과가 극대화된다는 사실이 설계의 핵심 원칙이 됨.
- 정책 변화: Antigravity 프로젝트는 에이전트의 최종 판단 신뢰도를 높이기 위해, 서로 다른 아키텍처를 가진 언어 모델들의 응답을 종합하여 최적의 답변을 선택하는 스택 일반화 로직을 추론 파이프라인에 적용함.
🔗 지식 연결 (Graph)
- Random-Forest-Classifiers, Optimization-in-AI, Performance-Metrics-in-AI, Representation-Learning
- Raw Source: 10_Wiki/Topics/AI/Stacked-Generalization.md