2nd/10_Wiki/Topics/AI_and_ML/Stacked-Generalization.md

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit, inferred_by, tech_stack

id	title	category	status	canonical_id	aliases	duplicate_of	source_trust_level	confidence_score	tags	raw_sources	last_reinforced	github_commit	inferred_by	tech_stack
wiki-2026-0508-stacked-generalization	Stacked Generalization	10_Wiki/Topics	needs_review	self	AI-ENS-STACK-001	none	A	1.0	ai machine-learning ensemble stacking stacked-generalization meta-learning predictive-modeling		2026-04-26	pending	Claude Opus 4.7 (auto-normalize 2026-05-08)	language framework unspecified unspecified

Stacked Generalization (스택 일반화)

📌 한 줄 통찰 (The Karpathy Summary)

"여러 모델의 예측 결과라는 새로운 차원의 데이터를 만들고, 이를 다시 학습하는 '메타 모델(Meta-model)'을 통해 개별 지능의 편향을 상쇄하고 통합된 통찰을 도출하라" — 서로 다른 모델들의 장점을 결합하여 단일 모델보다 강력한 일반화 성능을 얻기 위해 층(Stack)을 쌓아 학습하는 앙상블 기법.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Multi-level Learning and Predictive Synthesis" — 1단계에서 여러 기저 모델(Base Models)을 독립적으로 학습시켜 예측값을 얻고, 2단계에서 이 예측값들을 입력값으로 삼아 최종 정답을 맞히는 메타 모델을 학습시켜 최적의 조합을 찾아내는 패턴.
• 핵심 프로세스:
  • Base Models (Level 0): 랜덤 포레스트, XGBoost, 신경망 등 다양한 특성의 모델들.
  • Meta Model (Level 1): 기저 모델들의 예측 패턴을 학습하여 최종 결론 도출 (주로 선형 회귀나 가벼운 모델 사용).
  • Out-of-fold Prediction: 과적합을 막기 위해 교차 검증(Cross-validation)을 통해 메타 데이터를 생성하는 것이 필수.
• 의의: 단일 모델로는 도달하기 힘든 극단적인 정확도를 달성하게 해주며, 모델들 간의 보완적 관계를 데이터로부터 스스로 학습하게 함.

⚠️ 모순 및 업데이트 (Contradictions & Updates)

• 과거 데이터와의 충돌: 단순히 모델을 많이 합치면 좋다는 맹신에서 벗어나, 이제는 모델 간의 상관관계(Correlation)가 낮을수록(즉, 서로 다른 방식으로 틀릴수록) 스태킹의 효과가 극대화된다는 사실이 설계의 핵심 원칙이 됨.
• 정책 변화: Antigravity 프로젝트는 에이전트의 최종 판단 신뢰도를 높이기 위해, 서로 다른 아키텍처를 가진 언어 모델들의 응답을 종합하여 최적의 답변을 선택하는 스택 일반화 로직을 추론 파이프라인에 적용함.

🔗 지식 연결 (Graph)

• Random-Forest-Classifiers, Optimization-in-AI, Performance-Metrics-in-AI, Representation-Learning
• Raw Source: 10_Wiki/Topics/AI/Stacked-Generalization.md

🤖 LLM 활용 힌트 (How to Use This Knowledge)

언제 이 지식을 쓰는가:

• (TODO)

언제 쓰면 안 되는가:

• (TODO)

🧪 검증 상태 (Validation)

• 정보 상태: needs_review
• 출처 신뢰도: A
• 검토 이유: (P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)

🧬 중복 검사 (Duplicate Check)

• 기존 유사 문서: (TODO: 인덱서 클러스터 리포트 참조)
• 처리 방식: UPDATE (자동 정규화)
• 처리 이유: Phase 1 정규화 — 옛 템플릿/누락 필드 보강.

🕓 변경 이력 (Changelog)

날짜	변경 내용	처리 방식	신뢰도
2026-05-08	P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화)	UPDATE	A

💻 코드 패턴 (Code Patterns)

패턴 1: (TODO: 이 프로젝트 컨벤션 반영한 구조 스켈레톤)

# TODO

🤔 의사결정 기준 (Decision Criteria)

선택 A를 써야 할 때:

• (TODO)

선택 B를 써야 할 때:

• (TODO)

기본값:

(TODO)

❌ 안티패턴 (Anti-Patterns)

• [안티패턴]: (TODO: 무엇을 하면 안 되는가 + 이유 + 대신 무엇을)