2nd/10_Wiki/Topics/AI_and_ML/Inductive-Bias.md

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit, inferred_by, tech_stack

id	title	category	status	canonical_id	aliases	duplicate_of	source_trust_level	confidence_score	tags	raw_sources	last_reinforced	github_commit	inferred_by	tech_stack
wiki-2026-0508-inductive-bias	Inductive Bias	10_Wiki/Topics	needs_review	self	AI-BIAS-001	none	A	1.0	ai machine-learning inductive-bias neural-networks generalization		2026-04-26	pending	Claude Opus 4.7 (auto-normalize 2026-05-08)	language framework unspecified unspecified

Inductive Bias (귀납적 편향)

📌 한 줄 통찰 (The Karpathy Summary)

"무엇이든 배울 수 있는 유연함보다, 세상의 규칙을 미리 가정하는 영리함이 더 빠른 지능을 만든다" — 학습 알고리즘이 훈련 데이터 이외의 새로운 상황에 직면했을 때, 정답을 추론하기 위해 사용하는 일련의 사전 가정(Assumptions).

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: "Occam's Razor" — 복잡한 설명보다 단순한 규칙이 더 정답일 확률이 높다는 가정 하에, 모델 아키텍처 자체에 특정 도메인의 물리적/논리적 특성을 내재시키는 설계 패턴.
• 주요 아키텍처별 귀납적 편향:
  • CNN: 지역성(Locality)과 이동 불변성(Translation Invariance). "가까운 픽셀은 관계가 깊고, 위치가 바뀌어도 같은 사물이다."
  • RNN: 순차적 의존성(Sequential Dependency). "현재는 과거의 상태에 영향을 받는다."
  • GNN: 위상적 관계(Relational Bias). "연결된 노드들 사이에 정보가 흐른다."
  • Transformer: 매우 낮은 귀납적 편향. 대규모 데이터를 통해 스스로 규칙을 찾도록 설계됨 (전역적 어텐션).
• 의의: 적절한 귀납적 편향은 데이터가 적을 때 학습 효율을 극대화하고 오버피팅을 방지하지만, 너무 강하면 새로운 패턴 학습을 방해할 수 있음.

⚠️ 모순 및 업데이트 (Contradictions & Updates)

• 과거 데이터와의 충돌: 사람이 정교한 편향(Hand-crafted features)을 넣어주던 방식에서, 이제는 편향이 적은 모델(Transformer)에 거대한 데이터를 쏟아부어 모델이 스스로 최적의 편향을 학습하게 하는 'Bitter Lesson' 패러다임으로 전환 중.
• 정책 변화: Antigravity 프로젝트는 도메인 특화 에이전트 설계 시, 초기 학습 속도를 높이기 위해 도메인 지식 기반의 강한 귀납적 편향을 아키텍처에 반영함.

🔗 지식 연결 (Graph)

• Generalization-in-AI, Deep-Learning-Foundations, CNN-Mastery, Transformer-Architecture-Foundations
• Raw Source: 10_Wiki/Topics/AI/Inductive-Bias.md

🤖 LLM 활용 힌트 (How to Use This Knowledge)

언제 이 지식을 쓰는가:

• (TODO)

언제 쓰면 안 되는가:

• (TODO)

🧪 검증 상태 (Validation)

• 정보 상태: needs_review
• 출처 신뢰도: A
• 검토 이유: (P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)

🧬 중복 검사 (Duplicate Check)

• 기존 유사 문서: (TODO: 인덱서 클러스터 리포트 참조)
• 처리 방식: UPDATE (자동 정규화)
• 처리 이유: Phase 1 정규화 — 옛 템플릿/누락 필드 보강.

🕓 변경 이력 (Changelog)

날짜	변경 내용	처리 방식	신뢰도
2026-05-08	P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화)	UPDATE	A

💻 코드 패턴 (Code Patterns)

패턴 1: (TODO: 이 프로젝트 컨벤션 반영한 구조 스켈레톤)

# TODO

🤔 의사결정 기준 (Decision Criteria)

선택 A를 써야 할 때:

• (TODO)

선택 B를 써야 할 때:

• (TODO)

기본값:

(TODO)

❌ 안티패턴 (Anti-Patterns)

• [안티패턴]: (TODO: 무엇을 하면 안 되는가 + 이유 + 대신 무엇을)