Inductive Bias (귀납적 편향)

📌 한 줄 통찰 (The Karpathy Summary)

"무엇이든 배울 수 있는 유연함보다, 세상의 규칙을 미리 가정하는 영리함이 더 빠른 지능을 만든다" — 학습 알고리즘이 훈련 데이터 이외의 새로운 상황에 직면했을 때, 정답을 추론하기 위해 사용하는 일련의 사전 가정(Assumptions).

추출된 패턴: "Occam's Razor" — 복잡한 설명보다 단순한 규칙이 더 정답일 확률이 높다는 가정 하에, 모델 아키텍처 자체에 특정 도메인의 물리적/논리적 특성을 내재시키는 설계 패턴.
주요 아키텍처별 귀납적 편향:
- CNN: 지역성(Locality)과 이동 불변성(Translation Invariance). "가까운 픽셀은 관계가 깊고, 위치가 바뀌어도 같은 사물이다."
- RNN: 순차적 의존성(Sequential Dependency). "현재는 과거의 상태에 영향을 받는다."
- GNN: 위상적 관계(Relational Bias). "연결된 노드들 사이에 정보가 흐른다."
- Transformer: 매우 낮은 귀납적 편향. 대규모 데이터를 통해 스스로 규칙을 찾도록 설계됨 (전역적 어텐션).
의의: 적절한 귀납적 편향은 데이터가 적을 때 학습 효율을 극대화하고 오버피팅을 방지하지만, 너무 강하면 새로운 패턴 학습을 방해할 수 있음.

과거 데이터와의 충돌: 사람이 정교한 편향(Hand-crafted features)을 넣어주던 방식에서, 이제는 편향이 적은 모델(Transformer)에 거대한 데이터를 쏟아부어 모델이 스스로 최적의 편향을 학습하게 하는 'Bitter Lesson' 패러다임으로 전환 중.
정책 변화: Antigravity 프로젝트는 도메인 특화 에이전트 설계 시, 초기 학습 속도를 높이기 위해 도메인 지식 기반의 강한 귀납적 편향을 아키텍처에 반영함.