---
id: AI-BIAS-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, machine-learning, inductive-bias, neural-networks, generalization]
last_reinforced: 2026-04-26
---

# Inductive Bias (귀납적 편향)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "무엇이든 배울 수 있는 유연함보다, 세상의 규칙을 미리 가정하는 영리함이 더 빠른 지능을 만든다" — 학습 알고리즘이 훈련 데이터 이외의 새로운 상황에 직면했을 때, 정답을 추론하기 위해 사용하는 일련의 사전 가정(Assumptions).

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Occam's Razor" — 복잡한 설명보다 단순한 규칙이 더 정답일 확률이 높다는 가정 하에, 모델 아키텍처 자체에 특정 도메인의 물리적/논리적 특성을 내재시키는 설계 패턴.
- **주요 아키텍처별 귀납적 편향:**
    - **CNN:** 지역성(Locality)과 이동 불변성(Translation Invariance). "가까운 픽셀은 관계가 깊고, 위치가 바뀌어도 같은 사물이다."
    - **RNN:** 순차적 의존성(Sequential Dependency). "현재는 과거의 상태에 영향을 받는다."
    - **GNN:** 위상적 관계(Relational Bias). "연결된 노드들 사이에 정보가 흐른다."
    - **Transformer:** 매우 낮은 귀납적 편향. 대규모 데이터를 통해 스스로 규칙을 찾도록 설계됨 (전역적 어텐션).
- **의의:** 적절한 귀납적 편향은 데이터가 적을 때 학습 효율을 극대화하고 오버피팅을 방지하지만, 너무 강하면 새로운 패턴 학습을 방해할 수 있음.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 사람이 정교한 편향(Hand-crafted features)을 넣어주던 방식에서, 이제는 편향이 적은 모델(Transformer)에 거대한 데이터를 쏟아부어 모델이 스스로 최적의 편향을 학습하게 하는 'Bitter Lesson' 패러다임으로 전환 중.
- **정책 변화:** Antigravity 프로젝트는 도메인 특화 에이전트 설계 시, 초기 학습 속도를 높이기 위해 도메인 지식 기반의 강한 귀납적 편향을 아키텍처에 반영함.

## 🔗 지식 연결 (Graph)
- [[Generalization-in-AI|Generalization-in-AI]], [[Deep-Learning|Deep-Learning]]-Foundations, CNN-[[Mastery|Mastery]], [[Transformer-Architecture|Transformer-Architecture]]-Foundations
- **Raw Source:** 10_Wiki/Topics/AI/Inductive-Bias.md
