---
id: P-REINFORCE-AUTO-BERE-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.98
tags: [auto-reinforced, belief-revision, cognitive-science, logic, data-consistency, information-processing]
last_reinforced: 2026-04-20
---

# [[Belief-Revision]]

## 📌 한 줄 통찰 (The Karpathy Summary)
> "지적 유연성의 정수: 기존의 신념과 정면으로 충돌하는 강력한 사실이 발견되었을 때, 모순을 해결하기 위해 자신의 신념 체계 중 가장 덜 중요한 부분을 포기하고 새로운 정보와 조화를 이루도록 전체를 재구성하는 고등 인지 프로세스."

## 📖 구조화된 지식 (Synthesized Content)
신념 수정(Belief-Revision) 혹은 믿음 갱신은 새로운 정보가 들어왔을 때 기존의 신념 체계를 합리적으로 조정하여 일관성을 유지하는 과정입니다.

1.  **3대 원칙 (AGM Postulates)**:
    *   **Expansion**: 모순이 없으면 새 정보를 단순히 추가.
    *   **Contraction**: 충돌이 발생하면 기존 지식 중 일부를 제거.
    *   **Revision**: 삭제와 추가를 결합하여 일관된 새로운 체계 구축.
2.  **최소 변화의 원칙 (Minimal Change)**:
    *   전체 신념을 통째로 부정하기보다, 정보들 간의 '인식적 우선순위(Epistemic Entrenchment)'를 따져서 가장 가벼운 것부터 수정함. (Bayesian-Updating의 논리적 버전)

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 과거의 데이터베이스 정책은 한 번 입력된 데이터의 무결성을 고수했으나, 현대의 유연한 지식 베이스 정책은 '모순된 정보가 들어오는 것이 상수'임을 인정하고 이를 지능적으로 병합/수정하는 '확률적 신념 수정 정책'을 수용함(RL Update).
- **정책 변화(RL Update)**: 가짜 뉴스 및 필터 버블 정책에서, 사람들이 자신의 확증 편향(Confirmation Bias)을 넘어 신념 수정을 원활히 할 수 있도록 '대안적 사실과 그 근거를 입체적으로 제시하는 알고리즘 정책'의 필요성이 제기됨.

## 🔗 지식 연결 (Graph)
- [[Bayesian-Updating]], Rationality, [[Belief-System]], [[Self-Correction Mechanisms]], [[Scientific-Method]]
- **Modern Tech/Tools**: Non-monotonic logic engines, Truth maintenance systems (TMS).
---
