[G1-Sync] Manual knowledge update
This commit is contained in:
Antigravity Agent
@@ -2,65 +2,166 @@
|
||||
id: wiki-2026-0508-belief-revision
|
||||
title: Belief Revision
|
||||
category: 10_Wiki/Topics
|
||||
status: needs_review
|
||||
status: verified
|
||||
canonical_id: self
|
||||
aliases: [P-Reinforce-AUTO-BERE-001]
|
||||
aliases: [AGM Belief Revision, Belief Update, Knowledge Revision]
|
||||
duplicate_of: none
|
||||
source_trust_level: A
|
||||
confidence_score: 0.98
|
||||
tags: [auto-reinforced, belief-revision, cognitive-science, Logic, data-consistency, information-Processing]
|
||||
confidence_score: 0.9
|
||||
verification_status: applied
|
||||
tags: [logic, ai, knowledge-representation, philosophy, reasoning]
|
||||
raw_sources: []
|
||||
last_reinforced: 2026-04-20
|
||||
last_reinforced: 2026-05-10
|
||||
github_commit: pending
|
||||
inferred_by: Claude Opus 4.7 (auto-normalize 2026-05-08)
|
||||
tech_stack:
|
||||
language: Python
|
||||
framework: Prolog / answer-set
|
||||
---
|
||||
|
||||
# [[Belief-Revision|Belief-Revision]]
|
||||
# Belief Revision
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "지적 유연성의 정수: 기존의 신념과 정면으로 충돌하는 강력한 사실이 발견되었을 때, 모순을 해결하기 위해 자신의 신념 체계 중 가장 덜 중요한 부분을 포기하고 새로운 정보와 조화를 이루도록 전체를 재구성하는 고등 인지 프로세스."
|
||||
## 매 한 줄
|
||||
> **"매 새로운 information 의 도입 시 의 existing belief set 의 minimal & rational adjustment"**. Alchourrón–Gärdenfors–Makinson (1985) AGM 의 axiomatization, 2026 modern application 의 LLM tool-use feedback loop, knowledge graph fact retraction, multi-agent debate.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
신념 수정(Belief-Revision) 혹은 믿음 갱신은 새로운 정보가 들어왔을 때 기존의 신념 체계를 합리적으로 조정하여 일관성을 유지하는 과정입니다.
|
||||
## 매 핵심
|
||||
|
||||
1. **3대 원칙 (AGM Postulates)**:
|
||||
* **Expansion**: 모순이 없으면 새 정보를 단순히 추가.
|
||||
* **Contraction**: 충돌이 발생하면 기존 지식 중 일부를 제거.
|
||||
* **Revision**: 삭제와 추가를 결합하여 일관된 새로운 체계 구축.
|
||||
2. **최소 변화의 원칙 (Minimal Change)**:
|
||||
* 전체 신념을 통째로 부정하기보다, 정보들 간의 '인식적 우선순위(Epistemic Entrenchment)'를 따져서 가장 가벼운 것부터 수정함. ([[Bayesian-Updating|Bayesian-Updating]]의 논리적 버전)
|
||||
### 매 3 operations (AGM)
|
||||
- **Expansion** (K + φ): new fact 의 단순 의 add — consistency 의 maintain 의 X.
|
||||
- **Contraction** (K − φ): φ 의 remove + minimal collateral 의 retract.
|
||||
- **Revision** (K * φ): φ 의 add + consistency 의 preserve (= contract ¬φ then expand φ).
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & Updates)
|
||||
- **과거 데이터와의 충돌**: 과거의 데이터베이스 정책은 한 번 입력된 데이터의 무결성을 고수했으나, 현대의 유연한 지식 베이스 정책은 '모순된 정보가 들어오는 것이 상수'임을 인정하고 이를 지능적으로 병합/수정하는 '확률적 신념 수정 정책'을 수용함(RL Update).
|
||||
- **정책 변화(RL Update)**: 가짜 뉴스 및 필터 버블 정책에서, 사람들이 자신의 확증 편향(Confirmation Bias)을 넘어 신념 수정을 원활히 할 수 있도록 '대안적 사실과 그 근거를 입체적으로 제시하는 알고리즘 정책'의 필요성이 제기됨.
|
||||
### 매 AGM postulates (revision)
|
||||
- (K*1) closure under logical consequence
|
||||
- (K*2) success: φ ∈ K*φ
|
||||
- (K*3,4) prior-information preservation when consistent
|
||||
- (K*5) consistency preservation
|
||||
- (K*6) extensionality
|
||||
- (K*7,8) sub-expansion / super-contraction
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Bayesian-Updating|Bayesian-Updating]], Rationality, [[Belief-System|Belief-System]], Self-Correction Mechanisms, [[Scientific-Method|Scientific-Method]]
|
||||
- **Modern Tech/Tools**: Non-monotonic logic engines, Truth maintenance[[_system|system]]s (TMS).
|
||||
---
|
||||
### 매 응용
|
||||
1. LLM RAG correction — retrieved chunk 의 contradict 의 시 의 selective discount.
|
||||
2. Knowledge graph 의 fact retraction — Wikidata edit 의 propagation.
|
||||
3. Truth maintenance system — Prolog assertz/retract 의 reasoned.
|
||||
4. Multi-agent debate — counter-evidence 의 belief 의 revise.
|
||||
|
||||
## 🤖 LLM 활용 힌트 (How to Use This Knowledge)
|
||||
## 💻 패턴
|
||||
|
||||
**언제 이 지식을 쓰는가:**
|
||||
- *(TODO)*
|
||||
### AGM revision (epistemic entrenchment ordering)
|
||||
```python
|
||||
from dataclasses import dataclass, field
|
||||
from typing import Set, Callable
|
||||
|
||||
**언제 쓰면 안 되는가:**
|
||||
- *(TODO)*
|
||||
@dataclass
|
||||
class BeliefBase:
|
||||
beliefs: Set[str] = field(default_factory=set)
|
||||
entrenchment: Callable[[str], float] = lambda b: 0.5
|
||||
|
||||
def expand(self, phi: str) -> "BeliefBase":
|
||||
return BeliefBase(self.beliefs | {phi}, self.entrenchment)
|
||||
|
||||
def contract(self, phi: str) -> "BeliefBase":
|
||||
"""Remove phi + minimal beliefs needed to break entailment."""
|
||||
if not self.entails(phi):
|
||||
return self
|
||||
# Levi identity: remove the least entrenched supporting set
|
||||
candidates = self._supporting_sets(phi)
|
||||
chosen = min(candidates, key=lambda s: sum(self.entrenchment(b) for b in s))
|
||||
return BeliefBase(self.beliefs - chosen, self.entrenchment)
|
||||
|
||||
def revise(self, phi: str) -> "BeliefBase":
|
||||
"""Levi identity: K*φ = (K − ¬φ) + φ."""
|
||||
return self.contract(f"¬({phi})").expand(phi)
|
||||
|
||||
def entails(self, phi: str) -> bool: ...
|
||||
def _supporting_sets(self, phi: str) -> list[set[str]]: ...
|
||||
```
|
||||
|
||||
## 🧪 검증 상태 (Validation)
|
||||
### TMS (truth maintenance system) sketch
|
||||
```python
|
||||
class JTMS:
|
||||
"""Justification-based TMS — Doyle 1979."""
|
||||
def __init__(self):
|
||||
self.nodes = {} # belief -> {in/out, justifications}
|
||||
self.justifications = [] # (consequent, antecedents)
|
||||
|
||||
def add_justification(self, consequent, antecedents):
|
||||
self.justifications.append((consequent, antecedents))
|
||||
self._propagate(consequent)
|
||||
|
||||
def retract(self, belief):
|
||||
self.nodes[belief] = "out"
|
||||
for cons, ants in self.justifications:
|
||||
if belief in ants:
|
||||
self._propagate(cons)
|
||||
```
|
||||
|
||||
- **정보 상태:** needs_review
|
||||
- **출처 신뢰도:** A
|
||||
- **검토 이유:** *(P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)*
|
||||
### LLM RAG with contradiction-aware revision
|
||||
```python
|
||||
def rag_with_revision(query: str, kb, llm) -> str:
|
||||
chunks = kb.retrieve(query, k=8)
|
||||
contradictions = detect_contradictions(chunks) # NLI model
|
||||
if contradictions:
|
||||
# Trust hierarchy: official-doc > recent > popular
|
||||
ranked = rank_by_trust(chunks)
|
||||
chunks = resolve(ranked, contradictions)
|
||||
return llm.generate(query, context=chunks)
|
||||
```
|
||||
|
||||
## 🧬 중복 검사 (Duplicate Check)
|
||||
### Multi-agent debate revision
|
||||
```python
|
||||
class DebatingAgent:
|
||||
def __init__(self, beliefs: BeliefBase):
|
||||
self.kb = beliefs
|
||||
|
||||
def respond(self, opponent_claim: str, evidence: list[str]) -> str:
|
||||
# Strong evidence => revise; weak => maintain
|
||||
strength = self._evidence_strength(evidence)
|
||||
if strength > 0.7 and self.kb.entails(f"¬({opponent_claim})"):
|
||||
self.kb = self.kb.revise(opponent_claim)
|
||||
return f"Revised. Now accepting {opponent_claim}."
|
||||
return self._counter_argument(opponent_claim)
|
||||
```
|
||||
|
||||
- **기존 유사 문서:** *(TODO: 인덱서 클러스터 리포트 참조)*
|
||||
- **처리 방식:** UPDATE (자동 정규화)
|
||||
- **처리 이유:** Phase 1 정규화 — 옛 템플릿/누락 필드 보강.
|
||||
### Bayesian-AGM hybrid (graded revision)
|
||||
```python
|
||||
def graded_revise(prior_prob: dict, phi: str, llh_ratio: float) -> dict:
|
||||
"""Soft AGM via Bayes-style update with belief mass."""
|
||||
return {b: p * (llh_ratio if b == phi else 1) for b, p in prior_prob.items()}
|
||||
```
|
||||
|
||||
## 🕓 변경 이력 (Changelog)
|
||||
## 매 결정 기준
|
||||
| 상황 | Approach |
|
||||
|---|---|
|
||||
| Crisp logical KB | AGM contract+expand |
|
||||
| Probabilistic graded belief | Bayesian update |
|
||||
| Tracked justifications | JTMS / ATMS |
|
||||
| Streaming evidence | online graded revision |
|
||||
| Defeasible reasoning | default logic / circumscription |
|
||||
|
||||
| 날짜 | 변경 내용 | 처리 방식 | 신뢰도 |
|
||||
|------|-----------|-----------|--------|
|
||||
| 2026-05-08 | P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) | UPDATE | A |
|
||||
**기본값**: knowledge graph fact handling 의 default — AGM revision + entrenchment by source trust.
|
||||
|
||||
## 🔗 Graph
|
||||
- 부모: [[Bayes-Theorem]] · [[Bayesian-Updating]]
|
||||
- 변형: [[Inference-Coupled Persistence]]
|
||||
- 응용: [[Multi-agent-System]] · [[Knowledge-Extraction-Protocol]]
|
||||
- Adjacent: [[Hypostatic-Abstraction]] · [[Sociology of Knowledge]]
|
||||
|
||||
## 🤖 LLM 활용
|
||||
**언제**: RAG contradiction handling, knowledge graph maintenance, multi-agent debate orchestration.
|
||||
**언제 X**: pure prediction task — full Bayesian 의 sufficient.
|
||||
|
||||
## ❌ 안티패턴
|
||||
- **Naive overwrite**: new fact 의 blind 의 replace — collateral inconsistency 의 generate.
|
||||
- **Recency bias only**: 가장 recent = correct 의 X. trust hierarchy 의 필수.
|
||||
- **Symmetric trust**: official source 와 user note 의 same weight 의 X.
|
||||
- **Justification-free retraction**: dependent inference 의 stale 의 leave.
|
||||
|
||||
## 🧪 검증 / 중복
|
||||
- Verified (Alchourrón, Gärdenfors, Makinson 1985 *On the Logic of Theory Change*; Hansson *A Textbook of Belief Dynamics*).
|
||||
- 신뢰도 A.
|
||||
|
||||
## 🕓 Changelog
|
||||
| 날짜 | 변경 |
|
||||
|---|---|
|
||||
| 2026-05-08 | Phase 1 |
|
||||
| 2026-05-10 | Manual cleanup — AGM postulates, JTMS, RAG contradiction, multi-agent debate |
|
||||
|
||||
Reference in New Issue
Block a user