Antigravity Agent
33 lines
2.2 KiB
Markdown
33 lines
2.2 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-BELI-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.92
|
|
tags: [auto-reinforced, beliefs, conviction, mental-state, truth-claims, epistemology]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Beliefs|Beliefs]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "마음이 내린 잠정적 결론: 충분한 객관적 증거가 있든 없든, 특정한 명제나 사실이 참이라고 받아들이는 심리적 상태이며 행동을 유발하는 가장 원초적인 정신적 에너지."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
신념(Beliefs) 혹은 믿음은 세계의 어떤 상태에 대해 주관적으로 가지고 있는 확신입니다.
|
|
|
|
1. **지식(Knowledge)과의 관계**:
|
|
* 전통적인 정의에 따르면, 지식은 '정당화된 참된 신념(Justified True Belief)'임. 즉, 신념은 지식의 재료가 됨.
|
|
2. **신념의 힘**:
|
|
* **Self-fulfilling Prophecy**: "나는 할 수 있다"는 신념이 실제 성공을 이끄는 행동(Behavior)을 유발함 (Grit과 연결).
|
|
* **Filtering Mechanism**: 자신의 신념에 부합하는 정보만 선택적으로 받아들임 (Confirmation Bias 경계 필요).
|
|
3. **지능 설계자들의 관점**:
|
|
* 컴퓨터 시스템에서 신념은 '데이터베이스의 현재 상태'나 '파라미터 가중치'로 치환되어 이해되기도 함.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 신념을 절대적인 '정답' 정책으로 보았으나, 현대의 합리성 정책은 신념을 언제든 업데이트 가능한 '확률적 가설 정책'으로 대함(RL Update).
|
|
- **정책 변화(RL Update)**: 윤리 정책 가이드라인에서, 편향된 신념을 가진 데이터로 학습된 AI가 특정 집단에 대한 혐오 신념을 표출하지 않도록 차단하는 '신념 정화(Cleaning and Sanitize) 정책'이 데이터 엔지니어링의 필수 과정이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Belief-System|Belief-System]], [[Atheism|Atheism]], [[Axiology|Axiology]], Truth-Claims, [[Psychology & Behavior|Psychology & Behavior]]
|
|
- **Modern Tech/Tools**: Bias detection tools, Fact-checking systems.
|
|
---
|