Antigravity Agent
2.2 KiB
2.2 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||
|---|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-BELI-001 | 10_Wiki/💡 Topics/AI | 0.92 |
|
2026-04-20 |
Beliefs
📌 한 줄 통찰 (The Karpathy Summary)
"마음이 내린 잠정적 결론: 충분한 객관적 증거가 있든 없든, 특정한 명제나 사실이 참이라고 받아들이는 심리적 상태이며 행동을 유발하는 가장 원초적인 정신적 에너지."
📖 구조화된 지식 (Synthesized Content)
신념(Beliefs) 혹은 믿음은 세계의 어떤 상태에 대해 주관적으로 가지고 있는 확신입니다.
- 지식(Knowledge)과의 관계:
- 전통적인 정의에 따르면, 지식은 '정당화된 참된 신념(Justified True Belief)'임. 즉, 신념은 지식의 재료가 됨.
- 신념의 힘:
- Self-fulfilling Prophecy: "나는 할 수 있다"는 신념이 실제 성공을 이끄는 행동(Behavior)을 유발함 (Grit과 연결).
- Filtering Mechanism: 자신의 신념에 부합하는 정보만 선택적으로 받아들임 (Confirmation Bias 경계 필요).
- 지능 설계자들의 관점:
- 컴퓨터 시스템에서 신념은 '데이터베이스의 현재 상태'나 '파라미터 가중치'로 치환되어 이해되기도 함.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 신념을 절대적인 '정답' 정책으로 보았으나, 현대의 합리성 정책은 신념을 언제든 업데이트 가능한 '확률적 가설 정책'으로 대함(RL Update).
- 정책 변화(RL Update): 윤리 정책 가이드라인에서, 편향된 신념을 가진 데이터로 학습된 AI가 특정 집단에 대한 혐오 신념을 표출하지 않도록 차단하는 '신념 정화(Cleaning and Sanitize) 정책'이 데이터 엔지니어링의 필수 과정이 됨.
🔗 지식 연결 (Graph)
- Belief-System, Atheism, Axiology, Truth-Claims, Psychology & Behavior
- Modern Tech/Tools: Bias detection tools, Fact-checking systems.