Antigravity Agent
2.3 KiB
2.3 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||
|---|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-DETR-001 | 10_Wiki/💡 Topics/AI | 0.95 |
|
2026-04-20 |
Decision Theory
📌 한 줄 통찰 (The Karpathy Summary)
"최선의 선택을 향한 수학적 지도: 불확실한 상황 속에서 얻게 될 이익(Utility)과 발생할 위험(Risk)을 저울질하여, 기대 가치를 극대화하는 가장 합리적인 행동을 결정하는 의사결정의 과학."
📖 구조화된 지식 (Synthesized Content)
의사결정 이론(Decision Theory)은 불완전한 정보 하에서 최적의 선택을 내리는 과정을 연구하는 학문입니다.
- 두 가지 영역:
- Normative (규범적): "어떻게 결정하는 것이 가장 합리적인가?" (수학적 최적해).
- Descriptive (기술적): "실제 인간은 어떻게 결정하는가?" (심리적, 행동적 분석). (Cognitive Biases와 연결)
- 핵심 원칙:
- Expected Utility: 각 결과의 가치에 발생 확률을 곱해 합산한 값.
- Minimax: 가장 나쁜 상황에서 발생하는 손실을 최소화하는 하이 리스크 방어 전략.
- Bayesian Inference: 새로운 증거가 나올 때마다 자신의 판단을 업데이트하는 방식. (Bayesian-Updating과 연결)
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거 경제학 정책은 인간을 완벽하게 합리적인 존재로 가정했으나, 현대 정책은 '제한된 합리성(Bounded-Rationality) 정책'을 기반으로 하여 현실적인 타협안을 찾는 정책으로 진화함(RL Update).
- 정책 변화(RL Update): AI 에이전트의 자율적 의사결정 정책에서, 단순히 점수만 높이는 '결과 중심 정책'보다 결정 과정의 윤리와 리스크를 계량화하여 반영하는 '가치 정렬형 의사결정 정책'이 필수가 됨.
🔗 지식 연결 (Graph)
- Bounded-Rationality, Cognitive Biases, Bayesian-Updating, Game-Theory, Strategic-Planning
- Modern Tech/Tools: Decision trees, Monte Carlo simulations, Multi-criteria decision analysis (MCDA).