28 lines
1.6 KiB
Markdown
28 lines
1.6 KiB
Markdown
---
|
|
id: P-REINFORCE-AI-BELLMAN
|
|
category: "[[10_Wiki/💡 Topics/AI]]"
|
|
confidence_score: 0.99
|
|
tags: [Bellman Equation, RL, Dynamic Programming, MDP]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Bellman-Equation]] (벨만 방정식)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "오늘의 가치는 오늘의 보상과 내일의 기대 가치를 더한 것이다." 복잡한 미래를 현재의 시점으로 소환하는 마법의 재귀 공식이다.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **Principle of Optimality (최적성의 원리)**:
|
|
- 리처드 벨만이 정의한 원칙. 전체 경로가 최적이면, 그 경로상의 어떤 부분 경로도 최적이어야 한다는 논리. 이를 통해 큰 문제를 작은 부분 문제로 나누는 동적 계획법(DP)이 탄생했다.
|
|
- **MDP (Markov Decision Process)**:
|
|
- 현재의 상태(State)가 미래의 확률을 결정한다는 가정 하에, 보상(Reward)을 극대화하는 정책(Policy)을 찾기 위한 수학적 프레임워크.
|
|
- **Q-Learning의 근간**:
|
|
- 상태-행동 가치 함수 $Q(s, a)$를 업데이트할 때 벨만 타겟(Bellman Target)을 사용하여 에이전트의 지능을 점진적으로 개선한다.
|
|
|
|
## ⚠️ 모순 및 업데이트 (RL Update)
|
|
- 벨만 방정식은 완벽한 환경(Full observability)을 가정할 때 환상적이지만, 정보가 누락된 현실(POMDP)에서는 근사치(Approximation)를 찾기 위한 딥러닝(DQN)과의 결합이 필수적이다.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- Related: [[Reinforcement Learning]] , [[Deep-Learning-Basics]]
|
|
- Foundation: [[Information Theory]]
|