---
id: P-REINFORCE-AI-BELLMAN
category: "[[10_Wiki/💡 Topics/AI]]"
confidence_score: 0.99
tags: [Bellman Equation, RL, Dynamic Programming, MDP]
last_reinforced: 2026-04-20
---

# [[Bellman-Equation]] (벨만 방정식)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "오늘의 가치는 오늘의 보상과 내일의 기대 가치를 더한 것이다." 복잡한 미래를 현재의 시점으로 소환하는 마법의 재귀 공식이다.

## 📖 구조화된 지식 (Synthesized Content)
- **Principle of Optimality (최적성의 원리)**:
    - 리처드 벨만이 정의한 원칙. 전체 경로가 최적이면, 그 경로상의 어떤 부분 경로도 최적이어야 한다는 논리. 이를 통해 큰 문제를 작은 부분 문제로 나누는 동적 계획법(DP)이 탄생했다.
- **MDP (Markov Decision Process)**:
    - 현재의 상태(State)가 미래의 확률을 결정한다는 가정 하에, 보상(Reward)을 극대화하는 정책(Policy)을 찾기 위한 수학적 프레임워크.
- **Q-Learning의 근간**:
    - 상태-행동 가치 함수 $Q(s, a)$를 업데이트할 때 벨만 타겟(Bellman Target)을 사용하여 에이전트의 지능을 점진적으로 개선한다.

## ⚠️ 모순 및 업데이트 (RL Update)
- 벨만 방정식은 완벽한 환경(Full observability)을 가정할 때 환상적이지만, 정보가 누락된 현실(POMDP)에서는 근사치(Approximation)를 찾기 위한 딥러닝(DQN)과의 결합이 필수적이다.

## 🔗 지식 연결 (Graph)
- Related: [[Reinforcement Learning]] , [[Deep-Learning-Basics]]
- Foundation: [[Information Theory]]