2nd/AI/Bellman Equation.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
P-REINFORCE-AI-BELLMAN	10_Wiki/💡 Topics/AI	0.99	Bellman Equation RL Dynamic Programming MDP	2026-04-20

Bellman-Equation (벨만 방정식)

📌 한 줄 통찰 (The Karpathy Summary)

"오늘의 가치는 오늘의 보상과 내일의 기대 가치를 더한 것이다." 복잡한 미래를 현재의 시점으로 소환하는 마법의 재귀 공식이다.

📖 구조화된 지식 (Synthesized Content)

• Principle of Optimality (최적성의 원리):
  • 리처드 벨만이 정의한 원칙. 전체 경로가 최적이면, 그 경로상의 어떤 부분 경로도 최적이어야 한다는 논리. 이를 통해 큰 문제를 작은 부분 문제로 나누는 동적 계획법(DP)이 탄생했다.
• MDP (Markov Decision Process):
  • 현재의 상태(State)가 미래의 확률을 결정한다는 가정 하에, 보상(Reward)을 극대화하는 정책(Policy)을 찾기 위한 수학적 프레임워크.
• Q-Learning의 근간:
  • 상태-행동 가치 함수 $Q(s, a)$를 업데이트할 때 벨만 타겟(Bellman Target)을 사용하여 에이전트의 지능을 점진적으로 개선한다.

⚠️ 모순 및 업데이트 (RL Update)

• 벨만 방정식은 완벽한 환경(Full observability)을 가정할 때 환상적이지만, 정보가 누락된 현실(POMDP)에서는 근사치(Approximation)를 찾기 위한 딥러닝(DQN)과의 결합이 필수적이다.

🔗 지식 연결 (Graph)

• Related: Reinforcement Learning , Deep-Learning-Basics
• Foundation: Information Theory