29 lines
2.4 KiB
Markdown
29 lines
2.4 KiB
Markdown
---
|
|
id: PSYCH-POS-REINF-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 1.0
|
|
tags: [psychology, ai, reinforcement-learning, positive-reinforcement, behaviorism, reward-design]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Positive Reinforcement (정적 강화)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "바람직한 행동의 끝에 '달콤한 보상'을 배치하여, 에이전트가 스스로 최적의 길을 열망하게 하라" — 특정 행동 뒤에 긍정적인 자극(보상)을 제공함으로써 해당 행동이 미래에 다시 발생할 확률을 높이는 심리학적 원리이자 강화학습의 핵심 메커니즘.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** "Target Behavior and Reward Feedback Loop" — 에이전트가 목표에 부합하는 상태에 도달하거나 액션을 수행했을 때 즉각적인 수치적 보상을 부여하고, 모델이 이 보상의 총합(Return)을 최대화하는 방향으로 자신의 정책을 스스로 수정하게 만드는 패턴.
|
|
- **핵심 요소:**
|
|
- **Reinforcer (강화물):** 보상 그 자체 (예: 점수, 칭찬, 토큰).
|
|
- **Timing:** 행동 직후의 즉각적인 보상이 학습 효율을 극대화함.
|
|
- **Reward Shaping:** 복잡한 목표를 달성하기 위해 작은 단계별 성공에도 보상을 쪼개어 배치하는 기술.
|
|
- **의의:** AI에게 '무엇을 하지 마라'는 금지 명령보다 '이것을 하면 좋다'는 긍정적 유인을 제공할 때 훨씬 더 창의적이고 효율적인 문제 해결 전략이 창발됨.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 보상이 너무 편향되면 에이전트가 보상만 따먹고 실전 성과는 내지 않는 '보상 해킹(Reward Hacking)'에 빠질 수 있음을 인지하고, 현대 AI에서는 내적 동기(Intrinsic Motivation)나 호기심(Curiosity) 기반의 정적 강화 모델이 연구되고 있음.
|
|
- **정책 변화:** Antigravity 프로젝트는 에이전트가 사용자에게 유용한 정보를 제공하거나 정확한 코드를 생성했을 때 긍정적인 피드백 점수를 부여하여, 에이전트의 응답 품질을 상향 평준화하는 정적 강화 루프를 운용함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Reinforcement-Learning]], [[Policy-Gradient-Methods]], [[Monte-Carlo-Tree-Search-MCTS]], Expected-Utility-Theory
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Positive-Reinforcement.md
|