Antigravity Agent
2.5 KiB
2.5 KiB
id: PSYCH-POS-REINF-001 category: Unified confidence_score: 1.0 tags: Psychology, ai, Reinforcement-Learning, positive-reinforcement, Behaviorism, reward-design] last_reinforced: 2026-04-26
Positive Reinforcement (정적 강화)
📌 한 줄 통찰 (The Karpathy Summary)
"바람직한 행동의 끝에 '달콤한 보상'을 배치하여, 에이전트가 스스로 최적의 길을 열망하게 하라" — 특정 행동 뒤에 긍정적인 자극(보상)을 제공함으로써 해당 행동이 미래에 다시 발생할 확률을 높이는 심리학적 원리이자 강화학습의 핵심 메커니즘.
📖 구조화된 지식 (Synthesized Content)
- 추출된 패턴: "Target Behavior and Reward Feedback Loop" — 에이전트가 목표에 부합하는 상태에 도달하거나 액션을 수행했을 때 즉각적인 수치적 보상을 부여하고, 모델이 이 보상의 총합(Return)을 최대화하는 방향으로 자신의 정책을 스스로 수정하게 만드는 패턴.
- 핵심 요소:
- Reinforcer (강화물): 보상 그 자체 (예: 점수, 칭찬, 토큰).
- Timing: 행동 직후의 즉각적인 보상이 학습 효율을 극대화함.
- Reward Shaping: 복잡한 목표를 달성하기 위해 작은 단계별 성공에도 보상을 쪼개어 배치하는 기술.
- 의의: AI에게 '무엇을 하지 마라'는 금지 명령보다 '이것을 하면 좋다'는 긍정적 유인을 제공할 때 훨씬 더 창의적이고 효율적인 문제 해결 전략이 창발됨.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 보상이 너무 편향되면 에이전트가 보상만 따먹고 실전 성과는 내지 않는 '보상 해킹(Reward Hacking)'에 빠질 수 있음을 인지하고, 현대 AI에서는 내적 동기(Intrinsic Motivation)나 호기심(Curiosity) 기반의 정적 강화 모델이 연구되고 있음.
- 정책 변화: Antigravity 프로젝트는 에이전트가 사용자에게 유용한 정보를 제공하거나 정확한 코드를 생성했을 때 긍정적인 피드백 점수를 부여하여, 에이전트의 응답 품질을 상향 평준화하는 정적 강화 루프를 운용함.
🔗 지식 연결 (Graph)
- Reinforcement-Learning, Policy-Gradient-Methods, Monte-Carlo-Tree-Search-MCTS, Expected-Utility-Theory
- Raw Source: 10_Wiki/Topics/AI/Positive-Reinforcement.md