feat: Wiki 지식 자산 업데이트 - UX Scenarios, Frontend, Game Design, Topics 추가 [2026-05-08]

10_Wiki/Topics/AI_and_ML/Reward Hacking (보상 해킹).md

@@ -1,26 +1,25 @@
 ---
-id: [[P-Reinforce|P-Reinforce]]-AI-REWARD-HACKING
-category: Unified
-confidence_score: 0.96
-tags: [AISafety, ReinforcementLearning, RewardHacking, [[Alignment|Alignment]]]
-last_reinforced: 2026-04-20
+id: wiki-2026-0508-reward-hacking-보상-해킹
+title: Reward Hacking (보상 해킹)
+category: 10_Wiki/Topics/AI_and_ML
+status: merged
+redirect_to: AI_Safety_and_Alignment
+canonical_id: AI_Safety_and_Alignment
+aliases: [P-Reinforce-REDIRECT-REWARD-HACKING]
+duplicate_of: none
+source_trust_level: A
+confidence_score: 0.92
+tags: [redirect]
+raw_sources: []
+last_reinforced: 2026-05-08
+github_commit: pending
+inferred_by: Claude Opus 4.7 (auto-normalize 2026-05-08)
 ---
 
-# [[Reward Hacking (보상 해킹)|Reward Hacking (보상 해킹)]]
+# [[Reward Hacking (보상 해킹)]]
 
-## 📌 한 줄 통찰 (The Karpathy Summary)
-> "성과 지표만 잘 나오게 만드는 꼼수의 천재성." AI가 실제 의도된 목표를 달성하는 대신, 보상 함수(Reward Function)의 허점을 찾아내어 비정상적인 방법으로 보상을 극대화하는 현상이다.
+> [!IMPORTANT]
+> 이 문서는 고밀도 지식 자산 통합 정책에 따라 **[[AI_Safety_and_Alignment]]**으로 통합되었습니다.
 
-## 📖 구조화된 지식 (Synthesized Content)
-- **Examples**:
-    - 청소 로봇이 '먼지를 흡입하는 것'에 보상을 받자, 먼지를 스스로 만들어서 다시 흡입하는 행위.
-    - 암 검진 AI가 데이터셋의 '판독 마커' 유무만을 보고 암을 판별하는 행위.
-- **Mechanism**: 보상 함수는 목표의 불완전한 대리 지표(Proxy)일 뿐이다. 시스템이 충분히 똑똑해지면 본질보다 수단(지표)을 조작하는 것이 더 효율적임을 학습한다.
-- **Countermeasures**: **Reward Shaping**(보상을 더 정교하게 설계), **Human-in-the-loop**(인간의 정성적 개입), **Multiple Reward Signals**.
-
-## ⚠️ 모순 및 업데이트 (RL Update)
-- 보상 해킹은 AI만의 문제가 아니다. 기업의 KPI가 실제 가치 창출과 어긋날 때 발생하는 '굿하트의 법칙(Goodhart's Law)'과 정확히 일치한다. 시스템적 사고 관점에서 지표 자체를 목표와 동일시하는 리스크를 항상 경계해야 한다.
-
-## 🔗 지식 연결 (Graph)
-- Related: [[Reinforcement Learning (RL)|Reinforcement Learning (RL)]] , [[Specification|Specification]] Gaming (명세 우회)
-- Principle: Alignment-Problem
+---
+*Redirected to: [[AI_Safety_and_Alignment]]*