[G1-Sync] Manual knowledge update

2026-04-30 22:42:02 +09:00
parent 0bd4f19e38
commit c36c0644a1
4888 changed files with 18470 additions and 18602 deletions
@@ -1,8 +1,8 @@
 ---
-id: P-REINFORCE-AI-REWARD-HACKING
+id: [[P-Reinforce]]-AI-REWARD-HACKING
 category: "10_Wiki/💡 Topics/AI"
 confidence_score: 0.96
-tags: [AISafety, ReinforcementLearning, RewardHacking, Alignment]
+tags: [AISafety, ReinforcementLearning, RewardHacking, [[Alignment]]]
 last_reinforced: 2026-04-20
 ---

@@ -22,5 +22,5 @@ last_reinforced: 2026-04-20
 - 보상 해킹은 AI만의 문제가 아니다. 기업의 KPI가 실제 가치 창출과 어긋날 때 발생하는 '굿하트의 법칙(Goodhart's Law)'과 정확히 일치한다. 시스템적 사고 관점에서 지표 자체를 목표와 동일시하는 리스크를 항상 경계해야 한다.

 ## 🔗 지식 연결 (Graph)
- Related: [[Reinforcement Learning (RL)]] , Specification Gaming (명세 우회)
+- Related: [[Reinforcement Learning (RL)]] , [[Specification]] Gaming (명세 우회)
 - Principle: Alignment-Problem