[G1-Sync] Manual knowledge update

This commit is contained in:
Antigravity Agent
2026-04-30 22:42:02 +09:00
parent 0bd4f19e38
commit c36c0644a1
4888 changed files with 18470 additions and 18602 deletions
@@ -1,8 +1,8 @@
---
id: P-REINFORCE-AUTO-RL-001
id: [[P-Reinforce]]-AUTO-RL-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.99
tags: [auto-reinforced, reinforcement-learning, machine-learning, ai-training, optimization]
tags: [auto-reinforced, [[Reinforcement-Learning]], machine-learning, ai-training, [[Optimization]]]
last_reinforced: 2026-04-20
---
@@ -17,7 +17,7 @@ last_reinforced: 2026-04-20
1. **기본 구성 요소 (MDP, Markov Decision Process)**:
* **Agent (에이전트)**: 학습의 주체.
* **Environment (환경)**: 에이전트가 상호작용하는 대상.
* **State (상태)**: 에이전트가 처한 상황에 대한 정보.
* **[[State]] (상태)**: 에이전트가 처한 상황에 대한 정보.
* **Action (행동)**: 에이전트가 상태를 변화시키기 위해 수행하는 일.
* **Reward (보상)**: 행동의 결과로 받는 점수.
2. **학심 딜레마**:
@@ -28,7 +28,7 @@ last_reinforced: 2026-04-20
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 초기 RL은 바둑이나 체스 같은 한정된 환경에서만 가능해 보였으나, 최근에는 현실 세계의 복잡한 로봇 제어와 인간의 가치관을 학습하는 RLHF 단계까지 정복하며 '범용 인공지능(AGI)'으로 가는 가장 강력한 기술적 사다리로 평가됨.
- **정책 변화(RL Update)**: 보상만을 쫓는 에이전트가 예상치 못한 위험(Safety Violation)을 저지르는 것을 막기 위해, 수치화된 보상 뒤에 '인간의 윤리적 제약'을 프로그래밍하는 '정렬(Alignment) 정책'이 RL 연구의 최우선 순위로 부상함.
- **정책 변화(RL Update)**: 보상만을 쫓는 에이전트가 예상치 못한 위험(Safety Violation)을 저지르는 것을 막기 위해, 수치화된 보상 뒤에 '인간의 윤리적 제약'을 프로그래밍하는 '정렬([[Alignment]]) 정책'이 RL 연구의 최우선 순위로 부상함.
## 🔗 지식 연결 (Graph)
- [[Proximal Policy Optimization (PPO)]], [[Policy-Optimization]], [[Ps-Reinforce]], Neurobiology of Reward, Game Theory