Antigravity Agent
34 lines
2.4 KiB
Markdown
34 lines
2.4 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-BAUP-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.99
|
|
tags: [auto-reinforced, bayesian-updating, learning-mechanisms, adaptive-systems, feedback-loops]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Bayesian-Updating|Bayesian-Updating]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "유연한 사고의 알고리즘: 틀릴 수 있음을 인정하고, 매 순간 들어오는 새로운 증거를 체로 걸러 기존의 세계관을 조금씩, 그러나 과학적으로 정교하게 수정해 나가는 지능의 학습 원리."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
베이지안 업데이트(Bayesian-Updating)는 관찰된 데이터를 기반으로 가설에 대한 신뢰도를 지속적으로 갱신하는 과정입니다.
|
|
|
|
1. **작동 메커니즘**:
|
|
* **Initial Belief (Prior)**: "이 에이전트는 신뢰할 수 있다."
|
|
* **New Evidence**: 에이전트가 예기치 못한 실수를 함.
|
|
* **Updating (Likelihood calculation)**: 이 실수가 신뢰 가능한 상태에서 나올 확률을 계산.
|
|
* **Result (Posterior)**: 신뢰도를 하향 조정.
|
|
2. **지능 시스템에서의 의의**:
|
|
* **Active Learning**: 어떤 데이터가 사후 확률을 가장 크게 변화시킬지(즉, 가장 배울 점이 많을지) 판단하여 효율적으로 학습.
|
|
* **Robustness**: 노이즈 섞인 데이터 하나에 일희일비하지 않고 전체적인 추세에 따라 점진적으로 변화함 (Stability-Flexibility Dilemma 해결).
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거 AI 학습 정책은 '학습된 데이터'에 고착되는 경향(Catastrophic forgetting)이 강했으나, 현대의 베이지안 업데이트 정책은 기존 지식을 보호하며 새 정보를 통합하는 '점진적 학습 정책'을 지향함(RL Update).
|
|
- **정책 변화(RL Update)**: 사용자 인터페이스(UI) 정책에서, 사용자의 행동 패턴을 실시간으로 베이지안 업데이트하여 인터페이스의 배치나 추천 항목을 동적으로 바꾸는 '초개인화 환경 정책'이 표준이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Bayes-Theorem|Bayes-Theorem]], [[Belief-Revision|Belief-Revision]], [[Active Learning|Active Learning]], Self-Correction Mechanisms, [[Adaptive-Curation|Adaptive-Curation]]
|
|
- **Modern Tech/Tools**: Reinforcement learning with Bayesian exploration, Online learning algorithms.
|
|
---
|