Antigravity Agent
30 lines
2.3 KiB
Markdown
30 lines
2.3 KiB
Markdown
---
|
|
id: RL-EX-BAL-001
|
|
category: Dev
|
|
confidence_score: 1.0
|
|
tags: [[Reinforcement-Learning|[Reinforcement-Learning]], ai, decision-making, exploration, exploitation]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# [[Exploration vs Exploitation|Exploration vs Exploitation]] (탐색과 활용의 균형)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "안전한 현재의 수익과 불확실한 미래의 가능성 사이에서 최적의 배팅 지점을 찾아라" — 강화학습의 핵심 딜레마로, 이미 알고 있는 최선의 행동을 반복하여 보상을 얻는 것(Exploitation)과 더 나은 행동을 찾기 위해 새로운 시도를 하는 것(Exploration) 사이의 트레이드오프.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** 제한된 자원(시간, 에너지) 내에서 누적 보상을 극대화하기 위해 초기에는 광범위하게 탐색하고, 정보가 쌓일수록 최선의 선택에 집중하는 적응형 의사결정 패턴.
|
|
- **주요 전략:**
|
|
- **$\epsilon$-greedy:** 아주 작은 확률($\epsilon$)로 무작위 행동을 하고, 나머지 확률로 최선의 행동 수행.
|
|
- **Softmax:** 보상 가치에 비례한 확률로 행동 선택.
|
|
- **Upper Confidence Bound (UCB):** 불확실성이 큰 행동에 가산점을 주어 우선적으로 탐색.
|
|
- **Thompson Sampling:** 확률 분포를 모델링하여 샘플링 기반으로 탐색 결정.
|
|
- **의의:** 너무 빨리 활용에만 집중하면 지역 최적해(Local Optima)에 갇히고, 너무 탐색만 하면 보상을 충분히 얻지 못함.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 단순히 '운'에 맡기던 무작위 탐색에서, 수학적 근거(UCB 등)를 바탕으로 '똑똑하게' 탐색하는 방식으로 진화.
|
|
- **정책 변화:** Antigravity 프로젝트의 지식 검색 에이전트는 사용자의 질문에 대해 가장 관련성 높은 문서만 보여주는 것(Exploitation)을 넘어, 가끔은 의외의 연결 고리를 가진 문서를 제안(Exploration)하여 창의적 통찰을 돕도록 설계됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Reinforcement-Learning|Reinforcement-Learning]], Q-Learning-Foundations, Multi-Armed-Bandit-MAB, Decision-Making
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Exploration-vs-Exploitation.md
|