2nd/10_Wiki/Topics/Exploration-vs-Exploitation.md

---

id: RL-EX-BAL-001 category: Unified confidence_score: 1.0 tags: Reinforcement-Learning, ai, decision-making, exploration, exploitation] last_reinforced: 2026-04-26

Exploration vs Exploitation (탐색과 활용의 균형)

📌 한 줄 통찰 (The Karpathy Summary)

"안전한 현재의 수익과 불확실한 미래의 가능성 사이에서 최적의 배팅 지점을 찾아라" — 강화학습의 핵심 딜레마로, 이미 알고 있는 최선의 행동을 반복하여 보상을 얻는 것(Exploitation)과 더 나은 행동을 찾기 위해 새로운 시도를 하는 것(Exploration) 사이의 트레이드오프.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 제한된 자원(시간, 에너지) 내에서 누적 보상을 극대화하기 위해 초기에는 광범위하게 탐색하고, 정보가 쌓일수록 최선의 선택에 집중하는 적응형 의사결정 패턴.
• 주요 전략:
  • $\epsilon$-greedy: 아주 작은 확률(\epsilon)로 무작위 행동을 하고, 나머지 확률로 최선의 행동 수행.
  • Softmax: 보상 가치에 비례한 확률로 행동 선택.
  • Upper Confidence Bound (UCB): 불확실성이 큰 행동에 가산점을 주어 우선적으로 탐색.
  • Thompson Sampling: 확률 분포를 모델링하여 샘플링 기반으로 탐색 결정.
• 의의: 너무 빨리 활용에만 집중하면 지역 최적해(Local Optima)에 갇히고, 너무 탐색만 하면 보상을 충분히 얻지 못함.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 단순히 '운'에 맡기던 무작위 탐색에서, 수학적 근거(UCB 등)를 바탕으로 '똑똑하게' 탐색하는 방식으로 진화.
• 정책 변화: Antigravity 프로젝트의 지식 검색 에이전트는 사용자의 질문에 대해 가장 관련성 높은 문서만 보여주는 것(Exploitation)을 넘어, 가끔은 의외의 연결 고리를 가진 문서를 제안(Exploration)하여 창의적 통찰을 돕도록 설계됨.

🔗 지식 연결 (Graph)

• Reinforcement-Learning, Q-Learning-Foundations, Multi-Armed-Bandit-MAB, Decision-Making
• Raw Source: 10_Wiki/Topics/AI/Exploration-vs-Exploitation.md