---
id: MATH-MCMC-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [[Statistics|[Statistics]], math, mcmc, bayesian-inference, sampling, machine-learning]
last_reinforced: 2026-04-26
---

# Markov Chain Monte Carlo (MCMC, 마르코프 체인 몬테카를로)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "계산할 수 없는 거대한 확률의 바다를, 무작위의 발걸음(Random Walk)으로 방랑하며 지도를 그려라" — 복잡한 고차원 확률 분포로부터 샘플을 추출하여 기댓값이나 사후 확률(Posterior)을 근사적으로 계산하는 알고리즘 체계.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Guided Random Sampling" — 단순히 무작위로 점을 찍는 대신, 현재 위치를 기반으로 확률이 높은 곳으로 이동할 가능성을 열어두는 마르코프 체인을 형성하여 타겟 분포에 수렴하게 만드는 지능형 샘플링 패턴.
- **핵심 알고리즘:**
    - **Metropolis-Hastings:** 새로운 상태를 제안하고, 확률 비율에 따라 수락하거나 거절하며 분포 탐색.
    - **Gibbs Sampling:** 각 변수를 순차적으로 고정하고 조건부 확률에 따라 샘플링 (고차원에서 유리).
- **의의:** 베이즈 통계학에서 해석적으로 풀 수 없는 복잡한 적분 문제를 해결 가능케 하여, 현대 데이터 과학과 물리학, AI 추론의 핵심 도구로 자리 잡음.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 연산 성능의 한계로 이론 속에만 머물던 기법이었으나, 컴퓨팅 파워의 증대와 Hamiltonian Monte Carlo(HMC) 같은 고효율 변종의 등장으로 대규모 데이터 분석의 실전 도구가 됨.
- **정책 변화:** Antigravity 프로젝트는 모델의 불확실성(Uncertainty)을 정교하게 측정하거나, 복잡한 지식 그래프의 확률적 잠재 경로를 탐색할 때 MCMC 기반의 시뮬레이션 기법을 고려함.

## 🔗 지식 연결 (Graph)
- Probability-Theory, [[Markov-Decision-Process-MDP|Markov-Decision-Process-MDP]], Bayesian-Networks, [[Global-vs-Local-Optima|Global-vs-Local-Optima]]
- **Raw Source:** 10_Wiki/Topics/AI/Markov-Chain-Monte-Carlo.md
