2nd/10_Wiki/Topics/AI_and_ML/Monte-Carlo-Methods.md

---
id: wiki-2026-0508-monte-carlo-methods
title: Monte Carlo Methods
category: 10_Wiki/Topics
status: verified
canonical_id: self
aliases: [Monte Carlo, MC Method, Stochastic Simulation, MCMC, MCTS]
duplicate_of: none
source_trust_level: A
confidence_score: 0.95
verification_status: applied
tags: [statistics, simulation, sampling, mcmc, mcts, reinforcement-learning, numerical-methods]
raw_sources: []
last_reinforced: 2026-05-10
github_commit: pending
tech_stack: { language: python, framework: numpy-scipy-pymc }
---

## 한 줄

Monte Carlo는 무작위 표본(random sampling)을 반복 생성하여 결정론적으로 풀기 어려운 적분, 최적화, 확률 분포 추정 문제를 통계적으로 근사하는 계열 방법이다.

## 핵심

### 기본 원리
- 큰 수의 법칙(LLN): 표본 평균은 기대값으로 수렴.
- 중심극한정리(CLT): 추정 오차는 `O(1/sqrt(N))`로 줄어든다 — 차원에 무관.
- 결정론적 quadrature는 차원 d에 대해 `O(N^(-k/d))` — Monte Carlo가 고차원에서 유리.

### 주요 변종
- **표준 MC 적분**: `∫ f(x) p(x) dx ≈ (1/N) Σ f(x_i)`, x_i ~ p(x).
- **중요도 표집(Importance Sampling)**: 효율적인 분포 q에서 샘플링 후 가중치 `p(x)/q(x)` 보정.
- **MCMC** (Markov Chain Monte Carlo): Metropolis-Hastings, Gibbs, HMC, NUTS — 사후분포 샘플링.
- **MCTS** (Monte Carlo Tree Search): 게임 트리에서 random playout으로 가치 추정 (AlphaGo).
- **Quasi-MC**: 저편차 수열(Sobol, Halton) — 결정론적이지만 균등 분포 우수.
- **Sequential MC (Particle Filter)**: 시계열 상태 추정.

### 응용
- 금융: 옵션 가격 결정 (Black-Scholes 외), VaR.
- 물리: 통계역학 시뮬레이션, 격자 QCD.
- 베이지안 통계: 사후분포 추론 (PyMC, Stan, NumPyro).
- 강화학습: MC return, MCTS (AlphaZero, MuZero).
- 그래픽스: 경로추적(path tracing), 광역 조명.
- 공학: 신뢰성 분석, 민감도 분석.

### 수렴 / 분산 감소
- Antithetic variates, control variates, stratified sampling, importance sampling.
- 효율 측정: `effective sample size`, `R-hat` (MCMC).

## 💻 패턴

```python
# 1. π 추정 — 가장 단순한 MC
import numpy as np
N = 1_000_000
x, y = np.random.uniform(-1, 1, (2, N))
pi_est = 4 * np.mean(x**2 + y**2 <= 1)
print(pi_est)  # ~3.1416
```

```python
# 2. MC 적분 — ∫₀¹ exp(-x²) dx
N = 100_000
samples = np.random.uniform(0, 1, N)
estimate = np.mean(np.exp(-samples**2))
stderr = np.std(np.exp(-samples**2)) / np.sqrt(N)
print(f"{estimate:.5f} ± {1.96*stderr:.5f}")
```

```python
# 3. 중요도 표집 — heavy tail 분포
def f(x): return np.exp(-x**2 / 2)
# q: 평균 3 정규분포 (target 영역에 집중)
N = 10_000
x = np.random.normal(3, 1, N)
q = lambda x: np.exp(-(x-3)**2/2) / np.sqrt(2*np.pi)
p = lambda x: 1.0 if 2 < x < 4 else 0.0
weights = np.array([p(xi) for xi in x]) / q(x)
estimate = np.mean(f(x) * weights)
```

```python
# 4. Metropolis-Hastings — 임의 분포 샘플링
def target(x): return np.exp(-x**2/2) * (1 + 0.5*np.sin(5*x))

samples, x = [], 0.0
for _ in range(50_000):
    proposal = x + np.random.normal(0, 1)
    alpha = min(1, target(proposal) / target(x))
    if np.random.rand() < alpha:
        x = proposal
    samples.append(x)
```

```python
# 5. PyMC — Bayesian 회귀 (NUTS)
import pymc as pm
with pm.Model() as model:
    alpha = pm.Normal("alpha", 0, 10)
    beta = pm.Normal("beta", 0, 10)
    sigma = pm.HalfNormal("sigma", 1)
    mu = alpha + beta * X_data
    y_obs = pm.Normal("y", mu=mu, sigma=sigma, observed=y_data)
    trace = pm.sample(2000, tune=1000, target_accept=0.95)
```

```python
# 6. MCTS — 간단한 tic-tac-toe selection
class Node:
    def __init__(self, state, parent=None):
        self.state, self.parent = state, parent
        self.children, self.visits, self.wins = [], 0, 0
    def ucb(self, c=1.41):
        if self.visits == 0: return float("inf")
        return self.wins/self.visits + c * np.sqrt(
            np.log(self.parent.visits) / self.visits
        )

def select(node):
    while node.children:
        node = max(node.children, key=lambda n: n.ucb())
    return node
```

```python
# 7. 옵션 가격 결정 — European call
S0, K, r, sigma, T = 100, 105, 0.05, 0.2, 1.0
N = 100_000
Z = np.random.standard_normal(N)
ST = S0 * np.exp((r - 0.5*sigma**2)*T + sigma*np.sqrt(T)*Z)
payoff = np.maximum(ST - K, 0)
price = np.exp(-r*T) * np.mean(payoff)
print(f"Call price: {price:.2f}")
```

```python
# 8. Quasi-MC — Sobol sequence
from scipy.stats import qmc
sampler = qmc.Sobol(d=2, scramble=True)
samples = sampler.random(n=4096)
# uniform [0,1]^2 — Monte Carlo 대비 분산 감소
```

```python
# 9. Particle filter — 1D tracking
N = 1000
particles = np.random.normal(0, 1, N)
weights = np.ones(N) / N
for obs in observations:
    particles += np.random.normal(0, 0.5, N)  # transition
    weights *= np.exp(-(particles - obs)**2 / 2)
    weights /= weights.sum()
    if 1/np.sum(weights**2) < N/2:  # ESS 낮으면 resample
        idx = np.random.choice(N, N, p=weights)
        particles, weights = particles[idx], np.ones(N)/N
```

```python
# 10. RL — Monte Carlo control (every-visit)
from collections import defaultdict
returns = defaultdict(list)
Q = defaultdict(float)
for episode in episodes:
    G = 0
    for t in reversed(range(len(episode))):
        s, a, r = episode[t]
        G = gamma * G + r
        returns[(s,a)].append(G)
        Q[(s,a)] = np.mean(returns[(s,a)])
```

## 결정 기준

| 문제 | 추천 방법 |
|---|---|
| 저차원 (d < 5) 적분 | Quadrature (Gauss-Legendre) |
| 고차원 (d ≥ 5) 적분 | Monte Carlo / Quasi-MC |
| 사후분포 샘플링 | NUTS (PyMC, Stan, NumPyro) |
| 이산 게임 의사결정 | MCTS (UCB1) |
| 이산상태 시계열 추정 | Particle Filter |
| 옵션 가격 / 금융 | MC + control variate |
| Heavy tail 추정 | Importance Sampling |
| 빠른 수렴 필요 | Quasi-MC (Sobol/Halton) |

기본값: NumPy `np.random` + N=10⁵, MCMC는 PyMC NUTS, 게임 트리는 MCTS+UCB1.

## 🔗 Graph
- 부모: [[Statistics]], [[Stochastic-Simulation]]
- 형제: [[Bayesian-Inference]], [[Reinforcement-Learning]], [[Variational-Inference]]
- 자식: [[MCMC]], [[MCTS]]

## 🤖 LLM 활용
- LLM이 모델 추론에 MC dropout으로 불확실성 추정.
- AlphaProof / AlphaGeometry류는 MCTS + LLM 결합.
- 코드 합성 평가에 pass@k는 본질적으로 Monte Carlo 추정.

## ❌ 안티패턴
- N이 작은데 표본 평균 신뢰 — 신뢰구간 미산출.
- MCMC burn-in / convergence diagnostic (R-hat, ESS) 무시.
- 의사난수 시드 미고정 → 재현 불가.
- High-dim에서 단순 rejection sampling — 채택률 0에 수렴.
- 분산 감소 기법 미적용 (control variate 등 무료 점심).

## 🧪 검증 / 중복
- 표준 적분 결과와 수렴 비교 (예: π).
- MCMC: trace plot, R-hat < 1.01, ESS > 400 권장.
- 별칭 통합: [[Monte-Carlo-Simulation]], [[Stochastic-Simulation]].

## 🕓 Changelog
- Phase 1 (2026-05-08): 초기 생성.
- Manual cleanup (2026-05-10): canonical 확정, 패턴 10개 정비, MCTS / Quasi-MC / Particle Filter 추가, 결정 기준 표 정리.