2.1 KiB
2.1 KiB
id: P-Reinforce-AUTO-BAST-001 category: "10_Wiki/💡 Topics/AI" confidence_score: 0.98 tags: [auto-reinforced, bayesian-Statistics, inference, data-Analysis, uncertainty, modeling] last_reinforced: 2026-04-20
Bayesian Statistics
📌 한 줄 통찰 (The Karpathy Summary)
"살아있는 통계학: 확률을 객관적인 사건의 빈도가 아니라 주관적인 확신의 정도로 정의하고, 끊임없이 유입되는 정보를 필터링하여 복잡한 세상을 모델링하는 강력한 추론 도구."
📖 구조화된 지식 (Synthesized Content)
베이지안 통계학(Bayesian Statistics)은 베이즈 정리를 바탕으로 미지의 모수(Parameter)를 추론하는 통계적 방법론입니다.
- 철학적 특징:
- Subjective Probability: 확률은 데이터와 사전 지식에 기반한 '합리적인 믿음'임.
- Iterative Learning: 데이터가 늘어날수록 사후 확률이 다시 사전 확률이 되어 다음 데이터 학습에 사용됨 (Recursive learning).
- 장점:
- 데이터가 적은 상황에서도 사전 지식(Prior)을 활용해 준수한 추론 가능.
- 결과를 점 추정(Point estimation)이 아닌 확률 분포로 제공하여 '모를 수 있다는 가능성'까지 수치화함.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 연산량이 너무 많아 실무 적용이 어려웠으나, 현대의 컴퓨팅 정책(MCMC 등)과 결합하여 복잡한 금융 모델이나 신약 개발 정책의 핵심 분석 틀로 자리 잡음(RL Update).
- 정책 변화(RL Update): AI 윤리 및 거버넌스 정책에서, 알고리즘의 편향을 탐지할 때 단순 빈도가 아닌 베이지안 사후 분포를 통해 '구조적 편향'의 확실성을 측정하는 엄격한 감사 정책이 도입됨.
🔗 지식 연결 (Graph)
- Bayes-Theorem, Bayesian-Updating, Statistics & Data Analysis, stochastic gradient descent, Foundational Models
- Modern Tech/Tools: Stan, PyMC3, Bayesian Optimization for hyperparameter tuning.