32 lines
2.2 KiB
Markdown
32 lines
2.2 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-BAST-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.98
|
|
tags: [auto-reinforced, bayesian-statistics, inference, data-analysis, uncertainty, modeling]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Bayesian Statistics|Bayesian Statistics]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "살아있는 통계학: 확률을 객관적인 사건의 빈도가 아니라 주관적인 확신의 정도로 정의하고, 끊임없이 유입되는 정보를 필터링하여 복잡한 세상을 모델링하는 강력한 추론 도구."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
베이지안 통계학(Bayesian Statistics)은 베이즈 정리를 바탕으로 미지의 모수(Parameter)를 추론하는 통계적 방법론입니다.
|
|
|
|
1. **철학적 특징**:
|
|
* **Subjective Probability**: 확률은 데이터와 사전 지식에 기반한 '합리적인 믿음'임.
|
|
* **Iterative Learning**: 데이터가 늘어날수록 사후 확률이 다시 사전 확률이 되어 다음 데이터 학습에 사용됨 (Recursive learning).
|
|
2. **장점**:
|
|
* 데이터가 적은 상황에서도 사전 지식(Prior)을 활용해 준수한 추론 가능.
|
|
* 결과를 점 추정(Point estimation)이 아닌 확률 분포로 제공하여 '모를 수 있다는 가능성'까지 수치화함.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 연산량이 너무 많아 실무 적용이 어려웠으나, 현대의 컴퓨팅 정책(MCMC 등)과 결합하여 복잡한 금융 모델이나 신약 개발 정책의 핵심 분석 틀로 자리 잡음(RL Update).
|
|
- **정책 변화(RL Update)**: AI 윤리 및 거버넌스 정책에서, 알고리즘의 편향을 탐지할 때 단순 빈도가 아닌 베이지안 사후 분포를 통해 '구조적 편향'의 확실성을 측정하는 엄격한 감사 정책이 도입됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Bayes-Theorem|Bayes-Theorem]], [[Bayesian-Updating|Bayesian-Updating]], [[Statistics & Data Analysis|Statistics & Data Analysis]], [[stochastic gradient descent|stochastic gradient descent]], Foundational Models
|
|
- **Modern Tech/Tools**: Stan, PyMC3, Bayesian Optimization for hyperparameter tuning.
|
|
---
|