2nd/AI/Bayesian Inference.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
P-REINFORCE-AI-BAYES	10_Wiki/💡 Topics/AI	0.99	Bayesian Inference Probability Thinking Logic	2026-04-20

Bayesian-Inference (베이지안 추론)

📌 한 줄 통찰 (The Karpathy Summary)

세상은 확실한 답변(P=0 or 1)이 아니라 '확률적 믿음'으로 가득 차 있으며, 새로운 증거가 나타날 때마다 그 믿음의 확률을 끊임없이 수정(Update)하는 것이 진정한 지능이다.

📖 구조화된 지식 (Synthesized Content)

• Prior, Likelihood, Posterior:
  • Prior (사전 확률): 사건이 발생하기 전의 나의 믿음.
  • Likelihood (우도): 만약 내 믿음이 맞다면 이번 결과가 나올 확률.
  • Posterior (사후 확률): 결과를 목격하고 난 뒤 수정된 새로운 믿음.
• 베이즈 정리 (P(A|B) = P(B|A)P(A) / P(B)):
  • 관측되지 않은 원인(A)의 확률을 관측된 결과(B)를 통해 추론하는 강력한 수학적 도구.
• Applications in AI:
  • 스팸 메일 분류(Naive Bayes), 자율주행 센서 퓨전(Kalman Filter), 강화학습의 탐험(Exploration vs Exploitation) 전략의 근간이다.

⚠️ 모순 및 업데이트 (RL Update)

• 전통 통계학(Frequentist)과의 차이점을 이해해야 한다. 베이지안은 '모르는 것'에 대한 주관적 가정을 허용하므로, 데이터가 적은 초기 단계에서 훨씬 강력하지만 부적절한 사전 확률(Prior) 설정은 편향된 결과를 낳을 수 있다.

🔗 지식 연결 (Graph)

• Related: Information Theory , Common_Sense_Reasoning
• Foundation: Computational Thinking