--- id: P-REINFORCE-AI-BAYES category: "[[10_Wiki/πŸ’‘ Topics/AI]]" confidence_score: 0.99 tags: [Bayesian Inference, Probability, Thinking, Logic] last_reinforced: 2026-04-20 --- # [[Bayesian-Inference]] (λ² μ΄μ§€μ•ˆ μΆ”λ‘ ) ## πŸ“Œ ν•œ 쀄 톡찰 (The Karpathy Summary) > 세상은 ν™•μ‹€ν•œ λ‹΅λ³€(P=0 or 1)이 μ•„λ‹ˆλΌ 'ν™•λ₯ μ  믿음'으둜 가득 μ°¨ 있으며, μƒˆλ‘œμš΄ 증거가 λ‚˜νƒ€λ‚  λ•Œλ§ˆλ‹€ κ·Έ 믿음의 ν™•λ₯ μ„ λŠμž„μ—†μ΄ μˆ˜μ •(Update)ν•˜λŠ” 것이 μ§„μ •ν•œ μ§€λŠ₯이닀. ## πŸ“– κ΅¬μ‘°ν™”λœ 지식 (Synthesized Content) - **Prior, Likelihood, Posterior**: - **Prior (사전 ν™•λ₯ )**: 사건이 λ°œμƒν•˜κΈ° μ „μ˜ λ‚˜μ˜ 믿음. - **Likelihood (μš°λ„)**: λ§Œμ•½ λ‚΄ 믿음이 λ§žλ‹€λ©΄ 이번 κ²°κ³Όκ°€ λ‚˜μ˜¬ ν™•λ₯ . - **Posterior (사후 ν™•λ₯ )**: κ²°κ³Όλ₯Ό λͺ©κ²©ν•˜κ³  λ‚œ λ’€ μˆ˜μ •λœ μƒˆλ‘œμš΄ 믿음. - **베이즈 정리 ($P(A|B) = P(B|A)P(A) / P(B)$)**: - κ΄€μΈ‘λ˜μ§€ μ•Šμ€ 원인(A)의 ν™•λ₯ μ„ κ΄€μΈ‘λœ κ²°κ³Ό(B)λ₯Ό 톡해 μΆ”λ‘ ν•˜λŠ” κ°•λ ₯ν•œ μˆ˜ν•™μ  도ꡬ. - **Applications in AI**: - 슀팸 메일 λΆ„λ₯˜(Naive Bayes), μžμœ¨μ£Όν–‰ μ„Όμ„œ 퓨전(Kalman Filter), κ°•ν™”ν•™μŠ΅μ˜ νƒν—˜(Exploration vs Exploitation) μ „λž΅μ˜ 근간이닀. ## ⚠️ λͺ¨μˆœ 및 μ—…λ°μ΄νŠΈ (RL Update) - 전톡 톡계학(Frequentist)과의 차이점을 이해해야 ν•œλ‹€. λ² μ΄μ§€μ•ˆμ€ 'λͺ¨λ₯΄λŠ” 것'에 λŒ€ν•œ 주관적 가정을 ν—ˆμš©ν•˜λ―€λ‘œ, 데이터가 적은 초기 λ‹¨κ³„μ—μ„œ 훨씬 κ°•λ ₯ν•˜μ§€λ§Œ λΆ€μ μ ˆν•œ 사전 ν™•λ₯ (Prior) 섀정은 편ν–₯된 κ²°κ³Όλ₯Ό 낳을 수 μžˆλ‹€. ## πŸ”— 지식 μ—°κ²° (Graph) - Related: [[Information Theory]] , [[Common_Sense_Reasoning]] - Foundation: [[Computational Thinking]]