2.4 KiB
2.4 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | |||||
|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-PLFT-001 | 10_Wiki/💡 Topics/AI | 0.95 |
|
2026-04-20 |
Probability and Logic Fusion
📌 한 줄 통찰 (The Karpathy Summary)
"엄밀함과 불확실성의 동거: '참/거짓'으로 명확히 나뉘는 전통적 논리에 '그럴듯함'의 확률을 입혀, 불완전한 지식으로도 합리적 추론을 수행하는 현대 AI의 핵심 지능."
📖 구조화된 지식 (Synthesized Content)
확률과 논리의 융합(Probability and Logic Fusion)은 전통적인 기호적 논리(Symbolic Logic)와 확률적 그래픽 모델(Probabilistic Graphical Models)을 결합하여 지식을 표현하고 추론하는 방법론입니다.
- 결합의 필요성:
- 전통 논리는 예외 상황을 처리하기 어렵고(Brittle), 확률 모델은 복잡한 구조적 지식(관계, 상속 등)을 표현하기 어려움.
- 주요 모델러:
- Markov Logic Networks (MLN): 논리 수식마다 가중치(Weight)를 부여하여, 수식이 위반될 확률을 허용하되 가중치가 클수록 엄격히 지키도록 함.
- Probabilistic Soft Logic (PSL): 논리값을 0 또는 1이 아닌 [0, 1] 사이의 연속적인 값으로 처리하여 빠른 최적화 가능.
- 신경-기호 결합 (Neuro-Symbolic):
- 딥러닝의 보편적 근사 능력(확률적)과 1차 논리(기호적)를 결합하여, 학습 효율을 높이고 결과의 해석 가능성을 확보.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 초창기 AI는 '전문가 시스템(순수 논리)'이거나 '통계적 머신러닝(순수 확률)' 중 하나였으나, 두 진영의 장점만을 취한 융합 모델이 상식 추론(Common Sense Reasoning) 분야에서 압도적인 성과를 내며 주류로 자리 잡음.
- 정책 변화(RL Update): 자율 주행, 금융 사기 탐지 등 '고신뢰 인공지능'이 요구되는 분야에서, 확률적 예측에 대한 논리적 근거(Rule-based explanation)를 반드시 제공해야 한다는 기술 정책이 강화되며 이 융합 기술이 필수화됨.
🔗 지식 연결 (Graph)
- Neuro-Symbolic-AI, Logic, Probability Theory, Knowledge Graphs, Artificial General Intelligence (AGI)
- Modern Tech/Tools: DeepProbLog, Pyro (Probabilistic Programming), PyTorch Geometric.