35 lines
2.4 KiB
Markdown
35 lines
2.4 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-AURE-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.97
|
|
tags: [auto-reinforced, automated-reasoning, logic, formal-methods, theorem-proving, symbol-ai]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Automated-Reasoning]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "논리의 자동화: 수학적 증명이나 법적 판단과 같은 엄격한 추론 과정을 컴퓨터가 스스로 수행하여, 결론의 오류가 없음을 완벽히 보장하거나 새로운 정리를 발견해내는 지적 연산."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
자동 추론(Automated-Reasoning)은 컴퓨터 프로그램이 논리학을 이용하여 공리(Axioms)로부터 결론을 수평적으로 도출하거나, 주어진 가설의 참/거짓을 입증하는 인공지능의 핵심 분야입니다.
|
|
|
|
1. **주요 접근법**:
|
|
* **Deduction (연역)**: 일반적인 규칙에서 개별 사실 도출. (Standard AI)
|
|
* **Induction (귀납)**: 개별 사실로부터 일반적인 법칙 제안. (Machine Learning)
|
|
* **Abduction (가추)**: 관찰된 현상을 가장 잘 설명하는 가설 찾기.
|
|
2. **핵심 기술**:
|
|
* **Theorem Proving**: 수학적 정리를 증명.
|
|
* **Formal Verification**: 하드웨어나 소프트웨어가 설계 명세대로 작동하는지 수학적으로 검증 (항공우주, 금융 보안 전용).
|
|
3. **최근 트렌드 (Neuro-Symbolic)**:
|
|
* 언어 모델의 '직관'과 자동 추론 엔진의 '엄격한 논리'를 결합하여 오답(Hallucination) 없는 AI를 만드는 시도.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거 기호주의(Symbolic AI) 정책은 유연함이 부족해 실패했으나, 현대 AI 정책은 거대 모델이 내부적으로 논리 엔진을 호출하는 'Hybrid Reasoning 정책'을 통해 지능의 신뢰성을 비약적으로 높이는 정책으로 부활함(RL Update).
|
|
- **정책 변화(RL Update)**: 보안 필수 소프트웨어 정책 수립 시, 단순히 테스트 케이스를 돌리는 전통적 정책 대신 '수학적 자동 추론 검증'을 거친 코드만 승인하는 무결성 정책이 확산됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Active-Reasoning]], [[Logic]], [[Analysis]], [[Arguing-by-Counterexample]], [[Safety & Reliability]]
|
|
- **Modern Tech/Tools**: Z3 Theorem Prover, Coq, Lean (Mathematical proof assistant).
|
|
---
|