34 lines
2.3 KiB
Markdown
34 lines
2.3 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-NSAI-001
|
|
category: "[[10_Wiki/💡 Topics/AI]]"
|
|
confidence_score: 0.95
|
|
tags: [auto-reinforced, logic, reasoning]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Neuro-Symbolic AI]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "시스템 1(빠른 직관, 신경망)과 시스템 2(느린 추론, 기호 논리)의 인지적 융합을 통해, 인공지능의 신뢰성과 범용성을 확보하려는 3세대 AI 패러다임."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
Neuro-Symbolic AI(신경-기호 인공지능)는 현대 딥러닝의 패턴 매칭 능력과 고전적 AI의 추론 능력을 결합한 형태입니다.
|
|
|
|
1. **핵심 아키텍처**:
|
|
* **Neural Front-end**: 센서 데이터(이미지, 텍스트)를 이해하고 객체를 감지.
|
|
* **Symbolic Reasoner**: 감지된 객체들 사이의 관계를 논리적으로 정의하고, 규칙(Rules)에 따라 결과 도출.
|
|
2. **주요 이점**:
|
|
* **신뢰성 하이킹**: 논리적 일관성을 강제함으로써 LLM 등에서 발생하는 환각(Hallucination) 현상을 획기적으로 줄일 수 있음.
|
|
* **설명 가능성(XAI)**: 기호화된 추론 과정을 통해 AI의 의사결정 이유를 인간이 이해하기 쉬운 형태로 제공.
|
|
3. **주요 사례**:
|
|
* **IBM NS-VQA**: 이미지를 보고 "빨간 공 위에 있는 녹색 큐브는 몇 개인가?"와 같은 복합 질문에 대해 논리적 스텝별로 답변.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거 기호주의 AI는 모든 규칙을 수동으로 입력해야 하는 '지식 공학의 병목' 문제가 있었으나, 현대 모델은 신경망이 스스로 기호와 규칙을 학습(Self-supervised Learning)하도록 진화함.
|
|
- **정책 변화(RL Update)**: 강화 학습 분야에서 에이전트가 복잡한 미션을 수행할 때, 보상 함수를 기호 논리(LTL, Linear Temporal Logic)로 정의하여 안전하고 목적 지향적인 행동을 유도하는 방식이 주목받고 있음.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- **Related**: [[Neural-Symbolic Integration]], [[Common Sense Reasoning]], [[Explainable AI (XAI)]], [[Cognitive Architectures]]
|
|
- **Modern Tech/Tools**: IBM Neuro-Symbolic AI Toolkit, Scallop Language, Logic Tensor Networks.
|
|
---
|