2.3 KiB
2.3 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | |||
|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-NSAI-001 | 10_Wiki/💡 Topics/AI | 0.95 |
|
2026-04-20 |
Neuro-Symbolic AI
📌 한 줄 통찰 (The Karpathy Summary)
"시스템 1(빠른 직관, 신경망)과 시스템 2(느린 추론, 기호 논리)의 인지적 융합을 통해, 인공지능의 신뢰성과 범용성을 확보하려는 3세대 AI 패러다임."
📖 구조화된 지식 (Synthesized Content)
Neuro-Symbolic AI(신경-기호 인공지능)는 현대 딥러닝의 패턴 매칭 능력과 고전적 AI의 추론 능력을 결합한 형태입니다.
- 핵심 아키텍처:
- Neural Front-end: 센서 데이터(이미지, 텍스트)를 이해하고 객체를 감지.
- Symbolic Reasoner: 감지된 객체들 사이의 관계를 논리적으로 정의하고, 규칙(Rules)에 따라 결과 도출.
- 주요 이점:
- 신뢰성 하이킹: 논리적 일관성을 강제함으로써 LLM 등에서 발생하는 환각(Hallucination) 현상을 획기적으로 줄일 수 있음.
- 설명 가능성(XAI): 기호화된 추론 과정을 통해 AI의 의사결정 이유를 인간이 이해하기 쉬운 형태로 제공.
- 주요 사례:
- IBM NS-VQA: 이미지를 보고 "빨간 공 위에 있는 녹색 큐브는 몇 개인가?"와 같은 복합 질문에 대해 논리적 스텝별로 답변.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거 기호주의 AI는 모든 규칙을 수동으로 입력해야 하는 '지식 공학의 병목' 문제가 있었으나, 현대 모델은 신경망이 스스로 기호와 규칙을 학습(Self-supervised Learning)하도록 진화함.
- 정책 변화(RL Update): 강화 학습 분야에서 에이전트가 복잡한 미션을 수행할 때, 보상 함수를 기호 논리(LTL, Linear Temporal Logic)로 정의하여 안전하고 목적 지향적인 행동을 유도하는 방식이 주목받고 있음.
🔗 지식 연결 (Graph)
- Related: Neural-Symbolic Integration, Common Sense Reasoning, Explainable AI (XAI), Cognitive Architectures
- Modern Tech/Tools: IBM Neuro-Symbolic AI Toolkit, Scallop Language, Logic Tensor Networks.