feat: Knowledge Gardening Milestone 380 (Batches #17-19)

This commit is contained in:
Antigravity Agent
2026-04-26 19:56:45 +09:00
parent 2c6f410d99
commit 26e19dae54
61 changed files with 1754 additions and 60 deletions
+16 -21
View File
@@ -1,33 +1,28 @@
---
id: P-REINFORCE-AUTO-NSAI-001
id: AI-HYBRID-001
category: "[[10_Wiki/💡 Topics/AI]]"
confidence_score: 0.95
tags: [auto-reinforced, logic, reasoning]
last_reinforced: 2026-04-20
confidence_score: 1.0
tags: [ai, neuro-symbolic, deep-learning, symbolic-logic, reasoning, hybrid-ai]
last_reinforced: 2026-04-26
---
# [[Neuro-Symbolic AI]]
# [[Neuro-Symbolic AI (뉴로-심볼릭 AI)]]
## 📌 한 줄 통찰 (The Karpathy Summary)
> "시스템 1(빠른 직관, 신경망)과 시스템 2(느린 추론, 기호 논리)의 인지적 융합을 통해, 인공지능의 신뢰성과 범용성을 확보하 3세대 AI 패러다임."
> "딥러닝의 압도적인 '직관'과 심볼릭 논리의 명확한 '이성'을 결합하여, 생각하고 설명하는 완전한 지능을 구현하라" — 신경망 기반의 패턴 인식 능력과 기호 기반의 추론 능력을 통합하여, 데이터 효율성, 해석 가능성, 그리고 복잡한 논리 전개 능력을 동시에 확보하는 AI 패러다임.
## 📖 구조화된 지식 (Synthesized Content)
Neuro-Symbolic AI(신경-기호 인공지능)는 현대 딥러닝의 패턴 매칭 능력과 고전적 AI의 추론 능력을 결합한 형태입니다.
1. **핵심 아키텍처**:
* **Neural Front-end**: 센서 데이터(이미지, 텍스트)를 이해하고 객체를 감지.
* **Symbolic Reasoner**: 감지된 객체들 사이의 관계를 논리적으로 정의하고, 규칙(Rules)에 따라 결과 도출.
2. **주요 이점**:
* **신뢰성 하이킹**: 논리적 일관성을 강제함으로써 LLM 등에서 발생하는 환각(Hallucination) 현상을 획기적으로 줄일 수 있음.
* **설명 가능성(XAI)**: 기호화된 추론 과정을 통해 AI의 의사결정 이유를 인간이 이해하기 쉬운 형태로 제공.
3. **주요 사례**:
* **IBM NS-VQA**: 이미지를 보고 "빨간 공 위에 있는 녹색 큐브는 몇 개인가?"와 같은 복합 질문에 대해 논리적 스텝별로 답변.
- **추출된 패턴:** "Pattern Perception and Logical Deduction" — 딥러닝이 비정형 데이터(이미지, 음성 등)에서 의미 있는 심볼(개체, 속성)을 추출하면, 심볼릭 엔진이 미리 정의된 지식 그래프나 논리 규칙을 바탕으로 정답을 유추하고 그 과정을 설명하는 하이브리드 패턴.
- **주요 특징:**
- **Data Efficiency:** 수만 장의 사진 대신, 몇 개의 논리 규칙과 소량의 데이터만으로도 학습 가능.
- **Explainability:** 결과 도출 과정이 논리적으로 기록되어 "왜 그렇게 판단했는지" 인간이 이해할 수 있음.
- **Out-of-distribution Generalization:** 학습하지 않은 새로운 환경에서도 보편적인 논리 법칙을 적용하여 대응 가능.
- **의의:** 현재 LLM의 한계인 할루시네이션(Hallucination)과 논리적 오류를 극복하기 위한 강력한 대안으로 주목받고 있음.
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 과거 기호주의 AI는 모든 규칙을 수동으로 입력해야 하는 '지식 공학의 병목' 문제가 있었으나, 현대 모델은 신경망이 스스로 기호와 규칙을 학습(Self-supervised Learning)하도록 진화함.
- **정책 변화(RL Update)**: 강화 학습 분야에서 에이전트가 복잡한 미션을 수행할 때, 보상 함수를 기호 논리(LTL, Linear Temporal Logic)로 정의하여 안전하고 목적 지향적인 행동을 유도하는 방식이 주목받고 있음.
- **과거 데이터와의 충돌:** 신경망과 심볼릭 모델은 서로 섞일 수 없는 기름과 물과 같다는 인식을 넘어, 최근에는 신경망 내부에서 논리를 학습하거나(Logic Neural Networks) 심볼을 벡터로 변환하여 처리하는 등 유기적인 통합이 가속화됨.
- **정책 변화:** Antigravity 에이전트는 사용자의 질문을 이해할 때는 딥러닝(Neural)을 쓰고, 작업 계획을 세우거나 지식 그래프를 업데이트할 때는 엄격한 논리 규칙(Symbolic)을 적용하는 뉴로-심볼릭 아키텍처를 지향함.
## 🔗 지식 연결 (Graph)
- **Related**: [[Neural-Symbolic Integration]], [[Common Sense Reasoning]], [[Explainable AI (XAI)]], [[Cognitive Architectures]]
- **Modern Tech/Tools**: IBM Neuro-Symbolic AI Toolkit, Scallop Language, Logic Tensor Networks.
---
- [[Model-Interpretability-Tools]], [[Knowledge-Graph-Foundations]], [[Reasoning-and-Planning-in-AI]], [[Trustworthy-AI]]
- **Raw Source:** [[10_Wiki/Topics/AI/Neuro-Symbolic-AI.md]]