---
id: P-REINFORCE-AI-EXPLANABILITY
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.94
tags: [AI, XAI, Explainability, Ethics]
last_reinforced: 2026-04-20
---

# [[Knowledge-Representation-in-AI]] (AI의 지식 표현)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "데이터를 기계가 이해할 수 있는 '의미의 지도'로 변환하는 기술." 실세계의 정보를 어떻게 정형화하여 컴퓨터가 논리적 추론이나 처리를 가능하게 할 것인지에 대한 프레임워크다.

## 📖 구조화된 지식 (Synthesized Content)
- **Traditional Approaches**:
    - **Logic-based**: 기호 논리학을 사용하여 "A이면 B이다" 식의 규칙 기반 표현.
    - **Semantic Networks**: 개념들을 노드로, 개념 간의 관계를 간선으로 표현 (예: 워드넷).
    - **Ontology**: 특정 분야의 개념과 그 관계를 엄격하게 정의한 계층 구조.
- **Modern Approaches (Vector Space)**:
    - **Embeddings**: 단어나 개념을 고차원 벡터 공간의 점으로 표현. 의미적 유사성을 기하학적 거리로 계산한다.
- **Key Challenges**: **Scalability(확장성)**와 **Interpretability(해석 가능성)** 사이의 트레이드오프.

## ⚠️ 모순 및 업데이트 (RL Update)
- 고전적 지식 표현은 명확하지만 확장이 어렵고(Brittleness), 딥러닝 기반 표현은 강력하지만 왜 그런 결과가 나왔는지 알기 어렵다(Blackbox). 현재는 이 두 세계를 결합하여 논리적 근거와 신경망의 유연성을 동시에 잡으려는 '뉴로-심볼릭 AI(Neuro-symbolic AI)'가 주류 연구 방향이다.

## 🔗 지식 연결 (Graph)
- Related: [[Neuro-Symbolic-AI]] , [[Ontology-Engineering]]
- Subfield: [[GraphRAG (그래프 기반 검색 증강 생성)]]