2nd/10_Wiki/Topics/Knowledge-Representation-in-AI.md

---

id: P-Reinforce-AI-EXPLANABILITY category: Unified confidence_score: 0.94 tags: [AI, XAI, Explainability, Ethics] last_reinforced: 2026-04-20

Knowledge-Representation-in-AI (AI의 지식 표현)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터를 기계가 이해할 수 있는 '의미의 지도'로 변환하는 기술." 실세계의 정보를 어떻게 정형화하여 컴퓨터가 논리적 추론이나 처리를 가능하게 할 것인지에 대한 프레임워크다.

📖 구조화된 지식 (Synthesized Content)

• Traditional Approaches:
  • Logic-based: 기호 논리학을 사용하여 "A이면 B이다" 식의 규칙 기반 표현.
  • Semantic Networks: 개념들을 노드로, 개념 간의 관계를 간선으로 표현 (예: 워드넷).
  • Ontology: 특정 분야의 개념과 그 관계를 엄격하게 정의한 계층 구조.
• Modern Approaches (Vector Space):
  • Embeddings: 단어나 개념을 고차원 벡터 공간의 점으로 표현. 의미적 유사성을 기하학적 거리로 계산한다.
• Key Challenges: **[Scalability|Scalability]**와 Interpretability(해석 가능성) 사이의 트레이드오프.

⚠️ 모순 및 업데이트 (RL Update)

• 고전적 지식 표현은 명확하지만 확장이 어렵고(Brittleness), 딥러닝 기반 표현은 강력하지만 왜 그런 결과가 나왔는지 알기 어렵다(Blackbox). 현재는 이 두 세계를 결합하여 논리적 근거와 신경망의 유연성을 동시에 잡으려는 '뉴로-심볼릭 AI(Neuro-Symbolic AI)'가 주류 연구 방향이다.

🔗 지식 연결 (Graph)

• Related: Neuro-Symbolic-AI , Ontology-Engineering
• Subfield: GraphRAG (그래프 기반 검색 증강 생성)