2nd/10_Wiki/Topics/Theory-of-Mind (ToM) in AI.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
TOM-001	Unified	1.0	ai cognitive-science Psychology|Psychology theory-of-mind social-ai	2026-04-26

Theory of Mind (ToM) in AI (AI의 마음 이론)

📌 한 줄 통찰 (The Karpathy Summary)

"타인의 생각과 의도를 읽는 능력을 AI에게 부여하라" — 타인이 자신과 다른 신념, 욕구, 지식을 가지고 있음을 인지하고 그에 따른 행동을 예측하는 사회적 인지 능력을 인공지능에 구현하려는 시도.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 상호작용하는 대상의 내부 상태(Inner State)를 추론하여 협동하거나 경쟁하는 과정에서 최적의 대응을 산출하는 고차원 인지 패턴.
• 세부 내용:
  • First-order ToM: "A는 X라고 생각한다"는 사실 인지.
  • Second-order ToM: "A는 B가 Y라고 생각한다고 믿는다"는 중첩된 의도 파악.
  • LLM Emergence: 대규모 언어 모델이 학습 과정에서 명시적으로 배우지 않은 마음 이론 능력을 일부 보이기 시작함(창발적 지능).
  • Affective ToM: 타인의 감정 상태를 이해하고 공감하는 능력.
  • Cognitive ToM: 타인의 지식, 신념, 의도를 논리적으로 추론하는 능력.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 단순히 텍스트 패턴을 반복하는 '확률적 앵무새'를 넘어, 실제 맥락 속에서 상대방의 의도를 고려하는 '에이전틱 지능'으로의 진화 과정에서 핵심 지표로 부상.
• 정책 변화: Antigravity 에이전트의 대화 로직은 사용자의 질문 뒤에 숨겨진 '의도'와 '지식 수준'을 추론하는 ToM 원리를 적용하여 맞춤형 답변을 생성함.

🔗 지식 연결 (Graph)

• Cognitive-Science, Psychology-of-Learning, Agentic-Workflow, Human-AI-Collaboration
• Raw Source: 10_Wiki/Topics/AI/Theory-of-Mind (ToM) in AI.md