2nd/10_Wiki/Topics/Artificial General Intelligence (AGI).md

---

id: P-Reinforce-AUTO-AGI-001 category: Unified confidence_score: 0.99 tags: [auto-reinforced, agi, artificial-general-intelligence, singularity, superintelligence, ai-future] last_reinforced: 2026-04-20

Artificial General Intelligence (AGI)

📌 한 줄 통찰 (The Karpathy Summary)

"인간 지능의 디지털 복제판: 특정 태스크에 국한되지 않고, 인간이 할 수 있는 모든 지적 작업을 수행, 학습, 응용하며 스스로 새로운 지식을 창조할 수 있는 '범용적' 인공지능."

📖 구조화된 지식 (Synthesized Content)

범용 인공지능(AGI, Artificial General Intelligence)은 인간의 지능이 가진 유연성, 창의성, 범용성을 기계에서 구현한 상태를 뜻합니다.

1. AGI의 판단 기준 (Proposed):
   • Cross-domain Learning: 체스를 두는 동시에 시를 쓰고 코딩까지 완벽히 수행.
   • Few-shot Generalization: 완전히 새로운 개념을 단 몇 개의 사례만으로 학습.
   • Autonomous goal Setting: 지시받지 않아도 상위 목표 달성을 위해 하위 목표를 스스로 수립 및 수행.
   • Common Sense Reasoning: 인간이 상식으로 아는 세상의 물리적/사회적 인과 관계를 완벽히 이해.
2. 현재의 위치:
   • 현재의 AI는 'Narrow AI' (특정 목적용)에서 AGI로 넘어가는 과도기에 있음 (예: GPT-4 수준의 복합 추론).

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 과거에는 AGI가 수십 년 뒤의 미래 정책으로만 여겨졌으나, 현대 기술 정책은 "지능은 규모(Scaling)에 비례한다"는 Scaling Law의 성공으로 AGI 출현 시기를 5~10년 내외로 앞당기는 정책적 긴장 상태에 진입함(RL Update).
• 정책 변화(RL Update): AGI가 가져올 인류 실존적 위협(Existential Risk) 정책에 대응하기 위해, 거대 모델 개발사에 대한 강력한 안전 준수 의무와 국가 차원의 '슈퍼 얼라인먼트(SuperAlignment)' 연구 투자가 정책의 최우선 과제가 됨.

🔗 지식 연결 (Graph)

• Artificial Intelligence (AI), Singularity, Alignment, AI Safety, Foundational Models, Ps-Reinforce
• Modern Tech/Tools: Large Language Models, Multi-modal models, World simulators.

---