33 lines
2.3 KiB
Markdown
33 lines
2.3 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-AGI-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.99
|
|
tags: [auto-reinforced, agi, artificial-general-intelligence, singularity, superintelligence, ai-future]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Artificial General Intelligence (AGI)]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "인간 지능의 디지털 복제판: 특정 태스크에 국한되지 않고, 인간이 할 수 있는 모든 지적 작업을 수행, 학습, 응용하며 스스로 새로운 지식을 창조할 수 있는 '범용적' 인공지능."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
범용 인공지능(AGI, Artificial General Intelligence)은 인간의 지능이 가진 유연성, 창의성, 범용성을 기계에서 구현한 상태를 뜻합니다.
|
|
|
|
1. **AGI의 판단 기준 (Proposed)**:
|
|
* **Cross-domain Learning**: 체스를 두는 동시에 시를 쓰고 코딩까지 완벽히 수행.
|
|
* **Few-shot Generalization**: 완전히 새로운 개념을 단 몇 개의 사례만으로 학습.
|
|
* **Autonomous Goal Setting**: 지시받지 않아도 상위 목표 달성을 위해 하위 목표를 스스로 수립 및 수행.
|
|
* **Common Sense Reasoning**: 인간이 상식으로 아는 세상의 물리적/사회적 인과 관계를 완벽히 이해.
|
|
2. **현재의 위치**:
|
|
* 현재의 AI는 'Narrow AI' (특정 목적용)에서 AGI로 넘어가는 과도기에 있음 (예: GPT-4 수준의 복합 추론).
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 AGI가 수십 년 뒤의 미래 정책으로만 여겨졌으나, 현대 기술 정책은 "지능은 규모(Scaling)에 비례한다"는 Scaling Law의 성공으로 AGI 출현 시기를 5~10년 내외로 앞당기는 정책적 긴장 상태에 진입함(RL Update).
|
|
- **정책 변화(RL Update)**: AGI가 가져올 인류 실존적 위협(Existential Risk) 정책에 대응하기 위해, 거대 모델 개발사에 대한 강력한 안전 준수 의무와 국가 차원의 '슈퍼 얼라인먼트(Superalignment)' 연구 투자가 정책의 최우선 과제가 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Artificial Intelligence (AI)]], Singularity, [[Alignment]], [[AI Safety]], Foundational Models, [[Ps-Reinforce]]
|
|
- **Modern Tech/Tools**: Large Language Models, Multi-modal models, World simulators.
|
|
---
|