[G1-Sync] Manual knowledge update

This commit is contained in:
Antigravity Agent
2026-04-30 22:42:02 +09:00
parent 0bd4f19e38
commit c36c0644a1
4888 changed files with 18470 additions and 18602 deletions
@@ -1,5 +1,5 @@
---
id: P-REINFORCE-AUTO-AGI-001
id: [[P-Reinforce]]-AUTO-AGI-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.99
tags: [auto-reinforced, agi, artificial-general-intelligence, singularity, superintelligence, ai-future]
@@ -17,14 +17,14 @@ last_reinforced: 2026-04-20
1. **AGI의 판단 기준 (Proposed)**:
* **Cross-domain Learning**: 체스를 두는 동시에 시를 쓰고 코딩까지 완벽히 수행.
* **Few-shot Generalization**: 완전히 새로운 개념을 단 몇 개의 사례만으로 학습.
* **Autonomous Goal Setting**: 지시받지 않아도 상위 목표 달성을 위해 하위 목표를 스스로 수립 및 수행.
* **Common Sense Reasoning**: 인간이 상식으로 아는 세상의 물리적/사회적 인과 관계를 완벽히 이해.
* **Autonomous [[goal]] Setting**: 지시받지 않아도 상위 목표 달성을 위해 하위 목표를 스스로 수립 및 수행.
* **Common Sense [[Reasoning]]**: 인간이 상식으로 아는 세상의 물리적/사회적 인과 관계를 완벽히 이해.
2. **현재의 위치**:
* 현재의 AI는 'Narrow AI' (특정 목적용)에서 AGI로 넘어가는 과도기에 있음 (예: GPT-4 수준의 복합 추론).
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 과거에는 AGI가 수십 년 뒤의 미래 정책으로만 여겨졌으나, 현대 기술 정책은 "지능은 규모(Scaling)에 비례한다"는 Scaling Law의 성공으로 AGI 출현 시기를 5~10년 내외로 앞당기는 정책적 긴장 상태에 진입함(RL Update).
- **정책 변화(RL Update)**: AGI가 가져올 인류 실존적 위협(Existential Risk) 정책에 대응하기 위해, 거대 모델 개발사에 대한 강력한 안전 준수 의무와 국가 차원의 '슈퍼 얼라인먼트(Superalignment)' 연구 투자가 정책의 최우선 과제가 됨.
- **정책 변화(RL Update)**: AGI가 가져올 인류 실존적 위협(Existential Risk) 정책에 대응하기 위해, 거대 모델 개발사에 대한 강력한 안전 준수 의무와 국가 차원의 '슈퍼 얼라인먼트(Super[[Alignment]])' 연구 투자가 정책의 최우선 과제가 됨.
## 🔗 지식 연결 (Graph)
- [[Artificial Intelligence (AI)]], Singularity, [[Alignment]], [[AI Safety]], Foundational Models, [[Ps-Reinforce]]