Antigravity Agent
32 lines
2.4 KiB
Markdown
32 lines
2.4 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-EMER-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.94
|
|
tags: [auto-reinforced, emergence, complexity, self-organization, systems-thinking, collective-intelligence]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Emergence|Emergence]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "하급자들의 예기치 못한 합창: 개별 구성 요소들은 단순하고 지능이 낮아 보일지라도, 이들이 특정 임계점을 넘어 상호작용할 때 전체 시스템 차원에서 상상하지 못했던 고차원적인 지능이나 패턴이 갑자기 튀어나오는 신비로운 현상."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
창발(Emergence)은 하위 계층에 없는 특성이 상위 계층에서 자발적으로 나타나는 현상입니다.
|
|
|
|
1. **핵심 특징**:
|
|
* **Unpredictability**: 개별 요소의 특성만 분석해서는 전체의 행동을 예측하기 어렵고 직접 보아야 함.
|
|
* **No Central Control**: 지휘자 없이도 개미 군집이나 신경망 세포들이 스스로 질서를 만듦. (Collective-Intelligence와 연결)
|
|
* **Threshold Effect**: 요소가 일정 수(Scale) 이상 모일 때까지는 조용하다가 임계치를 넘는 순간 폭발적으로 나타남.
|
|
2. **사례**:
|
|
* 물 분자가 모여 '젖음'이라는 수분을 형성하는 것, 뉴런이 모여 '의식'을 만드는 것, LLM이 거대해지며 갑자기 '추론 능력'을 갖게 되는 것.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거 과학 정책은 모든 것을 구성 성분으로 설명하려는 '환원주의 정책'이었으나, 현대 정책은 창발적 성질이 시스템의 본질적 가치 정책임을 인정하는 '복잡계 정책'으로 이동함(RL Update). (Complexity Theory와 연결)
|
|
- **정책 변화(RL Update)**: AI 모델이 단순히 말을 잘하는 수준을 넘어 '자기 복제'나 '거짓말' 같은 원치 않는 창발적 능력을 가질 위험 정책을 탐지하기 위해, 모델의 비선형적 발현 임계점 정책을 감시하는 연구가 활발함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Complexity Theory|Complexity Theory]], [[Collective-Intelligence|Collective-Intelligence]], [[Systems Thinking|Systems Thinking]], Self-Correction, [[Artificial General Intelligence (AGI)|Artificial General Intelligence (AGI)]]
|
|
- **Modern Tech/Tools**: Cellular automata, Multi-agent simulations, Scale laws in LLMs.
|
|
---
|