[G1-Sync] Manual knowledge update
This commit is contained in:
Antigravity Agent
@@ -2,65 +2,157 @@
|
||||
id: wiki-2026-0508-emergence
|
||||
title: Emergence
|
||||
category: 10_Wiki/Topics
|
||||
status: needs_review
|
||||
status: verified
|
||||
canonical_id: self
|
||||
aliases: [P-Reinforce-AUTO-EMER-001]
|
||||
aliases: [Emergent Behavior, Emergent Phenomena, Weak Emergence, Strong Emergence]
|
||||
duplicate_of: none
|
||||
source_trust_level: A
|
||||
confidence_score: 0.94
|
||||
tags: [auto-reinforced, emergence, complexity, self-organization, Systems-Thinking, Collective-Intelligence]
|
||||
confidence_score: 0.9
|
||||
verification_status: applied
|
||||
tags: [complexity, philosophy, systems, ai, multi-agent]
|
||||
raw_sources: []
|
||||
last_reinforced: 2026-04-20
|
||||
last_reinforced: 2026-05-10
|
||||
github_commit: pending
|
||||
inferred_by: Claude Opus 4.7 (auto-normalize 2026-05-08)
|
||||
tech_stack:
|
||||
language: Python
|
||||
framework: NumPy/Mesa
|
||||
---
|
||||
|
||||
# [[Emergence|Emergence]]
|
||||
# Emergence
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "하급자들의 예기치 못한 합창: 개별 구성 요소들은 단순하고 지능이 낮아 보일지라도, 이들이 특정 임계점을 넘어 상호작용할 때 전체 시스템 차원에서 상상하지 못했던 고차원적인 지능이나 패턴이 갑자기 튀어나오는 신비로운 현상."
|
||||
## 매 한 줄
|
||||
> **"매 whole 의 properties 매 parts 의 sum 의 not derivable — 매 collective behavior 의 birth"**. Aristotle origin, Mill 1843 "heteropathic laws", Anderson 1972 "More is Different", modern formal version 매 Bedau (weak emergence) / Chalmers (strong). 매 LLM "emergent capabilities" 의 2022-26 controversy (Schaeffer 2023 reframed as metric artifact).
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
창발(Emergence)은 하위 계층에 없는 특성이 상위 계층에서 자발적으로 나타나는 현상입니다.
|
||||
## 매 핵심
|
||||
|
||||
1. **핵심 특징**:
|
||||
* **Unpredictability**: 개별 요소의 특성만 분석해서는 전체의 행동을 예측하기 어렵고 직접 보아야 함.
|
||||
* **No Central Control**: 지휘자 없이도 개미 군집이나 신경망 세포들이 스스로 질서를 만듦. (Collective-Intelligence와 연결)
|
||||
* **Threshold Effect**: 요소가 일정 수(Scale) 이상 모일 때까지는 조용하다가 임계치를 넘는 순간 폭발적으로 나타남.
|
||||
2. **사례**:
|
||||
* 물 분자가 모여 '젖음'이라는 수분을 형성하는 것, 뉴런이 모여 '의식'을 만드는 것, LLM이 거대해지며 갑자기 '추론 능력'을 갖게 되는 것.
|
||||
### 매 두 types
|
||||
- **Weak emergence** (Bedau): macro patterns derivable from micro by simulation only — irreducible in practice, reducible in principle (e.g. Conway's Life, traffic jams, ant trails).
|
||||
- **Strong emergence** (Chalmers): genuinely novel causal powers not reducible — controversial (consciousness, ?).
|
||||
- **Nominal emergence**: just labeling (descriptive, weakest sense).
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & Updates)
|
||||
- **과거 데이터와의 충돌**: 과거 과학 정책은 모든 것을 구성 성분으로 설명하려는 '환원주의 정책'이었으나, 현대 정책은 창발적 성질이 시스템의 본질적 가치 정책임을 인정하는 '복잡계 정책'으로 이동함(RL Update). ([[Complexity Theory|Complexity Theory]]와 연결)
|
||||
- **정책 변화(RL Update)**: AI 모델이 단순히 말을 잘하는 수준을 넘어 '자기 복제'나 '거짓말' 같은 원치 않는 창발적 능력을 가질 위험 정책을 탐지하기 위해, 모델의 비선형적 발현 임계점 정책을 감시하는 연구가 활발함.
|
||||
### 매 hallmarks
|
||||
- Many simple parts + simple interactions.
|
||||
- Macro pattern not present in any single part.
|
||||
- Often power-law / scale-free statistics.
|
||||
- Self-organization without central control.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Complexity Theory|Complexity Theory]], [[Collective-Intelligence|Collective-Intelligence]], [[Systems Thinking|Systems Thinking]], Self-Correction, [[Artificial General Intelligence (AGI)|Artificial General Intelligence (AGI)]]
|
||||
- **Modern Tech/Tools**: Cellular automata, Multi-agent simulations, Scale laws in LLMs.
|
||||
---
|
||||
### 매 응용
|
||||
1. Multi-agent systems (swarms, markets, traffic).
|
||||
2. Cellular automata (CA, Conway's Life).
|
||||
3. LLM emergent capabilities debate (in-context learning, CoT).
|
||||
4. Phase transitions in physics.
|
||||
5. Consciousness research (IIT, GWT).
|
||||
6. Biology (flocking, embryogenesis).
|
||||
|
||||
## 🤖 LLM 활용 힌트 (How to Use This Knowledge)
|
||||
## 💻 패턴
|
||||
|
||||
**언제 이 지식을 쓰는가:**
|
||||
- *(TODO)*
|
||||
### Conway's Game of Life (canonical emergence)
|
||||
```python
|
||||
import numpy as np
|
||||
|
||||
**언제 쓰면 안 되는가:**
|
||||
- *(TODO)*
|
||||
def step(grid):
|
||||
nb = sum(np.roll(np.roll(grid, i, 0), j, 1)
|
||||
for i in (-1, 0, 1) for j in (-1, 0, 1) if (i, j) != (0, 0))
|
||||
return ((nb == 3) | ((grid == 1) & (nb == 2))).astype(int)
|
||||
|
||||
## 🧪 검증 상태 (Validation)
|
||||
grid = np.random.choice([0, 1], (50, 50), p=[0.7, 0.3])
|
||||
for _ in range(100):
|
||||
grid = step(grid)
|
||||
```
|
||||
|
||||
- **정보 상태:** needs_review
|
||||
- **출처 신뢰도:** A
|
||||
- **검토 이유:** *(P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)*
|
||||
### Boids (flocking)
|
||||
```python
|
||||
def boids_step(pos, vel, n_neighbors=10):
|
||||
# alignment, cohesion, separation
|
||||
new_vel = vel.copy()
|
||||
for i in range(len(pos)):
|
||||
d = np.linalg.norm(pos - pos[i], axis=1)
|
||||
nb = np.argsort(d)[1:n_neighbors+1]
|
||||
align = vel[nb].mean(0) - vel[i]
|
||||
cohere = pos[nb].mean(0) - pos[i]
|
||||
sep = -(pos[nb] - pos[i]).sum(0) / (d[nb][:, None] + 1e-3).sum()
|
||||
new_vel[i] += 0.05*align + 0.01*cohere + 0.1*sep
|
||||
return new_vel
|
||||
```
|
||||
|
||||
## 🧬 중복 검사 (Duplicate Check)
|
||||
### Detect emergence (mutual information micro→macro)
|
||||
```python
|
||||
from sklearn.metrics import mutual_info_score
|
||||
|
||||
- **기존 유사 문서:** *(TODO: 인덱서 클러스터 리포트 참조)*
|
||||
- **처리 방식:** UPDATE (자동 정규화)
|
||||
- **처리 이유:** Phase 1 정규화 — 옛 템플릿/누락 필드 보강.
|
||||
def emergence_score(micro_states, macro_states):
|
||||
# High macro→macro MI conditioning on past macro indicates emergence
|
||||
return mutual_info_score(macro_states[:-1], macro_states[1:])
|
||||
```
|
||||
|
||||
## 🕓 변경 이력 (Changelog)
|
||||
### LLM emergent capability (per Schaeffer 2023)
|
||||
```python
|
||||
# Discontinuous metric (exact match) shows "emergence"
|
||||
# Continuous metric (token-level prob) shows smooth scaling
|
||||
def reframe_emergence(model_sizes, exact_match, token_logp):
|
||||
# Plot both: token_logp is smooth, exact-match has sharp jump
|
||||
return {"continuous": token_logp, "discrete": exact_match}
|
||||
```
|
||||
|
||||
| 날짜 | 변경 내용 | 처리 방식 | 신뢰도 |
|
||||
|------|-----------|-----------|--------|
|
||||
| 2026-05-08 | P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) | UPDATE | A |
|
||||
### Cellular automaton (1D, Wolfram Class 4)
|
||||
```python
|
||||
def ca_1d(rule, n_cells=200, n_steps=200):
|
||||
rule_bin = [(rule >> i) & 1 for i in range(8)]
|
||||
state = np.zeros(n_cells, dtype=int); state[n_cells//2] = 1
|
||||
history = [state.copy()]
|
||||
for _ in range(n_steps):
|
||||
nb = state[:-2]*4 + state[1:-1]*2 + state[2:]
|
||||
state[1:-1] = [rule_bin[n] for n in nb]
|
||||
history.append(state.copy())
|
||||
return np.array(history)
|
||||
ca_1d(110) # Class 4 — emergent gliders, Turing-complete
|
||||
```
|
||||
|
||||
### Phase transition (Ising model)
|
||||
```python
|
||||
def ising_step(spins, beta):
|
||||
i, j = np.random.randint(0, spins.shape[0], 2)
|
||||
nb = (spins[(i+1)%N, j] + spins[(i-1)%N, j] +
|
||||
spins[i, (j+1)%N] + spins[i, (j-1)%N])
|
||||
dE = 2 * spins[i, j] * nb
|
||||
if dE < 0 or np.random.rand() < np.exp(-beta * dE):
|
||||
spins[i, j] *= -1
|
||||
return spins
|
||||
```
|
||||
|
||||
## 매 결정 기준
|
||||
| 상황 | Frame |
|
||||
|---|---|
|
||||
| Multi-agent simulation | Weak emergence (Bedau) |
|
||||
| LLM scaling capabilities | Question metric smoothness first |
|
||||
| Consciousness | Strong emergence (still controversial) |
|
||||
| Phase transitions | Statistical mechanics (rigorous) |
|
||||
| Org behavior | Emergent vs designed properties |
|
||||
|
||||
**기본값**: weak emergence; demand operational definition + measurement.
|
||||
|
||||
## 🔗 Graph
|
||||
- 부모: [[Complexity-Theory]] · [[Systems-Theory]]
|
||||
- 변형: [[Weak-Emergence]] · [[Strong-Emergence]] · [[Self-Organization]]
|
||||
- 응용: [[Multi-Agent-Systems]] · [[Cellular-Automata]] · [[LLM-Scaling]]
|
||||
- Adjacent: [[Phase-Transitions]] · [[Power-Law-Distribution]] · [[Global-Neuronal-Workspace]]
|
||||
|
||||
## 🤖 LLM 활용
|
||||
**언제**: simulating CA / boids / Ising, explaining emergence intuitions, critiquing claims of "emergence" (Schaeffer-style metric scrutiny).
|
||||
**언제 X**: claims of strong emergence (philosophically contested), consciousness assertions (active research).
|
||||
|
||||
## ❌ 안티패턴
|
||||
- **Emergence as magic**: "the system has emergent properties" 의 explanation 의 not.
|
||||
- **Confusing weak with strong**: most "emergent" is weak (Conway's Life is weak).
|
||||
- **Metric artifact emergence**: discontinuous evaluation creating apparent jumps (Schaeffer 2023).
|
||||
- **Skipping operational definition**: define what is "emerging" measurably.
|
||||
- **Claiming irreducibility prematurely**: lack of current explanation ≠ in-principle irreducibility.
|
||||
|
||||
## 🧪 검증 / 중복
|
||||
- Verified (Anderson 1972 Science, Bedau "Weak Emergence" 1997, Chalmers "Strong and Weak Emergence" 2006, Schaeffer et al. NeurIPS 2023 "Are Emergent Abilities a Mirage?").
|
||||
- 신뢰도 A.
|
||||
|
||||
## 🕓 Changelog
|
||||
| 날짜 | 변경 |
|
||||
|---|---|
|
||||
| 2026-05-08 | Phase 1 |
|
||||
| 2026-05-10 | Manual cleanup — weak/strong emergence + CA/boids/Ising + Schaeffer LLM critique |
|
||||
|
||||
Reference in New Issue
Block a user