33 lines
2.3 KiB
Markdown
33 lines
2.3 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-FRAG-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.89
|
|
tags: [auto-reinforced, fragility, antifragility, nassim-taleb, systems-theory, risk-management]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Fragility]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "충격에 깨지는 성질: 무질서, 변동성, 스트레스가 주어졌을 때 시스템의 가치가 급격히 훼손되는 약점으로, 겉보기에 완벽하고 견고해 보일수록 예상치 못한 작은 변화에 파괴될 위험이 숨어있는 모순적 상태."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
취약성(Fragility)은 외부 충격에 민감하게 반응하여 손실을 입는 시스템의 성질입니다. (나심 탈레브의 저작을 통해 대중화)
|
|
|
|
1. **반대 개념 (Triad)**:
|
|
* **Fragile**: 충격을 받으면 깨짐. (예: 유리잔, 관료주의적 조직)
|
|
* **Robust (강건)**: 충격을 버팀. (예: 돌덩이)
|
|
* **Antifragile (반취약)**: 충격을 받을수록 더 강해짐. (예: 근육, 세균, 지식 진화 정책).
|
|
2. **왜 발생하는가?**:
|
|
* **Over-optimization**: 효율성만을 위해 여유분(Redundancy)을 없앴을 때, 작은 변수에도 전체가 무너짐. (Efficiency의 역설)
|
|
* **Interdependence**: 구성 요소들이 너무 긴밀하게 묶여 있어 에러가 빛의 속도로 전파됨. (Complex Systems)
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 '효율적이고 예측 가능한 정책'을 최고로 쳤으나, 현대 정책은 예측 불가능한 세상(Black-Swan)에서 살아남기 위해 '충격에 면역이 있는 정책(Robustness)'을 넘어 '충격에서 배우는 정책(Antifragility)'을 추구함(RL Update).
|
|
- **정책 변화(RL Update)**: AI 모델 배포 정책에서 단일 서버에 의존하는 대신, 전 세계 수만 개의 노드에 분산하고 에러 상황을 인위적으로 유도해 시스템을 강화하는 '카오스 엔지니어링 정책'이 표준이 됨. (Fault-Tolerance와 연결)
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Black-Swan]], [[Efficiency]], [[Fault-Tolerance]], [[Complexity Theory]], [[Distributed-Systems]]
|
|
- **Modern Tech/Tools**: Error budget, Redundancy systems, Antifragile organizational models.
|
|
---
|