32 lines
2.2 KiB
Markdown
32 lines
2.2 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-BOTT-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.98
|
|
tags: [auto-reinforced, bottlenecks, optimization, performance, constraint, systems-thinking]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Bottlenecks]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "시스템의 목을 조르는 곳: 아무리 다른 부분이 뛰어나도 결국 전체의 처리 속도를 결정해버리는 가장 취약한 지점이며, 최적화가 가장 시급하게 투입되어야 할 지도의 급소."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
병목(Bottlenecks) 현상은 시스템의 일부분이 그 능력을 발휘하지 못해 전체 시스템의 흐름을 제한하는 상태를 의미합니다.
|
|
|
|
1. **주요 유형**:
|
|
* **Hardware Bottleneck**: CPU 연산 속도보다 데이터 읽기(I/O) 속도가 현격히 느린 경우.
|
|
* **Software Bottleneck**: 비효율적인 알고리즘이나 블로킹 코드가 실행 시간을 잡아먹는 경우. (Blocking과 연결)
|
|
* **Human/Process Bottleneck**: 승인 프로세스가 너무 길거나 특정 전문가만 할 수 있는 작업이 밀려 있는 경우.
|
|
2. **해결 원칙 (TOC)**:
|
|
* 제약 이론(Theory of Constraints)에 따르면, 병목 지점이 아닌 곳을 개선하는 것은 시간 낭비에 불과함. 오직 병목 지점을 확장하거나 보호해야 전체 성과가 올라감.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 모든 부분을 골고루 개선하는 정책이 우수하다고 믿었으나, 현대의 시스템 최적화 정책은 '선택과 집중'을 통해 오직 병목 지점만을 정밀 타격하는 정책적 지능을 발휘함(RL Update).
|
|
- **정책 변화(RL Update)**: 거대 AI 모델의 학습 및 추론 정책에서, 알고리즘 개선보다 메모리 대역폭(HBM)이나 네트워크 대역폭이 실제 병목인 경우가 많아 하드웨어 인프라 확보 정책이 AI 경쟁력의 본질이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Blocking]], [[Optimization]], [[Theory of Constraints (TOC)]], [[Analysis]], [[Scalability]]
|
|
- **Modern Tech/Tools**: Performance profilers, Load testing tools, Network analyzers.
|
|
---
|