2.2 KiB
2.2 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||
|---|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-BOTT-001 | 10_Wiki/💡 Topics/AI | 0.98 |
|
2026-04-20 |
Bottlenecks
📌 한 줄 통찰 (The Karpathy Summary)
"시스템의 목을 조르는 곳: 아무리 다른 부분이 뛰어나도 결국 전체의 처리 속도를 결정해버리는 가장 취약한 지점이며, 최적화가 가장 시급하게 투입되어야 할 지도의 급소."
📖 구조화된 지식 (Synthesized Content)
병목(Bottlenecks) 현상은 시스템의 일부분이 그 능력을 발휘하지 못해 전체 시스템의 흐름을 제한하는 상태를 의미합니다.
- 주요 유형:
- Hardware Bottleneck: CPU 연산 속도보다 데이터 읽기(I/O) 속도가 현격히 느린 경우.
- Software Bottleneck: 비효율적인 알고리즘이나 블로킹 코드가 실행 시간을 잡아먹는 경우. (Blocking과 연결)
- Human/Process Bottleneck: 승인 프로세스가 너무 길거나 특정 전문가만 할 수 있는 작업이 밀려 있는 경우.
- 해결 원칙 (TOC):
- 제약 이론(Theory of Constraints)에 따르면, 병목 지점이 아닌 곳을 개선하는 것은 시간 낭비에 불과함. 오직 병목 지점을 확장하거나 보호해야 전체 성과가 올라감.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 모든 부분을 골고루 개선하는 정책이 우수하다고 믿었으나, 현대의 시스템 최적화 정책은 '선택과 집중'을 통해 오직 병목 지점만을 정밀 타격하는 정책적 지능을 발휘함(RL Update).
- 정책 변화(RL Update): 거대 AI 모델의 학습 및 추론 정책에서, 알고리즘 개선보다 메모리 대역폭(HBM)이나 네트워크 대역폭이 실제 병목인 경우가 많아 하드웨어 인프라 확보 정책이 AI 경쟁력의 본질이 됨.
🔗 지식 연결 (Graph)
- Blocking, Optimization, Theory of Constraints (TOC), Analysis, Scalability
- Modern Tech/Tools: Performance profilers, Load testing tools, Network analyzers.