Files
2nd/10_Wiki/Topics/AI_and_ML/Bottlenecks.md
T

3.3 KiB

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit, inferred_by
id title category status canonical_id aliases duplicate_of source_trust_level confidence_score tags raw_sources last_reinforced github_commit inferred_by
wiki-2026-0508-bottlenecks Bottlenecks 10_Wiki/Topics needs_review self
P-Reinforce-AUTO-BOTT-001
none A 0.98
auto-reinforced
bottlenecks
Optimization
performance
constraint
Systems-Thinking
2026-04-20 pending Claude Opus 4.7 (auto-normalize 2026-05-08)

Bottlenecks

📌 한 줄 통찰 (The Karpathy Summary)

"시스템의 목을 조르는 곳: 아무리 다른 부분이 뛰어나도 결국 전체의 처리 속도를 결정해버리는 가장 취약한 지점이며, 최적화가 가장 시급하게 투입되어야 할 지도의 급소."

📖 구조화된 지식 (Synthesized Content)

병목(Bottlenecks) 현상은 시스템의 일부분이 그 능력을 발휘하지 못해 전체 시스템의 흐름을 제한하는 상태를 의미합니다.

  1. 주요 유형:
    • Hardware Bottleneck: CPU 연산 속도보다 데이터 읽기(I/O) 속도가 현격히 느린 경우.
    • Software Bottleneck: 비효율적인 알고리즘이나 블로킹 코드가 실행 시간을 잡아먹는 경우. (Blocking과 연결)
    • Human/Process Bottleneck: 승인 프로세스가 너무 길거나 특정 전문가만 할 수 있는 작업이 밀려 있는 경우.
  2. 해결 원칙 (TOC):
    • 제약 이론(Theory of Constraints)에 따르면, 병목 지점이 아닌 곳을 개선하는 것은 시간 낭비에 불과함. 오직 병목 지점을 확장하거나 보호해야 전체 성과가 올라감.

⚠️ 모순 및 업데이트 (Contradictions & Updates)

  • 과거 데이터와의 충돌: 과거에는 모든 부분을 골고루 개선하는 정책이 우수하다고 믿었으나, 현대의 시스템 최적화 정책은 '선택과 집중'을 통해 오직 병목 지점만을 정밀 타격하는 정책적 지능을 발휘함(RL Update).
  • 정책 변화(RL Update): 거대 AI 모델의 학습 및 추론 정책에서, 알고리즘 개선보다 메모리 대역폭(HBM)이나 네트워크 대역폭이 실제 병목인 경우가 많아 하드웨어 인프라 확보 정책이 AI 경쟁력의 본질이 됨.

🔗 지식 연결 (Graph)


🤖 LLM 활용 힌트 (How to Use This Knowledge)

언제 이 지식을 쓰는가:

  • (TODO)

언제 쓰면 안 되는가:

  • (TODO)

🧪 검증 상태 (Validation)

  • 정보 상태: needs_review
  • 출처 신뢰도: A
  • 검토 이유: (P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)

🧬 중복 검사 (Duplicate Check)

  • 기존 유사 문서: (TODO: 인덱서 클러스터 리포트 참조)
  • 처리 방식: UPDATE (자동 정규화)
  • 처리 이유: Phase 1 정규화 — 옛 템플릿/누락 필드 보강.

🕓 변경 이력 (Changelog)

날짜 변경 내용 처리 방식 신뢰도
2026-05-08 P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) UPDATE A