Files
2nd/10_Wiki/Topics_Dev/High-Performance Computing (HPC).md
T

32 lines
2.2 KiB
Markdown

---
id: [[P-Reinforce|P-Reinforce]]-AUTO-HPCO-001
category: Dev
confidence_score: 0.97
tags: [auto-reinforced, hpc, high-performance-computing, supercomputing, [[Parallel-Processing|Parallel-Processing]], cluster]
last_reinforced: 2026-04-20
---
# [[High-Performance Computing (HPC)|High-Performance Computing (HPC)]]
## 📌 한 줄 통찰 (The Karpathy Summary)
> "연산의 무력 시위: 수천 대의 서버와 거대 저장 장치를 초고속 네트워크로 엮어, PC 수만 대가 수년간 해야 할 복잡한 수치 연산과 데이터 분석을 단 며칠 만에 끝내는 인류 최강의 계산 병기."
## 📖 구조화된 지식 (Synthesized Content)
고성능 컴퓨팅(HPC)은 대규모 문제를 해결하기 위해 병렬 처리를 수행하는 컴퓨터 시스템 아키텍처입니다.
1. **3대 구성 요소**:
* **Compute (Nodes)**: 수천 개의 CPU/GPU 코어의 집합.
* **Network (Interconnect)**: 노드 간 데이터를 빛의 속도로 주고받는 인피니밴드(Infiniband) 등 초저지연 통신. ([[Distributed-Systems|Distributed-Systems]]와 연결)
* **[[Storage|Storage]]**: 페타바이트급 데이터를 안전하고 빠르게 읽고 쓰는 병렬 파일 시스템.
2. **왜 중요한가?**:
* 기상 예측, 신약 설계, 그리고 무엇보다 **거대 언어 모델(LLM)의 학습**에 필수적인 물리적 인프라임. ([[Foundation-Models|Foundation-Models]]의 산실)
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 과거에는 전용 슈퍼컴퓨터실만 가진 연구소의 전유물이었으나(On-premise 정책), 현대 정책은 클라우드에서 누구나 필요한 만큼 빌려 쓰는 'HPC as a Service 정책'으로 대중화됨(RL Update).
- **정책 변화(RL Update)**: 단순 연산력을 넘어 전력 소비 정책과 발열 관리 정책이 국가 안보 급 과제로 부상함에 따라, 환경 영향을 최소화하는 '그린 HPC 정책' 수립이 필수가 됨.
## 🔗 지식 연결 (Graph)
- Scaling-Laws, [[Hardware|Hardware]], [[Distributed-Systems|Distributed-Systems]], [[Efficiency|Efficiency]], Environmental-Impact
- **Modern Tech/Tools**: MPI, SLURM, InfiniBand, AWS ParallelCluster, NVIDIA DGX.
---