Files
2nd/10_Wiki/Topics/AI/Hardware.md
T

2.1 KiB

id, category, confidence_score, tags, last_reinforced
id category confidence_score tags last_reinforced
P-REINFORCE-AUTO-HARD-001 10_Wiki/💡 Topics/AI 0.97
auto-reinforced
hardware
semiconductor
gpu
npu
computer-architecture
2026-04-20

Hardware

📌 한 줄 통찰 (The Karpathy Summary)

"지능을 지탱하는 물리적 캔버스: 소프트웨어라는 보이지 않는 생각이 실제 세상에 구현되고 작동할 수 있도록, 전기를 빛과 열과 데이터로 변환하며 연산을 수행하는 실체적인 기계와 반도체의 총합."

📖 구조화된 지식 (Synthesized Content)

하드웨어(Hardware)는 컴퓨터 시스템을 구성하는 물리적인 장치들을 의미합니다. 현대 AI의 비약적 발전은 하드웨어 혁신 없이는 불가능했습니다.

  1. AI 시대의 핵심 부품:
    • GPU (Graphic Processing Unit): 수만 개의 코어를 이용한 대규모 병렬 연산 특화. (DQN, Gradient-Descent의 가속기)
    • NPU (Neural Processing Unit): AI 연산만을 위해 최적화된 칩. (Efficiency 극대화)
    • HBM (High Bandwidth Memory): 데이터가 병목 없이 칩 사이를 흐르게 돕는 고대역폭 메모리. (Bottlenecks 해결)
  2. 왜 중요한가?:
    • 하드웨어의 성능(Compute)이 곧 AI 모델의 지모(Scale)와 성능을 결정하는 물리적 한계이기 때문임. (Scaling-Laws와 연결)

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

  • 과거 데이터와의 충돌: 과거에는 범용 연산기인 CPU 중심 정책이었으나, 현대 정책은 특정 작업에 특화된 전용 칩(ASIC) 중심 정책으로 효율성을 극대화함(RL Update).
  • 정책 변화(RL Update): 하드웨어 설계 정책 자체가 AI에 의해 이루어지는 'AI-designed Hardware 정책'이 등장하며 설계 속도와 효율 정책이 기하급수적으로 빨라지고 있음.

🔗 지식 연결 (Graph)