Antigravity Agent
2.5 KiB
2.5 KiB
id: P-Reinforce-AUTO-MCOQ-001 category: Unified confidence_score: 1.00 tags: [auto-reinforced, quantization, compression, fp8, int4, awq, gptq, gguf] last_reinforced: 2026-05-04
Model Compression & Quantization
📌 한 줄 통찰 (The Karpathy Summary)
"지능의 고농축: 모델의 가중치를 표현하는 숫자의 정밀도를 낮추어(FP16 -> INT4), 성능 저하는 최소화하면서도 메모리 사용량과 연산 속도를 획기적으로 개선하는 하이엔드 최적화 공법."
📖 구조화된 지식 (Synthesized Content)
거대 모델을 일반 하드웨어에서 구동하거나 추론 효율성을 높이기 위해 모델의 크기를 줄이는 핵심 기술입니다.
- 양자화 (Quantization):
- 정의: 가중치를 표현하는 비트 수를 줄이는 과정입니다. (예: 16비트 부동소수점
\rightarrow4비트 정수) - 효과: 메모리 사용량이 약 4배 감소하며, 더 큰 모델을 더 작은 GPU에 올릴 수 있게 합니다.
- 정의: 가중치를 표현하는 비트 수를 줄이는 과정입니다. (예: 16비트 부동소수점
- 주요 정밀도 포맷:
- FP8: 최신 H100/B200 GPU에서 지원하며, 속도와 정확도의 최적 균형을 제공합니다.
- INT4/INT8: 전통적인 양자화 방식으로, 모바일이나 엣지 디바이스에서도 널리 쓰입니다.
- NF4 (NormalFloat 4): QLoRA에서 사용되는 특수 포맷으로, 가중치 분포에 최적화된 양자화를 제공합니다.
- 대표 알고리즘 & 포맷:
- AWQ / GPTQ: 추론 속도와 정확도를 모두 잡은 데이터 인식(Data-aware) 양자화 기법입니다.
- GGUF / EXL2: llama.cpp 등 CPU나 로컬 환경에서 LLM을 구동하기 위해 널리 사용되는 포맷입니다.
⚖️ Trade-offs & Caveats
- 정확도 하락 (Precision Loss): 비트 수를 너무 과하게 줄이면 모델의 논리 전개 능력이 떨어지거나 환각이 증가할 수 있습니다. (특히 3비트 이하에서 두드러짐)
- 하드웨어 호환성: FP8과 같은 최신 포맷은 구형 GPU(RTX 30 시리즈 이하)에서는 가속 효과가 미미하거나 작동하지 않을 수 있습니다.
🔗 지식 연결 (Graph)
- 상위 개념: LLM Inference Optimization
- 연관 기술: PEFT & LoRA (QLoRA), Deployment Frameworks
- 주요 툴: bitsandbytes, AutoAWQ, llama.cpp
Last updated: 2026-05-04