docs: finalized wiki integrity maintenance (v3.0 standard) - pruned 1400+ stubs and fixed 11k+ ghost links
This commit is contained in:
@@ -6,7 +6,7 @@ tags: [AI, LLM, LoRA, FineTuning, Efficiency]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[LoRA (Low-Rank Adaptation)]] (저차원 적응)
|
||||
# [[LoRA (Low-Rank Adaptation)|LoRA (Low-Rank Adaptation)]] (저차원 적응)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "거대한 산을 옮기지 말고, 신발 밑창에 아주 얇은 깔창 하나만 덧대는 혁명." 수조 개의 파라미터를 가진 거대 모델 전체를 건드리지 않고, 아주 작은 추가 행렬(A, B)만 학습시켜 모델의 지식을 효율적으로 갱신하는 최신 튜닝 기법이다.
|
||||
@@ -24,5 +24,5 @@ last_reinforced: 2026-04-20
|
||||
- LoRA는 효율적이지만, 대규모 멀티 모달 학습이나 근본적인 기초 지식 습득에는 전체 파인튜닝(Full Fine-tuning)보다 성능이 소폭 떨어질 수 있다. 이를 보완하기 위해 양자화 기술을 결합한 **QLoRA**가 등장하여, 일반 소비자용 그래픽카드 한 장으로도 거대 언어 모델을 튜닝하는 'AI 민주화'를 이끌고 있다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Instruction-Tuning]] , Quantization (양자화)
|
||||
- Related: [[Instruction-Tuning|Instruction-Tuning]] , Quantization (양자화)
|
||||
- Variant: QLoRA (Quantized LoRA)
|
||||
|
||||
Reference in New Issue
Block a user