feat: complete wikification of War Commander batch 1&2 and final grey dot cleanup
This commit is contained in:
@@ -1,12 +1,12 @@
|
||||
---
|
||||
id: AI-LORA-001
|
||||
category: "[[10_Wiki/💡 Topics/AI]]"
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, llm, lora, peft, fine-tuning, model-optimization]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# [[Low-Rank Adaptation (LoRA, 저순위 적응)]]
|
||||
# Low-Rank Adaptation (LoRA, 저순위 적응)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "거대한 뇌(Base Model)는 그대로 두고, 아주 얇은 신경 다발(Low-rank Matrices)만 덧붙여 새로운 기술을 가르쳐라" — 거대 언어 모델의 본래 가중치는 고정하고, 가중치 변화량($\Delta W$)을 두 개의 작은 행렬의 곱으로 분해하여 학습함으로써 파라미터 수를 10,000배 이상 줄이면서도 효과적인 미세 조정을 가능케 하는 기법.
|
||||
@@ -24,5 +24,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트는 사용자의 특정 코딩 스타일이나 문서 양식을 에이전트에게 학습시킬 때, 원본 모델의 지능을 훼손하지 않고 효율적으로 학습하기 위해 LoRA 기술을 기본으로 사용함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[LLM]], [[Transfer-Learning-Foundations]], [[Inference-Optimization]], [[Local-Brain-Management]]
|
||||
- **Raw Source:** [[10_Wiki/Topics/AI/Low-Rank-Adaptation-LoRA.md]]
|
||||
- [[LLM]], Transfer-Learning-Foundations, [[Inference-Optimization]], [[Local-Brain-Management]]
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Low-Rank-Adaptation-LoRA.md
|
||||
|
||||
Reference in New Issue
Block a user