feat: complete wikification of War Commander batch 1&2 and final grey dot cleanup
This commit is contained in:
@@ -1,12 +1,12 @@
|
||||
---
|
||||
id: DL-LR-SCHED-001
|
||||
category: "[[10_Wiki/💡 Topics/AI]]"
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, deep-learning, optimization, learning-rate, scheduler, training-stability]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# [[Learning Rate Schedules (학습률 스케줄)]]
|
||||
# Learning Rate Schedules (학습률 스케줄)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "초반에는 과감하게 탐색하고, 정답에 가까워질수록 신중하게 발을 내딛어라" — 학습 과정에서 학습률을 고정하지 않고 사전에 정의된 규칙에 따라 점진적으로 변화시킴으로써, 최적해에 더 빠르고 정밀하게 도달하게 하는 최적화 전략.
|
||||
@@ -25,5 +25,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트는 거대 언어 모델 미세 조정 시, 초기 불안정성을 제어하기 위한 Linear Warm-up과 최적의 안착을 위한 Cosine Decay 스케줄러를 결합하여 사용함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Global-vs-Local-Optima]], [[Gradient-Descent-Foundations]], [[Hyperparameter-Optimization]], [[Weight-Initialization-Strategies]]
|
||||
- **Raw Source:** [[10_Wiki/Topics/AI/Learning-Rate-Schedules.md]]
|
||||
- [[Global-vs-Local-Optima]], Gradient-Descent-Foundations, [[Hyperparameter-Optimization]], Weight-Initialization-Strategies
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Learning-Rate-Schedules.md
|
||||
|
||||
Reference in New Issue
Block a user