bluemsi/2nd
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

docs: finalized wiki integrity maintenance (v3.0 standard) - pruned 1400+ stubs and fixed 11k+ ghost links

Browse Source
This commit is contained in:
Antigravity Agent
2026-05-02 09:18:34 +09:00
parent c84dcb8371
commit 6445fcc05b
13150 changed files with 55394 additions and 100862 deletions
Download Patch File Download Diff File Expand all files Collapse all files
10_Wiki/Topics_Blog/Hyperparameters.md
+2 -2
View File
@@ -6,7 +6,7 @@ tags: [auto-reinforced, hyperparameters, model-tuning, optimization, machine-lea
last_reinforced: 2026-04-20
---
# [[Hyperparameters]]
# [[Hyperparameters|Hyperparameters]]
## 📌 한 줄 통찰 (The Karpathy Summary)
> "레시피 밖의 조미료: 학습 데이터로부터 자동으로 배우는 '파라미터'와 달리, 학습을 시작하기 전 인간(혹은 상위 AI)이 직접 설정해 주어야 하는 학습의 속도, 강도, 구조를 결정하는 상위 통제 변수."
@@ -27,6 +27,6 @@ last_reinforced: 2026-04-20
- **정책 변화(RL Update)**: 거대 모델(Foundation-Models) 시대에는 한 번의 학습 비용이 너무 커서, 작은 모델에서 최적 값을 찾은 뒤 이를 거대 모델로 확장 적용하는 '스케일링 법칙 기반 튜닝 정책'이 핵심이 됨. (Scaling-Laws와 연결)
## 🔗 지식 연결 (Graph)
- [[Optimization]], [[Gradient-Descent]], Scaling-Laws, [[Foundation-Models]], [[Efficiency]]
- [[Optimization|Optimization]], [[Gradient-Descent|Gradient-Descent]], Scaling-Laws, [[Foundation-Models|Foundation-Models]], [[Efficiency|Efficiency]]
- **Modern Tech/Tools**: Optuna, Ray Tune, Weights & Biases (W&B), Grid Search, Random Search.
---