feat: complete wikification of War Commander batch 1&2 and final grey dot cleanup
This commit is contained in:
@@ -1,12 +1,12 @@
|
||||
---
|
||||
id: GRAD-EXPL-001
|
||||
category: "[[10_Wiki/💡 Topics/AI]]"
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, deep-learning, neural-networks, optimization, exploding-gradient]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# [[Exploding Gradient Problem (기울기 폭주 문제)]]
|
||||
# Exploding Gradient Problem (기울기 폭주 문제)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "기울기가 눈덩이처럼 커져 학습이 파괴되지 않도록 제어하라" — 딥러닝 학습 과정에서 역전파되는 기울기 값이 층을 거듭할수록 기하급수적으로 커져 가중치가 매우 큰 값으로 업데이트되고, 결국 학습이 불안정해지거나 실패(NaN 발생)하는 현상.
|
||||
@@ -24,5 +24,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트는 대규모 지식 임베딩 모델 학습 시, Gradient Clipping을 기본으로 설정하여 학습 초기 단계의 발산을 방지함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Backpropagation]], [[Neural-Networks-Foundations]], [[Regularization-Techniques]], [[Deep-Learning-Foundations]]
|
||||
- **Raw Source:** [[10_Wiki/Topics/AI/Exploding-Gradient Problem.md]]
|
||||
- [[Backpropagation]], Neural-Networks-Foundations, [[Regularization-Techniques]], Deep-Learning-Foundations
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Exploding-Gradient Problem.md
|
||||
|
||||
Reference in New Issue
Block a user