docs: finalized wiki integrity maintenance (v3.0 standard) - pruned 1400+ stubs and fixed 11k+ ghost links
This commit is contained in:
@@ -2,7 +2,7 @@
|
||||
id: OPT-GRAD-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, [[Optimization]], mathematics, gradient-descent, machine-learning]
|
||||
tags: [ai, [[Optimization|Optimization]], mathematics, gradient-descent, machine-learning]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
@@ -18,14 +18,14 @@ last_reinforced: 2026-04-26
|
||||
- **Partial Derivative:** 각 파라미터가 오차에 미치는 영향력을 개별적으로 계산.
|
||||
- **Step:** 현재 위치에서 기울기가 가장 가파른 방향의 반대로 이동하는 한 단계의 연산.
|
||||
- **주요 변형:**
|
||||
- **[[stochastic gradient descent]] (SGD):** 하나의 데이터만 보고 즉시 업데이트. 빠르지만 요동이 심함.
|
||||
- **[[stochastic gradient descent|stochastic gradient descent]] (SGD):** 하나의 데이터만 보고 즉시 업데이트. 빠르지만 요동이 심함.
|
||||
- **Mini-batch SGD:** 적절한 묶음 데이터를 사용하여 속도와 안정성의 균형을 맞춤. 현대 딥러닝의 표준.
|
||||
- **의의:** 복잡한 신경망의 수백만 개 파라미터를 학습시킬 수 있는 유일하고 실질적인 방법.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 단순히 기울기만 따라가던 방식에서, 이제는 관성(Momentum)과 가변 학습률(Adam, RMSProp)을 더해 훨씬 효율적으로 최저점을 찾는 방식으로 진화.
|
||||
- [[Global-vs-Local-Optima]] 문서와 연계하여, 지역 최적해의 함정을 피하는 것이 경사 하강법 운영의 핵심 기술임.
|
||||
- [[Global-vs-Local-Optima|Global-vs-Local-Optima]] 문서와 연계하여, 지역 최적해의 함정을 피하는 것이 경사 하강법 운영의 핵심 기술임.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Backpropagation]], [[Global-vs-Local-Optima]], [[Deep-Learning]]-Foundations, Mathematics-for-AI
|
||||
- [[Backpropagation|Backpropagation]], [[Global-vs-Local-Optima|Global-vs-Local-Optima]], [[Deep-Learning|Deep-Learning]]-Foundations, Mathematics-for-AI
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Gradient-Descent.md
|
||||
|
||||
Reference in New Issue
Block a user