[G1-Sync] Manual knowledge update

This commit is contained in:
Antigravity Agent
2026-04-30 22:42:02 +09:00
parent 0bd4f19e38
commit c36c0644a1
4888 changed files with 18470 additions and 18602 deletions
+3 -3
View File
@@ -2,7 +2,7 @@
id: DL-OPT-RMSPROP-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, deep-learning, optimization, rmsprop, learning-rate, gradient-descent, adaptive-learning]
tags: [ai, [[Deep-Learning]], [[Optimization]], rmsprop, learning-rate, [[Gradient-Descent]], adaptive-learning]
last_reinforced: 2026-04-26
---
@@ -12,7 +12,7 @@ last_reinforced: 2026-04-26
> "최근 기울기의 제곱 평균을 활용해 학습의 보폭을 실시간으로 조율하고, 진동을 억제하며 전역 최적해(Global Optimum)를 향한 안정적인 항해를 지속하라" — 아다그라드(Adagrad)의 학습률 급감 문제를 지수 이동 평균(Exponential Moving Average)을 통해 개선한 적응형 학습률 최적화 알고리즘.
## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** "Adaptive Scaling and Gradient Normalization" — 과거의 모든 기울기가 아닌 '최근'의 기울기 에너지를 바탕으로 학습률을 나누어줌으로써, 가파른 경사에서는 보폭을 줄여 튕겨나가는 것을 방지하고 완만한 경사에서는 보폭을 키워 학습 속도를 유지하는 패턴.
- **추출된 패턴:** "Adaptive Scaling and Gradient [[Normalization]]" — 과거의 모든 기울기가 아닌 '최근'의 기울기 에너지를 바탕으로 학습률을 나누어줌으로써, 가파른 경사에서는 보폭을 줄여 튕겨나가는 것을 방지하고 완만한 경사에서는 보폭을 키워 학습 속도를 유지하는 패턴.
- **핵심 메커니즘:**
- **Exponential Moving Average:** 과거 기울기 제곱의 영향을 감쇠 계수(Decay factor, $\rho$)를 통해 조절.
- **Learning Rate Normalization:** 기울기를 최근 제곱 평균의 제곱근(RMS)으로 나누어 업데이트.
@@ -23,5 +23,5 @@ last_reinforced: 2026-04-26
- **정책 변화:** Antigravity 프로젝트는 시계열 데이터 처리나 RNN 계열 모델의 학습 시, 하이퍼파라미터 튜닝이 비교적 용이하고 안정성이 검증된 RMSProp을 우선적인 최적화 옵션으로 고려함.
## 🔗 지식 연결 (Graph)
- [[Optimization-Algorithms]], Adam-Optimizer-Foundations, Backpropagation-Foundations, [[Recurrent-Neural-Networks]]
- [[Optimization-Algorithms]], Adam-Optimizer-Foundations, [[Backpropagation]]-Foundations, [[Recurrent-Neural-Networks]]
- **Raw Source:** 10_Wiki/Topics/AI/RMSProp-Optimizer.md