[G1-Sync] Manual knowledge update

10_Wiki/Topics/Exploding-Gradient Problem.md

@@ -2,7 +2,7 @@
 id: GRAD-EXPL-001
 category: "10_Wiki/💡 Topics/AI"
 confidence_score: 1.0
-tags: [ai, deep-learning, neural-networks, optimization, exploding-gradient]
+tags: [ai, [[Deep-Learning]], neural-networks, [[Optimization]], exploding-gradient]
 last_reinforced: 2026-04-26
 ---
 
@@ -14,10 +14,10 @@ last_reinforced: 2026-04-26
 ## 📖 구조화된 지식 (Synthesized Content)
 - **추출된 패턴:** 가중치 행렬의 고유값이 1보다 클 때, 연쇄 법칙에 의해 기울기가 곱해지며 무한히 증폭되는 수치적 불안정 패턴. 주로 순환 신경망(RNN)이나 매우 깊은 신경망에서 발생.
 - **해결 기법:**
-    - **Gradient Clipping:** 기울기가 일정 임계값(Threshold)을 넘지 않도록 강제로 자름 (가장 직접적인 해결책).
+    - **Gradient [[CLIP]]ping:** 기울기가 일정 임계값(Threshold)을 넘지 않도록 강제로 자름 (가장 직접적인 해결책).
     - **Weight Initialization:** 가중치 초기값을 적절히 설정 (Xavier, He 초기화).
-    - **Batch Normalization:** 각 층의 출력을 정규화하여 값의 범위를 제한.
-    - **LSTM / GRU:** 게이트 구조를 통해 정보의 흐름을 조절하여 RNN의 고질적인 문제 완화.
+    - **Batch [[Normalization]]:** 각 층의 출력을 정규화하여 값의 범위를 제한.
+    - **[[LSTM]] / GRU:** 게이트 구조를 통해 정보의 흐름을 조절하여 RNN의 고질적인 문제 완화.
 
 ## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
 - **과거 데이터와의 충돌:** 기울기 소실(Vanishing Gradient) 문제에 가려져 덜 주목받았으나, 초거대 모델 학습 시 수치적 안정성을 깨뜨리는 주요 원인으로 부각됨.