[G1-Sync] Manual knowledge update
This commit is contained in:
@@ -2,7 +2,7 @@
|
||||
id: BPTT-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, deep-learning, rnn, backpropagation, sequence-modeling]
|
||||
tags: [ai, [[Deep-Learning]], rnn, [[Backpropagation]], [[Sequence-Modeling]]]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
@@ -16,7 +16,7 @@ last_reinforced: 2026-04-26
|
||||
- **세부 내용:**
|
||||
- **Unrolling:** RNN의 순환 구조를 시간에 따라 길게 펼쳐진 신경망으로 간주.
|
||||
- **Gradient Calculation:** 현재 시점의 손실 함수 기울기를 이전 시점의 가중치들까지 체인 룰(Chain Rule)을 통해 전달.
|
||||
- **Vanishing/Exploding Gradient:** 시간이 길어질수록 기울기가 사라지거나 폭주하는 문제 발생. 이를 해결하기 위해 LSTM이나 GRU 같은 게이트 구조가 고안됨.
|
||||
- **Vanishing/Exploding Gradient:** 시간이 길어질수록 기울기가 사라지거나 폭주하는 문제 발생. 이를 해결하기 위해 [[LSTM]]이나 GRU 같은 게이트 구조가 고안됨.
|
||||
- **Truncated BPTT:** 연산 효율과 기울기 소실 방지를 위해 특정 시간 범위까지만 역전파를 수행.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
|
||||
Reference in New Issue
Block a user