Antigravity Agent
29 lines
2.5 KiB
Markdown
29 lines
2.5 KiB
Markdown
---
|
|
id: DL-RNN-001
|
|
category: Unified
|
|
confidence_score: 1.0
|
|
tags: [ai, [[Deep-Learning|Deep-Learning]], rnn, sequential-data, [[LSTM|LSTM]], gru, nlp, time-series]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Recurrent Neural Networks (RNN, 순환 신경망)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "과거의 기억(Hidden [[State|State]])을 현재의 입력과 섞어 끊임없이 순환시키며, 데이터 속에 숨겨진 '시간의 인과'와 '문맥의 흐름'을 포착하라" — 입력과 출력을 시퀀스 단위로 처리하여, 이전 단계의 정보가 다음 단계의 출력에 영향을 주도록 설계된 신경망 아키텍처.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** "Temporal Recurrence and Hidden State [[memory|memory]]" — 현재의 출력값이 이전의 은닉 상태(Hidden State)에 의존하게 함으로써, 데이터가 들어온 순서(Sequence)를 인지하고 가변적인 길이의 입력을 처리할 수 있게 하는 패턴.
|
|
- **주요 진화 및 한계:**
|
|
- **Vanilla RNN:** 정보가 길어질수록 앞부분의 정보를 잊어버리는 '장기 의존성(Long-term Dependency)' 문제와 기울기 소실 발생.
|
|
- **[[LSTM (Long Short-Term Memory)|LSTM (Long Short-Term Memory)]]:** 게이트(Gate) 구조를 도입하여 어떤 정보를 기억하고 지울지 스스로 결정. 장기 기억 능력 획득.
|
|
- **GRU:** LSTM을 간소화하여 연산 효율성 증대.
|
|
- **의의:** 텍스트 번역, 음성 인식, 주가 예측 등 순서와 맥락이 중요한 모든 시퀀스 데이터 분석의 지평을 연 핵심 기술.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 한 번에 하나의 단어만 처리하는 순차성 때문에 병렬 처리가 어렵다는 한계를 깨고, 현재는 모든 데이터를 한꺼번에 병렬로 보며 관계를 파악하는 '트랜스포머(Transformer)'가 주류가 되었으나, 초경량 실시간 시계열 예측에서는 여전히 RNN 계열이 효율적임.
|
|
- **정책 변화:** Antigravity 프로젝트는 에이전트의 로그 시퀀스 분석이나 실시간 센서 스트림 데이터 처리 시, 지연 시간(Latency)이 극히 낮은 RNN 기반의 경량 모델을 선별적으로 활용함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Natural-Language-Processing|Natural-Language-[[Processing]]-NLP]], [[Long-Short-Term-Memory|Long-Short-Term-Memory]]-LSTM, [[Time-Series-Analysis|Time-Series-Analysis]], Deep-Learning-Foundations
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Recurrent-Neural-Networks.md
|