Files
2nd/10_Wiki/Topics/Long-Short-Term-Memory.md
T

2.3 KiB

id, category, confidence_score, tags, last_reinforced
id category confidence_score tags last_reinforced
DL-LSTM-001 10_Wiki/💡 Topics/AI 1.0
ai
deep-learning
rnn
lstm
sequence-modeling
time-series
2026-04-26

Long-Short Term Memory (LSTM, 시계열 맥락)

📌 한 줄 통찰 (The Karpathy Summary)

"어제의 교훈을 선별적으로 기억하고 오늘의 맥락을 결합하여, 끊기지 않는 시간의 실타래를 완성하라" — 순환 신경망(RNN)의 장기 의존성(Long-term Dependency) 문제를 해결하여, 수백 단계 이전의 정보도 현재의 판단에 반영할 수 있게 설계된 시퀀스 데이터 처리 모델.

📖 구조화된 지식 (Synthesized Content)

  • 추출된 패턴: "Selective Memory Gating" — 모든 정보를 무조건 수용하는 대신, '망각'과 '입력'을 제어하는 게이트 메커니즘을 통해 중요한 정보는 장기 기억(Cell State)으로 유지하고 불필요한 노이즈는 실시간으로 제거하는 정보 선별 패턴.
  • 주요 응용 분야:
    • Natural Language Processing: 문장의 앞뒤 맥락을 파악하여 번역, 요약, 감성 분석 수행.
    • Time-Series Forecasting: 주가, 날씨, 전력 수요 등 과거의 패턴을 바탕으로 미래 수치 예측.
    • Speech Recognition: 음성 신호의 시계열적 특성을 분석하여 텍스트로 변환.
  • 의의: AI가 '정지된 상태'가 아닌 '흐르는 시간' 속에서 정보를 처리하고 이해하게 만든 딥러닝 역사의 이정표.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

  • 과거 데이터와의 충돌: 시퀀스 처리의 절대 강자였으나, 최근에는 병렬 처리가 가능하고 더 넓은 범위를 한눈에 보는(Self-attention) Transformer에 자리를 내어주는 추세이나, 실시간 스트리밍이나 데이터 효율성이 중요한 특정 도메인에서는 여전히 핵심적으로 사용됨.
  • 정책 변화: Antigravity 프로젝트는 에이전트의 실시간 시스템 모니터링 및 자원 사용량 추세 분석 시, 가볍고 연속적인 데이터 처리에 강점이 있는 LSTM 모델을 보조 엔진으로 활용함.

🔗 지식 연결 (Graph)

  • Deep-Learning-Foundations, Transformer-Architecture-Foundations, Time-Series-Analysis, Gated-Recurrent-Unit-GRU
  • Raw Source: 10_Wiki/Topics/AI/Long-Short-Term-Memory.md