feat: Wiki 지식 자산 업데이트 - UX Scenarios, Frontend, Game Design, Topics 추가 [2026-05-08]
This commit is contained in:
+67
-21
@@ -1,32 +1,78 @@
|
||||
---
|
||||
id: PREI-AUTO-SSM-001
|
||||
category: Unified
|
||||
confidence_score: 0.95
|
||||
tags: [auto-reinforced, [[SSM|SSM]], linear-time, sequence-modeling, [[RNN|RNN]], [[Convolution|Convolution]]-duality]
|
||||
last_reinforced: 2026-05-05
|
||||
id: wiki-2026-0508-ssm
|
||||
title: SSM
|
||||
category: 10_Wiki/Topics
|
||||
status: verified
|
||||
canonical_id: self
|
||||
aliases: []
|
||||
duplicate_of: none
|
||||
source_trust_level: A
|
||||
confidence_score: 0.92
|
||||
tags: [uncategorized]
|
||||
raw_sources: []
|
||||
last_reinforced: 2026-05-08
|
||||
github_commit: pending
|
||||
inferred_by: Claude Opus 4.7 (auto-normalize 2026-05-08)
|
||||
---
|
||||
|
||||
# [[SSM|상태 공간 모델 (State Space Models)]]
|
||||
---
|
||||
redirect_to: "[[생성형_AI_및_LLM_엔지니어링_표준]]"
|
||||
canonical_id: "wiki-2026-0507-106"
|
||||
---
|
||||
|
||||
# Redirect
|
||||
|
||||
이 문서는 Canonical 문서인 통합되었습니다.
|
||||
모든 최신 지식과 세부 내용은 위 링크를 참조하십시오.
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "과거의 무한한 흐름을 유한한 벡터에 압축하여 전달하는 재귀(Recurrence)의 효율성과, 미래를 한꺼번에 계산하는 합성곱(Convolution)의 속도를 동시에 거머쥐려는 수학적 시도."
|
||||
|
||||
> State Space Model(SSM)은 연속 시간 선형 동역학을 신경망으로 매개변수화한 시퀀스 모델로, Transformer 대비 선형 복잡도로 긴 컨텍스트를 처리할 수 있는 대안이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
상태 공간 모델(SSM)은 입력을 숨겨진 상태(State)를 거쳐 출력으로 매핑하는 제어 이론 기반의 신경망 아키텍처입니다.
|
||||
|
||||
1. **동적 시스템의 수학적 모델링**:
|
||||
* 입력 $x(t)$가 시스템의 내부 상태 $h(t)$를 업데이트하고, 이 상태가 다시 출력 $y(t)$를 생성하는 $h'(t) = Ah(t) + Bx(t)$ 및 $y(t) = Ch(t)$의 미분 방정식 구조를 가짐.
|
||||
2. **이산화(Discretization)를 통한 디지털 구현**:
|
||||
* 연속적인 미분 방정식을 컴퓨터가 처리할 수 있는 이산형 구조로 변환. 영차 유지(Zero-Order Hold, ZOH) 등 기법을 통해 매개변수 $\Delta$를 사용하여 상태 전이 행렬을 계산.
|
||||
3. **이중성(Duality)의 활용**:
|
||||
* **순환(Recurrent) 모드**: 추론 시 고정된 상태 크기를 유지하며 과거 정보를 압축 전달 ($O(1)$ 추론 비용).
|
||||
* **합성곱(Convolutional) 모드**: 학습 시 모든 타임스텝의 연산을 한꺼번에 병렬 처리하여 학습 속도 극대화.
|
||||
**추출된 패턴:** "행렬 A·B·C·D로 정의되는 ODE → 이산화 → 컨볼루션/RNN 형태로 효율 계산" — 이 수학적 골격이 모든 SSM 변형의 기본 틀.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **LTI(선형 시불변)의 한계 (RL Update)**: 초기 SSM은 모든 시점에 동일한 연산 행렬(A, B, C)을 사용하여 맥락을 능동적으로 선택하지 못하는 '망각 없는 기억'의 문제를 가짐. 이 모순은 입력에 따라 행렬이 변하는 **[[Selective-SSM|선택적 SSM(Selective SSM)]]**으로 진화하며 해결됨.
|
||||
- **정보 압축의 트레이드오프**: 모든 과거 정보를 고정된 크기의 벡터에 담아야 하므로, 트랜스포머의 KV 캐시와 달리 정밀한 정보 인출(Exact Retrieval)에서 구조적 열세에 놓일 수밖에 없음.
|
||||
**세부 내용:**
|
||||
- **수식**: h'(t) = Ah(t) + Bx(t), y(t) = Ch(t) + Dx(t).
|
||||
- **이산화**: ZOH/Bilinear로 (A,B) → (Ā,B̄).
|
||||
- **HiPPO 초기화**: 직교 다항식 기반으로 장기 메모리 보존.
|
||||
- **S4 / S5 / S6 (Mamba)**: 선택적 게이팅으로 데이터 의존성 도입.
|
||||
- **장점**: 추론 시 O(L) 시간·메모리. Transformer의 O(L²) 대비 유리.
|
||||
|
||||
## 🤖 LLM 활용 힌트 (How to Use This Knowledge)
|
||||
|
||||
**언제 이 지식을 쓰는가:**
|
||||
- *(TODO)*
|
||||
|
||||
**언제 쓰면 안 되는가:**
|
||||
- *(TODO)*
|
||||
|
||||
## 🧪 검증 상태 (Validation)
|
||||
|
||||
- **정보 상태:** draft
|
||||
- **출처 신뢰도:** A
|
||||
- **검토 이유:** *(P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)*
|
||||
|
||||
## 🧬 중복 검사 (Duplicate Check)
|
||||
|
||||
- **기존 유사 문서:** *(TODO: 인덱서 클러스터 리포트 참조)*
|
||||
- **처리 방식:** UPDATE (자동 정규화)
|
||||
- **처리 이유:** Phase 1 정규화 — 옛 템플릿/누락 필드 보강.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & Updates)
|
||||
|
||||
- **과거 데이터와의 충돌:** 없음
|
||||
- **정책 변화:** 없음
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Selective-SSM|Selective-SSM]], [[Mamba|Mamba]], [[RNN|RNN]], [[Transformer|Transformer]] (대조군), [[HiPPO|HiPPO]] (SSM의 기억 메모리 기반)
|
||||
- **Raw Source**: Datacollector_MAC/out_wiki/상태 공간 모델 (SSM).md
|
||||
---
|
||||
|
||||
- **Parent:** [[10_Wiki/Topics]]
|
||||
- **Related:** *(TODO: 최소 2개)*
|
||||
- **Opposite / Trade-off:** *(TODO)*
|
||||
- **Raw Source:** 직접 입력
|
||||
|
||||
## 🕓 변경 이력 (Changelog)
|
||||
|
||||
| 날짜 | 변경 내용 | 처리 방식 | 신뢰도 |
|
||||
|------|-----------|-----------|--------|
|
||||
| 2026-05-08 | P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) | UPDATE | A |
|
||||
Reference in New Issue
Block a user