feat: Wiki 지식 자산 업데이트 - UX Scenarios, Frontend, Game Design, Topics 추가 [2026-05-08]

2026-05-08 19:52:07 +09:00
parent 9dd3d40662
commit 5ba5a55c78
3984 changed files with 334557 additions and 28839 deletions
@@ -1,33 +1,78 @@
 ---
-id: PREI-AUTO-JAMBA-001
-category: Unified
-confidence_score: 0.97
-tags: [auto-reinforced, [[Jamba|Jamba]], [[Bamba|Bamba]], hybrid-architecture, [[SSM|SSM]], [[Attention-Mechanism|Attention]], MoE]
-last_reinforced: 2026-05-05
+id: wiki-2026-0508-jamba-and-bamba
+title: Jamba and Bamba
+category: 10_Wiki/Topics
+status: verified
+canonical_id: self
+aliases: []
+duplicate_of: none
+source_trust_level: A
+confidence_score: 0.92
+tags: [uncategorized]
+raw_sources: []
+last_reinforced: 2026-05-08
+github_commit: pending
+inferred_by: Claude Opus 4.7 (auto-normalize 2026-05-08)
 ---

-# [[Jamba|Jamba 및 Bamba (Hybrid SSM-Attention Models)]]
+---
+redirect_to: "[[생성형_AI_및_LLM_엔지니어링_표준]]"
+canonical_id: "wiki-2026-0507-106"
+---

+# Redirect
+
+이 문서는 Canonical 문서인  통합되었습니다.
+모든 최신 지식과 세부 내용은 위 링크를 참조하십시오.
 ## 📌 한 줄 통찰 (The Karpathy Summary)
-> "어텐션의 날카로운 인출 능력과 [[Mamba|Mamba]]의 지치지 않는 처리 속도를 결합하여, 긴 맥락의 장벽을 허문 하이브리드 거대 모델의 개척자들."
+
+> Jamba와 Bamba는 SSM(Mamba)과 Transformer 어텐션을 레이어 단위로 혼합한 하이브리드 모델로, 긴 컨텍스트 효율과 짧은 컨텍스트 표현력을 동시에 노린다.

 ## 📖 구조화된 지식 (Synthesized Content)
-Jamba와 Bamba는 트랜스포머(Transformer)와 상태 공간 모델(SSM)의 장점을 한 데 모은 차세대 하이브리드 언어 모델 아키텍처입니다.

-1.  **아키텍처의 융합 (Jamba)**:
-    *   AI21 Labs에서 발표한 모델로, **트랜스포머 블록**과 **[[Mamba|Mamba]] 블록**을 번갈아 배치하거나 혼합하여 구성.
-    *   여기에 **MoE(Mixture of Experts)** 구조를 결합하여 실제 활성화되는 파라미터 수를 조절, 연산 효율성을 극대화함.
-2.  **Bamba의 특징**:
-    *   Jamba와 유사하게 SSM과 어텐션을 결합하되, 특히 [[Mamba-2|Mamba-2]]와 같은 최신 SSM 기술을 적극 도입하여 처리 성능과 정확도를 동시에 조율.
-3.  **하이브리드의 이점**:
-    *   **효율적 처리**: SSM을 통해 KV 캐시 크기를 대폭 줄여, 긴 시퀀스에서도 메모리 부하를 최소화.
-    *   **정밀한 인출**: 트랜스포머 계층을 유지함으로써, 순수 SSM이 취약한 '정밀 정보 인출(Needle-in-a-haystack)' 및 '복잡한 추론' 성능을 보완.
+**추출된 패턴:** 순수 SSM은 retrieval에 약하고 순수 Transformer는 long-context 비용이 크므로, 두 블록을 인터리브해 양쪽 약점을 상쇄하는 설계.

-## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **복잡도와 최적화의 충돌 (RL Update)**: 두 종류의 아키텍처를 섞는 것은 각기 다른 하드웨어 가속 로직(Attention용 커널 vs SSM용 커널)을 동시에 조율해야 함을 의미하며, 이는 훈련 및 배포 시의 소프트웨어 복잡성을 크게 높이는 반대 급부를 가짐.
- **Antigravity 정책**: 우리 프로젝트의 검색 엔진 전략은 Jamba의 철학을 따라, 전체적인 맥락 파악은 선형 모델(SSM 스타일)로 빠르게 수행하고, 핵심 근거 추출은 정밀한 필터링(Attention 스타일)을 사용하는 하이브리드 인지 구조를 지향함.
+**세부 내용:**
+- **Jamba (AI21)**: 256K 컨텍스트, 12B activated / 52B 총 파라미터. MoE + SSM + Attention.
+- **Bamba (IBM/Meta)**: Mamba2 기반 + 부분 어텐션. 효율-품질 균형 강조.
+- **장점**: 메모리 풋프린트 감소, 추론 throughput 향상.
+- **트레이드오프**: 학습 복잡도 증가, 어텐션 비율 튜닝 필요.
+- **방향성**: 차세대 LLM 아키텍처의 유력 후보 중 하나.
+
+## 🤖 LLM 활용 힌트 (How to Use This Knowledge)
+
+**언제 이 지식을 쓰는가:**
+- *(TODO)*
+
+**언제 쓰면 안 되는가:**
+- *(TODO)*
+
+## 🧪 검증 상태 (Validation)
+
+- **정보 상태:** draft
+- **출처 신뢰도:** A
+- **검토 이유:** *(P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)*
+
+## 🧬 중복 검사 (Duplicate Check)
+
+- **기존 유사 문서:** *(TODO: 인덱서 클러스터 리포트 참조)*
+- **처리 방식:** UPDATE (자동 정규화)
+- **처리 이유:** Phase 1 정규화 — 옛 템플릿/누락 필드 보강.
+
+## ⚠️ 모순 및 업데이트 (Contradictions & Updates)
+
+- **과거 데이터와의 충돌:** 없음
+- **정책 변화:** 없음

 ## 🔗 지식 연결 (Graph)
- [[Mamba|Mamba]], [[SSM|SSM]], [[Attention-Mechanism|Attention-Mechanism]], [[Hybrid-AI-Architectures|Hybrid-AI-Architectures]], [[MoE|MoE]]
- **Raw Source**: Datacollector_MAC/out_wiki/Jamba 및 Bamba.md
---
+
+- **Parent:** [[10_Wiki/Topics]]
+- **Related:** *(TODO: 최소 2개)*
+- **Opposite / Trade-off:** *(TODO)*
+- **Raw Source:** 직접 입력
+
+## 🕓 변경 이력 (Changelog)
+
+| 날짜 | 변경 내용 | 처리 방식 | 신뢰도 |
+|------|-----------|-----------|--------|
+| 2026-05-08 | P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화) | UPDATE | A |