feat: complete wikification of War Commander batch 1&2 and final grey dot cleanup
This commit is contained in:
@@ -1,12 +1,12 @@
|
||||
---
|
||||
id: DL-TR-MHA-001
|
||||
category: "[[10_Wiki/💡 Topics/AI]]"
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, deep-learning, transformer, multi-head-attention, self-attention, nlp]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# [[Multi-Head Attention Mechanism (멀티 헤드 어텐션 메커니즘)]]
|
||||
# Multi-Head Attention Mechanism (멀티 헤드 어텐션 메커니즘)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "정보의 바다를 한 쌍의 눈이 아닌, 서로 다른 관점을 가진 여러 개의 눈으로 동시에 주시하여 입체적인 문맥을 완성하라" — 입력 데이터를 여러 개의 독립적인 하위 공간(Subspaces)으로 투영하여 다양한 관계 정보를 병렬적으로 학습하고 통합하는 트랜스포머 아키텍처의 핵심 메커니즘.
|
||||
@@ -24,5 +24,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트의 핵심 추론 엔진은 지식 문서의 구조적 계층과 텍스트의 의미적 연결을 동시에 포착하기 위해 최적화된 8개 이상의 멀티 헤드 어텐션 레이어를 운용함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Transformer-Architecture-Foundations]], [[Self-Attention-Foundations]], [[GPT-Architecture-Foundations]], [[BERT-Foundations]]
|
||||
- **Raw Source:** [[10_Wiki/Topics/AI/Multi-Head-Attention-Mechanism.md]]
|
||||
- Transformer-Architecture-Foundations, Self-Attention-Foundations, [[GPT-Architecture-Foundations]], BERT-Foundations
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Multi-Head-Attention-Mechanism.md
|
||||
|
||||
Reference in New Issue
Block a user