docs: finalized wiki integrity maintenance (v3.0 standard) - pruned 1400+ stubs and fixed 11k+ ghost links

This commit is contained in:
Antigravity Agent
2026-05-02 09:18:34 +09:00
parent c84dcb8371
commit 6445fcc05b
13150 changed files with 55394 additions and 100862 deletions
@@ -2,11 +2,11 @@
id: ATTENTION-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, nlp, transformer, attention, [[Deep-Learning]]]
tags: [ai, nlp, transformer, attention, [[Deep-Learning|Deep-Learning]]]
last_reinforced: 2026-04-26
---
# NLP [[Attention Mechanisms]] (어텐션 메커니즘)
# NLP [[Attention Mechanisms|Attention Mechanisms]] (어텐션 메커니즘)
## 📌 한 줄 통찰 (The Karpathy Summary)
> "중요한 것에 집중하고 나머지는 무시하라" — 문장 내의 각 단어가 다른 단어들과 어떤 연관성을 가지는지 계산하여, 맥락을 파악할 때 중요한 정보에 더 높은 가중치를 부여하는 메커니즘.
@@ -20,9 +20,9 @@ last_reinforced: 2026-04-26
- **Evolution:** 고정된 길이의 벡터에 정보를 압축해야 했던 기존 모델의 한계를 극복하고 트랜스포머 아키텍처의 핵심이 됨.
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 초기에는 RNN의 보조 도구로 등장했으나, 현재는 "[[Attention is All You Need]]"라는 논문 제목처럼 모델 아키텍처 그 자체가 됨.
- **과거 데이터와의 충돌:** 초기에는 RNN의 보조 도구로 등장했으나, 현재는 "[[Attention is All You Need|Attention is All You Need]]"라는 논문 제목처럼 모델 아키텍처 그 자체가 됨.
- **정책 변화:** Antigravity 에이전트는 어텐션 맵 분석을 통해 사용자의 질문에서 가장 핵심적인 키워드를 식별하고 답변의 초점을 맞춤.
## 🔗 지식 연결 (Graph)
- [[Transformer-Architecture]], [[LLM]], Neural-Networks-Foundations, Mechanistic-[[Interpretability]]
- [[Transformer-Architecture|Transformer-Architecture]], [[LLM|LLM]], Neural-Networks-Foundations, Mechanistic-[[Interpretability|Interpretability]]
- **Raw Source:** 10_Wiki/Topics/AI/NLP-Attention-Mechanisms.md