docs: finalized wiki integrity maintenance (v3.0 standard) - pruned 1400+ stubs and fixed 11k+ ghost links
This commit is contained in:
@@ -2,14 +2,14 @@
|
||||
id: TRANS-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, [[Deep-Learning]], transformer, attention, llm]
|
||||
tags: [ai, [[Deep-Learning|Deep-Learning]], transformer, attention, llm]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# Transformer [[Architecture]] (트랜스포머 아키텍처)
|
||||
# Transformer [[Architecture|Architecture]] (트랜스포머 아키텍처)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "순차적 처리를 버리고, 데이터 간의 모든 관계를 한눈에 파악하라" — 구글이 제안한 "[[Attention is All You Need]]" 논문 기반 아키텍처로, 병렬 연산과 어텐션 메커니즘을 통해 현대 모든 거대 모델(GPT, [[BERT]] 등)의 표준이 된 신경망 구조.
|
||||
> "순차적 처리를 버리고, 데이터 간의 모든 관계를 한눈에 파악하라" — 구글이 제안한 "[[Attention is All You Need|Attention is All You Need]]" 논문 기반 아키텍처로, 병렬 연산과 어텐션 메커니즘을 통해 현대 모든 거대 모델(GPT, [[BERT|BERT]] 등)의 표준이 된 신경망 구조.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 데이터를 한 번에 입력받아 각 요소 간의 연관성을 계산하고(Self-Attention), 정보를 인코딩 및 디코딩하여 복잡한 시퀀스 변환을 수행하는 전역 처리 패턴.
|
||||
@@ -24,5 +24,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트의 핵심 추론 엔진은 트랜스포머 기반의 아키텍처를 사용하며, 효율성을 높이기 위해 'Flash Attention'과 같은 최적화 기법을 적용함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Attention-Mechanisms, [[NLP-Attention-Mechanisms]], [[LLM]], [[Parallel-Computing]]
|
||||
- Attention-Mechanisms, [[NLP-Attention-Mechanisms|NLP-Attention-Mechanisms]], [[LLM|LLM]], [[Parallel-Computing|Parallel-Computing]]
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Transformer-Architecture.md
|
||||
|
||||
Reference in New Issue
Block a user