2nd/10_Wiki/Topics/AI/NLP-Attention-Mechanisms.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
ATTENTION-001	10_Wiki/💡 Topics/AI	1.0	ai nlp transformer attention deep-learning	2026-04-26

NLP Attention Mechanisms (어텐션 메커니즘)

📌 한 줄 통찰 (The Karpathy Summary)

"중요한 것에 집중하고 나머지는 무시하라" — 문장 내의 각 단어가 다른 단어들과 어떤 연관성을 가지는지 계산하여, 맥락을 파악할 때 중요한 정보에 더 높은 가중치를 부여하는 메커니즘.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 입력 시퀀스의 모든 부분 중에서 현재 처리 중인 정보와 가장 관련이 깊은 부분에 '주의(Attention)'를 기울여 가중 평균값을 계산하는 정보 추출 패턴.
• 세부 내용:
  • Self-Attention: 하나의 문장 안에서 단어들 간의 관계를 파악 (예: '그'가 가리키는 대상을 문맥 속에서 찾음).
  • Query, Key, Value: 정보를 찾는 주체(Query), 정보의 식별자(Key), 정보의 실질적 내용(Value)으로 데이터를 분해하여 연산.
  • Multi-Head Attention: 여러 개의 어텐션 루프를 병렬로 실행하여 다양한 측면(문법, 의미, 거리 등)에서 문맥 분석.
  • Evolution: 고정된 길이의 벡터에 정보를 압축해야 했던 기존 모델의 한계를 극복하고 트랜스포머 아키텍처의 핵심이 됨.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 초기에는 RNN의 보조 도구로 등장했으나, 현재는 "Attention is All You Need"라는 논문 제목처럼 모델 아키텍처 그 자체가 됨.
• 정책 변화: Antigravity 에이전트는 어텐션 맵 분석을 통해 사용자의 질문에서 가장 핵심적인 키워드를 식별하고 답변의 초점을 맞춤.

🔗 지식 연결 (Graph)

• Transformer-Architecture, LLM, Neural-Networks-Foundations, Mechanistic-Interpretability
• Raw Source: 10_Wiki/Topics/AI/NLP-Attention-Mechanisms.md