feat: complete wikification of War Commander batch 1&2 and final grey dot cleanup
This commit is contained in:
@@ -1,12 +1,12 @@
|
||||
---
|
||||
id: MATH-MI-001
|
||||
category: "[[10_Wiki/💡 Topics/AI]]"
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [math, information-theory, mutual-information, entropy, machine-learning, feature-selection]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# [[Mutual Information (상호 정보량)]]
|
||||
# Mutual Information (상호 정보량)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "두 변수가 공유하고 있는 정보의 양을 측정하여, 하나를 알 때 다른 하나에 대한 불확실성이 얼마나 사라지는지 수치화하라" — 두 확률 변수 사이의 상호 의존성을 측정하는 지표로, 단순한 선형 관계를 넘어 비선형적인 연관성까지 모두 포착할 수 있는 정보 이론적 척도.
|
||||
@@ -25,5 +25,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트는 에이전트의 지식 임베딩 품질을 평가할 때, 입력 텍스트와 추출된 핵심 개념 사이의 상호 정보량을 측정하여 정보 손실을 최소화하는 지표로 활용함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Kullback-Leibler-Divergence]], [[Independent-Component-Analysis]], [[Feature-Selection-Strategies]], [[Probability-Theory]]
|
||||
- **Raw Source:** [[10_Wiki/Topics/AI/Mutual-Information.md]]
|
||||
- [[Kullback-Leibler-Divergence]], [[Independent-Component-Analysis]], Feature-Selection-Strategies, Probability-Theory
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Mutual-Information.md
|
||||
|
||||
Reference in New Issue
Block a user