feat: complete wikification of War Commander batch 1&2 and final grey dot cleanup
This commit is contained in:
@@ -1,12 +1,12 @@
|
||||
---
|
||||
id: MATH-KL-001
|
||||
category: "[[10_Wiki/💡 Topics/AI]]"
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [math, statistics, kl-divergence, information-theory, loss-functions, ai]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# [[Kullback-Leibler Divergence (KL 발산)]]
|
||||
# Kullback-Leibler Divergence (KL 발산)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "두 세상(확률 분포) 사이의 어긋남을 측정하여, 모델이 진실에 얼마나 도달했는지 수치로 증명하라" — 어떤 확률 분포 $P$를 다른 확률 분포 $Q$로 대체했을 때 발생하는 정보 손실의 양을 측정하는 비대칭적 지표.
|
||||
@@ -27,5 +27,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트는 에이전트의 페르소나 미세 조정(Fine-tuning) 시, 기존 모델과의 KL 발산을 모니터링하여 원래의 유용한 지능이 파괴되지 않도록 관리함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Probability-Theory]], [[Kolmogorov-Complexity]], [[Knowledge-Distillation]], [[Reinforcement-Learning]]
|
||||
- **Raw Source:** [[10_Wiki/Topics/AI/Kullback-Leibler-Divergence.md]]
|
||||
- Probability-Theory, [[Kolmogorov-Complexity]], [[Knowledge-Distillation]], [[Reinforcement-Learning]]
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Kullback-Leibler-Divergence.md
|
||||
|
||||
Reference in New Issue
Block a user