feat: complete wikification of War Commander batch 1&2 and final grey dot cleanup
This commit is contained in:
@@ -1,12 +1,12 @@
|
||||
---
|
||||
id: DL-ACT-NLIN-001
|
||||
category: "[[10_Wiki/💡 Topics/AI]]"
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, deep-learning, activation-functions, non-linearity, relu, sigmoid]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# [[Non-linear Activation Functions (비선형 활성화 함수)]]
|
||||
# Non-linear Activation Functions (비선형 활성화 함수)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "단조로운 직선의 세계에 '굴곡'을 부여하여, 신경망이 세상의 모든 복잡한 함수를 근사할 수 있는 무한한 표현력을 갖게 하라" — 각 뉴런의 출력을 비선형적으로 변환함으로써 심층 신경망이 선형적인 한계를 극복하고 고차원적인 패턴을 학습하게 만드는 핵심 장치.
|
||||
@@ -25,5 +25,5 @@ last_reinforced: 2026-04-26
|
||||
- **정책 변화:** Antigravity 프로젝트는 대규모 언어 모델 아키텍처 설계 시, 수학적 부드러움과 성능 최적화가 검증된 SwiGLU 또는 GELU 활성화 함수를 기본 사양으로 채택함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Activation-Functions]], [[Leaky-ReLU-and-Activations]], [[Deep-Learning-Foundations]], [[Backpropagation-Foundations]]
|
||||
- **Raw Source:** [[10_Wiki/Topics/AI/Non-linear-Activation-Functions.md]]
|
||||
- Activation-Functions, [[Leaky-ReLU-and-Activations]], Deep-Learning-Foundations, Backpropagation-Foundations
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Non-linear-Activation-Functions.md
|
||||
|
||||
Reference in New Issue
Block a user