Antigravity Agent
f8b21af4be
10_Wiki/Topics 대규모 정리: - 오류 캡처/미완성 stub 문서 227개 제거 - 교차폴더 중복 43클러스터 병합 (63파일 → redirect) - 링크명 정규화: 깨진 링크 수정·redirect 직결·개념 매핑 ~2,400건 - 카테고리 MOC 6개 신규 생성 - Graph 섹션 미해결 related-keyword 링크 10,058건 제거 Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
34 lines
1.1 KiB
Markdown
34 lines
1.1 KiB
Markdown
---
|
|
id: wiki-2026-0508-non-linear-activation-functions
|
|
title: Non-linear Activation Functions
|
|
category: 10_Wiki/Topics
|
|
status: duplicate
|
|
canonical_id: "[[Leaky-ReLU-and-Activations]]"
|
|
aliases: [Activation Functions, Nonlinearities, ReLU Family]
|
|
duplicate_of: "[[Leaky-ReLU-and-Activations]]"
|
|
source_trust_level: A
|
|
confidence_score: 0.9
|
|
verification_status: redirected
|
|
tags: [redirect, activation, relu, gelu, swish]
|
|
raw_sources: []
|
|
last_reinforced: 2026-05-10
|
|
github_commit: pending
|
|
tech_stack: { language: Python, framework: PyTorch }
|
|
---
|
|
|
|
## REDIRECT → [[Leaky-ReLU-and-Activations]]
|
|
|
|
이 문서는 **[[Leaky-ReLU-and-Activations]]** 로 통합되었다. ReLU/LeakyReLU/PReLU/ELU/GELU/SiLU(Swish)/Mish/SwiGLU 등 비선형 활성화 함수 전반은 정식 문서를 참고하라.
|
|
|
|
## 요약
|
|
- 비선형성이 신경망 표현력의 핵심.
|
|
- 2026 표준: Transformer는 GELU/SwiGLU, CNN은 SiLU/Mish, classic은 ReLU 변형.
|
|
|
|
## 🔗 Graph
|
|
- 부모: [[Leaky-ReLU-and-Activations]] (canonical)
|
|
- 인접: [[Neural Networks]], [[Backpropagation]]
|
|
|
|
## 🕓 Changelog
|
|
- 2026-05-08 Phase 1 자동 생성
|
|
- 2026-05-10 Manual cleanup — REDIRECT 처리, 정식 문서로 통합
|