28 lines
2.1 KiB
Markdown
28 lines
2.1 KiB
Markdown
---
|
|
id: LOSS-002
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 1.0
|
|
tags: [ai, deep-learning, loss-function, focal-loss, imbalanced-data]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Focal Loss (포컬 손실)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "이미 잘 아는 쉬운 문제에 안주하지 말고, 틀리기 쉬운 어려운 문제에 더 집중하여 학습하라" — 클래스 불균형이 심한 데이터셋에서 대다수를 차지하는 배경이나 쉬운 샘플의 기여도를 낮추고, 희귀하거나 어려운 샘플에 가중치를 두어 학습 효율을 극대화하는 손실 함수.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** 기존 교차 엔트로피 손실 함수에 변조 계수(Modulating Factor, $(1-p_t)^\gamma$)를 추가하여, 모델이 이미 확신하고 있는(높은 $p_t$) 샘플의 손실값은 급격히 감소시키고 불확실한 샘플의 손실값은 유지하는 집중 학습 패턴.
|
|
- **주요 파라미터:**
|
|
- **Gamma ($\gamma$):** 쉬운 샘플을 얼마나 강하게 무시할지 결정하는 집중 파라미터.
|
|
- **Alpha ($\alpha$):** 클래스별 가중치 밸런스를 조절.
|
|
- **의의:** 1단계 객체 탐지 모델(예: RetinaNet)에서 전경(Object)보다 압도적으로 많은 배경(Background) 샘플로 인해 학습이 방해받는 문제를 해결하며 혁신적인 성능 향상 도출.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 단순히 샘플링 비율을 조절(Oversampling/Undersampling)하던 방식에서, 손실 함수 자체를 수정하여 데이터의 중요도를 동적으로 제어하는 방식으로 진화.
|
|
- **정책 변화:** Antigravity 프로젝트는 수만 개의 일반 지식 문서 사이에서 극소수의 '핵심 프로젝트 로그'를 분류해내는 정밀 탐지 모델 학습 시 포컬 손실을 사용하여 오분류율을 획기적으로 낮춤.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- Cross-Entropy-Loss, Computer-Vision-Mastery, Deep-Learning-Foundations, Object-Detection-Mastery
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Focal-Loss.md
|