2nd/10_Wiki/Topics/AI/Focal-Loss.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
LOSS-002	10_Wiki/💡 Topics/AI	1.0	ai deep-learning loss-function focal-loss imbalanced-data	2026-04-26

Focal Loss (포컬 손실)

📌 한 줄 통찰 (The Karpathy Summary)

"이미 잘 아는 쉬운 문제에 안주하지 말고, 틀리기 쉬운 어려운 문제에 더 집중하여 학습하라" — 클래스 불균형이 심한 데이터셋에서 대다수를 차지하는 배경이나 쉬운 샘플의 기여도를 낮추고, 희귀하거나 어려운 샘플에 가중치를 두어 학습 효율을 극대화하는 손실 함수.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 기존 교차 엔트로피 손실 함수에 변조 계수(Modulating Factor, (1-p_t)^\gamma)를 추가하여, 모델이 이미 확신하고 있는(높은 p_t) 샘플의 손실값은 급격히 감소시키고 불확실한 샘플의 손실값은 유지하는 집중 학습 패턴.
• 주요 파라미터:
  • Gamma (\gamma): 쉬운 샘플을 얼마나 강하게 무시할지 결정하는 집중 파라미터.
  • Alpha (\alpha): 클래스별 가중치 밸런스를 조절.
• 의의: 1단계 객체 탐지 모델(예: RetinaNet)에서 전경(Object)보다 압도적으로 많은 배경(Background) 샘플로 인해 학습이 방해받는 문제를 해결하며 혁신적인 성능 향상 도출.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 단순히 샘플링 비율을 조절(Oversampling/Undersampling)하던 방식에서, 손실 함수 자체를 수정하여 데이터의 중요도를 동적으로 제어하는 방식으로 진화.
• 정책 변화: Antigravity 프로젝트는 수만 개의 일반 지식 문서 사이에서 극소수의 '핵심 프로젝트 로그'를 분류해내는 정밀 탐지 모델 학습 시 포컬 손실을 사용하여 오분류율을 획기적으로 낮춤.

🔗 지식 연결 (Graph)

• Cross-Entropy-Loss, Computer-Vision-Mastery, Deep-Learning-Foundations, Object-Detection-Mastery
• Raw Source: 10_Wiki/Topics/AI/Focal-Loss.md