2nd/10_Wiki/Topics/AI_and_ML/Focal-Loss.md

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, tags, raw_sources, last_reinforced, github_commit, inferred_by

id	title	category	status	canonical_id	aliases	duplicate_of	source_trust_level	confidence_score	tags	raw_sources	last_reinforced	github_commit	inferred_by
wiki-2026-0508-focal-loss	Focal Loss	10_Wiki/Topics	needs_review	self	LOSS-002	none	A	1.0	ai Deep-Learning loss-function focal-loss imbalanced-data		2026-04-26	pending	Claude Opus 4.7 (auto-normalize 2026-05-08)

Focal Loss (포컬 손실)

📌 한 줄 통찰 (The Karpathy Summary)

"이미 잘 아는 쉬운 문제에 안주하지 말고, 틀리기 쉬운 어려운 문제에 더 집중하여 학습하라" — 클래스 불균형이 심한 데이터셋에서 대다수를 차지하는 배경이나 쉬운 샘플의 기여도를 낮추고, 희귀하거나 어려운 샘플에 가중치를 두어 학습 효율을 극대화하는 손실 함수.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 기존 교차 엔트로피 손실 함수에 변조 계수(Modulating Factor, (1-p_t)^\gamma)를 추가하여, 모델이 이미 확신하고 있는(높은 p_t) 샘플의 손실값은 급격히 감소시키고 불확실한 샘플의 손실값은 유지하는 집중 학습 패턴.
• 주요 파라미터:
  • Gamma (\gamma): 쉬운 샘플을 얼마나 강하게 무시할지 결정하는 집중 파라미터.
  • Alpha (\alpha): 클래스별 가중치 밸런스를 조절.
• 의의: 1단계 객체 탐지 모델(예: RetinaNet)에서 전경(Object)보다 압도적으로 많은 배경(Background) 샘플로 인해 학습이 방해받는 문제를 해결하며 혁신적인 성능 향상 도출.

⚠️ 모순 및 업데이트 (Contradictions & Updates)

• 과거 데이터와의 충돌: 단순히 샘플링 비율을 조절(Oversampling/Undersampling)하던 방식에서, 손실 함수 자체를 수정하여 데이터의 중요도를 동적으로 제어하는 방식으로 진화.
• 정책 변화: Antigravity 프로젝트는 수만 개의 일반 지식 문서 사이에서 극소수의 '핵심 프로젝트 로그'를 분류해내는 정밀 탐지 모델 학습 시 포컬 손실을 사용하여 오분류율을 획기적으로 낮춤.

🔗 지식 연결 (Graph)

• Cross-Entropy-Loss, Computer-Vision-Mastery, Deep-Learning-Foundations, Object-Detection-Mastery
• Raw Source: 10_Wiki/Topics/AI/Focal-Loss.md

🤖 LLM 활용 힌트 (How to Use This Knowledge)

언제 이 지식을 쓰는가:

• (TODO)

언제 쓰면 안 되는가:

• (TODO)

🧪 검증 상태 (Validation)

• 정보 상태: needs_review
• 출처 신뢰도: A
• 검토 이유: (P-Reinforce Phase 1 자동 정규화. 본문 검증 필요.)

🧬 중복 검사 (Duplicate Check)

• 기존 유사 문서: (TODO: 인덱서 클러스터 리포트 참조)
• 처리 방식: UPDATE (자동 정규화)
• 처리 이유: Phase 1 정규화 — 옛 템플릿/누락 필드 보강.

🕓 변경 이력 (Changelog)

날짜	변경 내용	처리 방식	신뢰도
2026-05-08	P-Reinforce Phase 1 정규화 (frontmatter + 헤더 표준화)	UPDATE	A