Antigravity Agent
1.6 KiB
1.6 KiB
id: P-Reinforce-AI-BIAS-CORR category: "10_Wiki/💡 Topics/AI" confidence_score: 0.98 tags: [Bias Correction, AI Ethics, Algorithmic Fairness, Statistics] last_reinforced: 2026-04-20
Bias-Correction-Algorithm (편향 보정 알고리즘)
📌 한 줄 통찰 (The Karpathy Summary)
"데이터의 편견은 모델의 차별이 된다." 특정 인구통계학적 특성에 치우친 데이터를 수학적으로 재조정하여, AI가 공정하고 객관적인 판결을 내리도록 강제하는 기술적 윤리 장치다.
📖 구조화된 지식 (Synthesized Content)
- Pre-Processing Techniques:
- 학습 전 데이터셋에서 편향된 샘플의 가중치를 조절하거나(Reweighing), 정보를 제거하여 모델이 편견을 학습하지 못하게 한다.
- In-processing Approaches:
- 손실 함수(Loss function)에 '공정성 제약 조건'을 추가하여, 정확도뿐만 아니라 공정성 점수도 함께 최적화한다.
- Post-processing Calibration:
- 모델의 예측 결과가 나온 뒤, 특정 집단에 대해 임계값(Threshold)을 조정하여 최종 출력의 균형을 맞춘다.
⚠️ 모순 및 업데이트 (RL Update)
- 과도한 편향 보정은 모델의 전반적인 정확도(Accuracy)를 떨어뜨릴 수 있다. '정확도와 공정성 사이의 트레이드오프'를 비즈니스 가치에 맞게 합의하는 의사결정이 기술보다 더 중요하다.
🔗 지식 연결 (Graph)
- Related: AI-Ethics , Bias-Variance-Tradeoff
- Strategy: Reliability_Safety_First