---
id: [[P-Reinforce|P-Reinforce]]-AI-BIAS-CORR
category: Dev
confidence_score: 0.98
tags: [Bias Correction, AI Ethics, [[Algorithmic Fairness|Algorithmic Fairness]], [[Statistics|Statistics]]]
last_reinforced: 2026-04-20
---

# [[Bias-Correction-Algorithm|Bias-Correction-Algorithm]] (편향 보정 알고리즘)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "데이터의 편견은 모델의 차별이 된다." 특정 인구통계학적 특성에 치우친 데이터를 수학적으로 재조정하여, AI가 공정하고 객관적인 판결을 내리도록 강제하는 기술적 윤리 장치다.

## 📖 구조화된 지식 (Synthesized Content)
- **Pre-[[Processing|Processing]] Techniques**:
    - 학습 전 데이터셋에서 편향된 샘플의 가중치를 조절하거나(Reweighing), 정보를 제거하여 모델이 편견을 학습하지 못하게 한다.
- **In-processing Approaches**:
    - 손실 함수(Loss function)에 '공정성 제약 조건'을 추가하여, 정확도뿐만 아니라 공정성 점수도 함께 최적화한다.
- **Post-processing Calibration**:
    - 모델의 예측 결과가 나온 뒤, 특정 집단에 대해 임계값(Threshold)을 조정하여 최종 출력의 균형을 맞춘다.

## ⚠️ 모순 및 업데이트 (RL Update)
- 과도한 편향 보정은 모델의 전반적인 정확도(Accuracy)를 떨어뜨릴 수 있다. '정확도와 공정성 사이의 트레이드오프'를 비즈니스 가치에 맞게 합의하는 의사결정이 기술보다 더 중요하다.

## 🔗 지식 연결 (Graph)
- Related: AI-Ethics , [[Bias-Variance-Tradeoff|Bias-Variance-Tradeoff]]
- [[Strategy|Strategy]]: [[Reliability_Safety_First|Reliability_Safety_First]]