28 lines
1.5 KiB
Markdown
28 lines
1.5 KiB
Markdown
---
|
|
id: P-REINFORCE-AI-BIAS-CORR
|
|
category: "[[10_Wiki/💡 Topics/AI]]"
|
|
confidence_score: 0.98
|
|
tags: [Bias Correction, AI Ethics, Algorithmic Fairness, Statistics]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Bias-Correction-Algorithm]] (편향 보정 알고리즘)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "데이터의 편견은 모델의 차별이 된다." 특정 인구통계학적 특성에 치우친 데이터를 수학적으로 재조정하여, AI가 공정하고 객관적인 판결을 내리도록 강제하는 기술적 윤리 장치다.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **Pre-processing Techniques**:
|
|
- 학습 전 데이터셋에서 편향된 샘플의 가중치를 조절하거나(Reweighing), 정보를 제거하여 모델이 편견을 학습하지 못하게 한다.
|
|
- **In-processing Approaches**:
|
|
- 손실 함수(Loss function)에 '공정성 제약 조건'을 추가하여, 정확도뿐만 아니라 공정성 점수도 함께 최적화한다.
|
|
- **Post-processing Calibration**:
|
|
- 모델의 예측 결과가 나온 뒤, 특정 집단에 대해 임계값(Threshold)을 조정하여 최종 출력의 균형을 맞춘다.
|
|
|
|
## ⚠️ 모순 및 업데이트 (RL Update)
|
|
- 과도한 편향 보정은 모델의 전반적인 정확도(Accuracy)를 떨어뜨릴 수 있다. '정확도와 공정성 사이의 트레이드오프'를 비즈니스 가치에 맞게 합의하는 의사결정이 기술보다 더 중요하다.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- Related: [[AI-Ethics]] , [[Bias-Variance-Tradeoff]]
|
|
- Strategy: [[Reliability_Safety_First]]
|