docs: finalized wiki integrity maintenance (v3.0 standard) - pruned 1400+ stubs and fixed 11k+ ghost links

This commit is contained in:
Antigravity Agent
2026-05-02 09:18:34 +09:00
parent c84dcb8371
commit 6445fcc05b
13150 changed files with 55394 additions and 100862 deletions
@@ -1,12 +1,12 @@
---
id: [[P-Reinforce]]-AUTO-TBMI-001
id: [[P-Reinforce|P-Reinforce]]-AUTO-TBMI-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.96
tags: [auto-reinforced, ai-ethics, toxicity-mitigation, bias-reduction, safety-benchmarking, responsible-ai]
last_reinforced: 2026-04-20
---
# [[Toxicity-and-Bias-Mitigation]]
# [[Toxicity-and-Bias-Mitigation|Toxicity-and-Bias-Mitigation]]
## 📌 한 줄 통찰 (The Karpathy Summary)
> "독성 제거와 공정함의 수호: 학습 데이터에 숨겨진 인간의 편견과 혐오가 AI를 통해 증폭되지 않도록, 필터링과 교정 알고리즘을 통해 깨끗하고 공정한 지능을 빚어내는 윤리적 공정."
@@ -18,7 +18,7 @@ last_reinforced: 2026-04-20
* **Toxicity**: 공격적 언어, 성희롱, 혐오 발언, 폭력 선동.
* **Bias**: 인종, 성별, 종교, 지역 등 고정관념에 기반한 불평등한 결과 도출.
2. **완화 기술**:
* **Pre-[[Processing]]**: 학습 데이터셋에서 독성 문서를 사전에 제거.
* **Pre-[[Processing|Processing]]**: 학습 데이터셋에서 독성 문서를 사전에 제거.
* **In-processing (RLHF)**: 인간 피드백을 통해 모델이 무해한(Harmless) 답변을 하도록 강화 학습.
* **Post-processing**: 생성된 결과물을 별도의 가드레일 모델이 검사하여 차단.
3. **측정 및 벤치마킹**:
@@ -26,9 +26,9 @@ last_reinforced: 2026-04-20
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 과거에는 단순히 사전(Keyword) 기반 차단에 의존했으나, 현대 AI 정책은 문맥적 의미를 파악하여 교묘한 혐오 표현(Dog whistling)까지 감지하는 '심층 의미 분석 정책'으로 진화함(RL Update).
- **정책 변화(RL Update)**: '완전한 중립'이라는 허상을 쫓기보다, 해당 사회의 보편적 윤리 기준을 명시적으로 시스템에 이식하고 그 기준의 수립 과정을 투명하게 공개하는 '가치 정렬(Value [[Alignment]]) 거버넌스 정책'이 글로벌 표준이 됨.
- **정책 변화(RL Update)**: '완전한 중립'이라는 허상을 쫓기보다, 해당 사회의 보편적 윤리 기준을 명시적으로 시스템에 이식하고 그 기준의 수립 과정을 투명하게 공개하는 '가치 정렬(Value [[Alignment|Alignment]]) 거버넌스 정책'이 글로벌 표준이 됨.
## 🔗 지식 연결 (Graph)
- [[Ethics & AI]], [[Generative-AI]]-Safety, [[RLHF (인간 피드백 기반 강화 학습)]], [[Social[[ system]]s Theory]], [[Science of Failure]]
- [[Ethics & AI|Ethics & AI]], [[Generative-AI|Generative-AI]]-Safety, [[RLHF (인간 피드백 기반 강화 학습)|RLHF (인간 피드백 기반 강화 학습)]], Social[[Systems Theory|systems Theory]], [[Science of Failure|Science of Failure]]
- **Modern Tech/Tools**: Perspective API, OpenAI Moderation API, Constitutional AI (Anthropic).
---