[G1-Sync] Manual knowledge update

This commit is contained in:
Antigravity Agent
2026-04-30 22:42:02 +09:00
parent 0bd4f19e38
commit c36c0644a1
4888 changed files with 18470 additions and 18602 deletions
@@ -1,5 +1,5 @@
---
id: P-REINFORCE-AUTO-TBMI-001
id: [[P-Reinforce]]-AUTO-TBMI-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.96
tags: [auto-reinforced, ai-ethics, toxicity-mitigation, bias-reduction, safety-benchmarking, responsible-ai]
@@ -18,7 +18,7 @@ last_reinforced: 2026-04-20
* **Toxicity**: 공격적 언어, 성희롱, 혐오 발언, 폭력 선동.
* **Bias**: 인종, 성별, 종교, 지역 등 고정관념에 기반한 불평등한 결과 도출.
2. **완화 기술**:
* **Pre-processing**: 학습 데이터셋에서 독성 문서를 사전에 제거.
* **Pre-[[Processing]]**: 학습 데이터셋에서 독성 문서를 사전에 제거.
* **In-processing (RLHF)**: 인간 피드백을 통해 모델이 무해한(Harmless) 답변을 하도록 강화 학습.
* **Post-processing**: 생성된 결과물을 별도의 가드레일 모델이 검사하여 차단.
3. **측정 및 벤치마킹**:
@@ -26,9 +26,9 @@ last_reinforced: 2026-04-20
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 과거에는 단순히 사전(Keyword) 기반 차단에 의존했으나, 현대 AI 정책은 문맥적 의미를 파악하여 교묘한 혐오 표현(Dog whistling)까지 감지하는 '심층 의미 분석 정책'으로 진화함(RL Update).
- **정책 변화(RL Update)**: '완전한 중립'이라는 허상을 쫓기보다, 해당 사회의 보편적 윤리 기준을 명시적으로 시스템에 이식하고 그 기준의 수립 과정을 투명하게 공개하는 '가치 정렬(Value Alignment) 거버넌스 정책'이 글로벌 표준이 됨.
- **정책 변화(RL Update)**: '완전한 중립'이라는 허상을 쫓기보다, 해당 사회의 보편적 윤리 기준을 명시적으로 시스템에 이식하고 그 기준의 수립 과정을 투명하게 공개하는 '가치 정렬(Value [[Alignment]]) 거버넌스 정책'이 글로벌 표준이 됨.
## 🔗 지식 연결 (Graph)
- [[Ethics & AI]], Generative-AI-Safety, [[RLHF (인간 피드백 기반 강화 학습)]], [[Social Systems Theory]], [[Science of Failure]]
- [[Ethics & AI]], [[Generative-AI]]-Safety, [[RLHF (인간 피드백 기반 강화 학습)]], [[Social[[ system]]s Theory]], [[Science of Failure]]
- **Modern Tech/Tools**: Perspective API, OpenAI Moderation API, Constitutional AI (Anthropic).
---