[G1-Sync] Manual knowledge update
This commit is contained in:
@@ -1,5 +1,5 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-TBMI-001
|
||||
id: [[P-Reinforce]]-AUTO-TBMI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [auto-reinforced, ai-ethics, toxicity-mitigation, bias-reduction, safety-benchmarking, responsible-ai]
|
||||
@@ -18,7 +18,7 @@ last_reinforced: 2026-04-20
|
||||
* **Toxicity**: 공격적 언어, 성희롱, 혐오 발언, 폭력 선동.
|
||||
* **Bias**: 인종, 성별, 종교, 지역 등 고정관념에 기반한 불평등한 결과 도출.
|
||||
2. **완화 기술**:
|
||||
* **Pre-processing**: 학습 데이터셋에서 독성 문서를 사전에 제거.
|
||||
* **Pre-[[Processing]]**: 학습 데이터셋에서 독성 문서를 사전에 제거.
|
||||
* **In-processing (RLHF)**: 인간 피드백을 통해 모델이 무해한(Harmless) 답변을 하도록 강화 학습.
|
||||
* **Post-processing**: 생성된 결과물을 별도의 가드레일 모델이 검사하여 차단.
|
||||
3. **측정 및 벤치마킹**:
|
||||
@@ -26,9 +26,9 @@ last_reinforced: 2026-04-20
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 단순히 사전(Keyword) 기반 차단에 의존했으나, 현대 AI 정책은 문맥적 의미를 파악하여 교묘한 혐오 표현(Dog whistling)까지 감지하는 '심층 의미 분석 정책'으로 진화함(RL Update).
|
||||
- **정책 변화(RL Update)**: '완전한 중립'이라는 허상을 쫓기보다, 해당 사회의 보편적 윤리 기준을 명시적으로 시스템에 이식하고 그 기준의 수립 과정을 투명하게 공개하는 '가치 정렬(Value Alignment) 거버넌스 정책'이 글로벌 표준이 됨.
|
||||
- **정책 변화(RL Update)**: '완전한 중립'이라는 허상을 쫓기보다, 해당 사회의 보편적 윤리 기준을 명시적으로 시스템에 이식하고 그 기준의 수립 과정을 투명하게 공개하는 '가치 정렬(Value [[Alignment]]) 거버넌스 정책'이 글로벌 표준이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ethics & AI]], Generative-AI-Safety, [[RLHF (인간 피드백 기반 강화 학습)]], [[Social Systems Theory]], [[Science of Failure]]
|
||||
- [[Ethics & AI]], [[Generative-AI]]-Safety, [[RLHF (인간 피드백 기반 강화 학습)]], [[Social[[ system]]s Theory]], [[Science of Failure]]
|
||||
- **Modern Tech/Tools**: Perspective API, OpenAI Moderation API, Constitutional AI (Anthropic).
|
||||
---
|
||||
|
||||
Reference in New Issue
Block a user