---
id: P-REINFORCE-AI-ETHICS
category: "[[10_Wiki/💡 Topics/AI]]"
confidence_score: 0.99
tags: [AI, Ethics, AISafety, Fairness, Bias]
last_reinforced: 2026-04-20
---

# [[Ethics-in-Artificial-Intelligence]] (인공지능 윤리)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "지능이 높아질수록 책임의 무게는 무거워진다." AI가 인간의 가치관과 충돌하지 않고 인류에 유익하도록 개발 및 사용되어야 한다는 철학적, 규범적 가이드라인이다.

## 📖 구조화된 지식 (Synthesized Content)
- **Three Pillars of AI Ethics**:
    - **Fairness (공정성)**: 성별, 인종, 계급에 따른 차별적 결정을 내리지 않도록 데이터 편향(Bias) 제거.
    - **Transparency (투명성)**: AI가 왜 그런 결론을 내렸는지 설명 가능해야 함 (XAI).
    - **Accountability (책무성)**: AI의 오작동으로 인한 피해 발생 시 누구에게 책임이 있는지 명확한 법적 체계 마련.
- **Privacy**: 학습 데이터 수집 과정에서의 개인정보 보호 및 잊혀질 권리 보장.
- **Safety**: 통제를 벗어난 AI '존재론적 위험(Existential Risk)'에 대한 선제적 방어.

## ⚠️ 모순 및 업데이트 (RL Update)
- 윤리는 주관적이며 문화권마다 다르다. 서구권의 가치관이 담긴 AI가 전 세계에 표준으로 쓰이는 '윤리적 제국주의'에 대한 우려가 크다. 이에 따라 특정 기업이 아닌 인류 전체의 합의를 이끌어내기 위한 'Global AI Governance' 구축이 시급한 과제로 떠오르고 있다.

## 🔗 지식 연결 (Graph)
- Related: [[Explainable-AI (XAI)]] , [[Constitutional AI (헌법 AI)]]
- Risk: [[Algorithmic-Bias]]
