Antigravity Agent
1.8 KiB
1.8 KiB
id: P-Reinforce-AI-ETHICS category: Unified confidence_score: 0.99 tags: [AI, Ethics, AISafety, Fairness, Bias] last_reinforced: 2026-04-20
Ethics-in-Artificial-Intelligence (인공지능 윤리)
📌 한 줄 통찰 (The Karpathy Summary)
"지능이 높아질수록 책임의 무게는 무거워진다." AI가 인간의 가치관과 충돌하지 않고 인류에 유익하도록 개발 및 사용되어야 한다는 철학적, 규범적 가이드라인이다.
📖 구조화된 지식 (Synthesized Content)
- Three Pillars of AI Ethics:
- Fairness (공정성): 성별, 인종, 계급에 따른 차별적 결정을 내리지 않도록 데이터 편향(Bias) 제거.
- Transparency (투명성): AI가 왜 그런 결론을 내렸는지 설명 가능해야 함 (XAI).
- Accountability (책무성): AI의 오작동으로 인한 피해 발생 시 누구에게 책임이 있는지 명확한 법적 체계 마련.
- Privacy: 학습 데이터 수집 과정에서의 개인정보 보호 및 잊혀질 권리 보장.
- Safety: 통제를 벗어난 AI '존재론적 위험(Existential Risk)'에 대한 선제적 방어.
⚠️ 모순 및 업데이트 (RL Update)
- 윤리는 주관적이며 문화권마다 다르다. 서구권의 가치관이 담긴 AI가 전 세계에 표준으로 쓰이는 '윤리적 제국주의'에 대한 우려가 크다. 이에 따라 특정 기업이 아닌 인류 전체의 합의를 이끌어내기 위한 'Global AI Governance' 구축이 시급한 과제로 떠오르고 있다.
🔗 지식 연결 (Graph)
- Related: Explainable-AI (XAI) , Constitutional AI (헌법 AI)
- Risk: Algorithmic-Bias