2nd/10_Wiki/Topics/AI/AI Accountability.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
P-REINFORCE-AUTO-AIAC-001	10_Wiki/💡 Topics/AI	0.95	auto-reinforced ai-accountability responsibility algorithmic-transparency ethics-governance	2026-04-20

AI Accountability

📌 한 줄 통찰 (The Karpathy Summary)

"AI의 잘못은 누구의 탓인가: 알고리즘의 결정으로 인해 사회적 피해나 오류가 발생했을 때, 그 원인을 규명하고 책임의 주체를 명확히 하여 피해를 보상하게 만드는 책임 사회의 원칙."

📖 구조화된 지식 (Synthesized Content)

AI 책임론(AI Accountability)은 AI 시스템의 설계, 개발, 배포 및 운영 전 과정에서 발생하는 결과에 대해 관련 주체들이 책임을 지는 태도와 그 체계를 의미합니다.

1. 주요 과제 - 책임의 공백 (Responsibility Gap):
   • AI가 자율성을 가질수록 제작자나 사용자의 직접적인 통제를 벗어나므로, 사고 발생 시 법적 책임을 묻기 어려워지는 현상 발생.
2. 책임 구현의 3대 요소:
   • Transparency: AI가 왜 그런 결정을 내렸는지 설명할 수 있어야 함 (Explainable AI - XAI).
   • Auditability: 제3자가 AI의 작동 과정과 데이터 출처를 감사할 수 있어야 함.
   • Redress: 오류로 인한 피해가 발생했을 때 구제할 수 있는 절차를 사전에 마련.
3. 책임의 주체: 개발자, 데이터 제공자, 서비스 운영자, 그리고 최종 사용자 간의 책임 분담.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 과거에는 알고리즘은 '블랙박스'이므로 결과에 책임을 지기 어렵다는 인식이 강했으나, 현대 정책은 '제작자 무과실 책임 원칙'에 가까울 정도로 개발사의 배상 책임을 강화하는 정책으로 변화함(RL Update).
• 정책 변화(RL Update): 자율주행차나 의료 AI처럼 생명과 직결된 분야에서는 사고 시 AI 모델의 최종 파라미터 상태를 디지털 블랙박스로 기록하고 보존하는 것이 법적 정책 의무 사항이 됨.

🔗 지식 연결 (Graph)

• Ethics & AI, AI & Data Sovereignty, Safety & Reliability, Generative-AI-Safety, Decision Theory
• Modern Tech/Tools: Algorithmic Impact Assessment (AIA), Explainable AI (XAI) toolkits.

---