Antigravity Agent
33 lines
2.5 KiB
Markdown
33 lines
2.5 KiB
Markdown
---
|
|
id: [[P-Reinforce|P-Reinforce]]-AUTO-AIAC-001
|
|
category: Unified
|
|
confidence_score: 0.95
|
|
tags: [auto-reinforced, ai-accountability, responsibility, algorithmic-transparency, ethics-governance]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[AI Accountability|AI Accountability]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "AI의 잘못은 누구의 탓인가: 알고리즘의 결정으로 인해 사회적 피해나 오류가 발생했을 때, 그 원인을 규명하고 책임의 주체를 명확히 하여 피해를 보상하게 만드는 책임 사회의 원칙."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
AI 책임론(AI Accountability)은 AI 시스템의 설계, 개발, 배포 및 운영 전 과정에서 발생하는 결과에 대해 관련 주체들이 책임을 지는 태도와 그 체계를 의미합니다.
|
|
|
|
1. **주요 과제 - 책임의 공백 (Responsibility Gap)**:
|
|
* AI가 자율성을 가질수록 제작자나 사용자의 직접적인 통제를 벗어나므로, 사고 발생 시 법적 책임을 묻기 어려워지는 현상 발생.
|
|
2. **책임 구현의 3대 요소**:
|
|
* **Transparency**: AI가 왜 그런 결정을 내렸는지 설명할 수 있어야 함 (Explainable AI - XAI).
|
|
* **Auditability**: 제3자가 AI의 작동 과정과 데이터 출처를 감사할 수 있어야 함.
|
|
* **Redress**: 오류로 인한 피해가 발생했을 때 구제할 수 있는 절차를 사전에 마련.
|
|
3. **책임의 주체**: 개발자, 데이터 제공자, 서비스 운영자, 그리고 최종 사용자 간의 책임 분담.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 알고리즘은 '블랙박스'이므로 결과에 책임을 지기 어렵다는 인식이 강했으나, 현대 정책은 '제작자 무과실 책임 원칙'에 가까울 정도로 개발사의 배상 책임을 강화하는 정책으로 변화함(RL Update).
|
|
- **정책 변화(RL Update)**: 자율주행차나 의료 AI처럼 생명과 직결된 분야에서는 사고 시 AI 모델의 최종 파라미터 상태를 디지털 블랙박스로 기록하고 보존하는 것이 법적 정책 의무 사항이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Ethics & AI|Ethics & AI]], [[AI & Data Sovereignty|AI & Data Sovereignty]], [[Safety & Reliability|Safety & Reliability]], [[Generative-AI|Generative-AI]]-Safety, [[Decision Theory|Decision Theory]]
|
|
- **Modern Tech/Tools**: Algorithmic Impact [[Assessment|Assessment]] (AIA), Explainable AI (XAI) toolkits.
|
|
---
|