---
id: TRUST-AI-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai-ethics, trustworthy-ai, safety, bias, xai]
last_reinforced: 2026-04-26
---

# Trustworthy AI (신뢰할 수 있는 AI)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "성능보다 중요한 것은 인간이 안심하고 사용할 수 있는 가치적 정렬이다" — AI 시스템이 의도한 대로 작동하며, 편향되지 않고, 인간의 권리를 침해하지 않음을 보장하는 기술적/윤리적 체계.

## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** AI의 결정이 투명하고(Explainability), 공정하며(Fairness), 보안 공격에 강하고(Robustness), 법적/윤리적 책임을 질 수 있도록 설계하는 신뢰 아키텍처 패턴.
- **핵심 7대 요소 (EU 가이드라인 기준):**
    - **Human Agency & Oversight:** 인간의 통제권 유지.
    - **Technical Robustness & Safety:** 오류와 공격에 대한 탄력성.
    - **Privacy & Data Governance:** 철저한 데이터 보호.
    - **Transparency:** 작동 원리와 데이터 출처 공개.
    - **Diversity, Non-discrimination & Fairness:** 편향성 제거.
    - **Societal & Environmental Well-being:** 지속 가능성 고려.
    - **Accountability:** 결과에 대한 책임 추적성.

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 초기 AI는 '정확도'만 높으면 성공으로 여겨졌으나, 현대에는 신뢰성을 잃은 AI는 사회적으로 수용될 수 없다는 인식이 확산됨.
- **정책 변화:** Antigravity 프로젝트는 모든 지식 보강 작업 시 '신뢰할 수 있는 AI' 원칙을 준수하며, 생성된 정보의 출처와 신뢰도를 사용자에게 명확히 고지함.

## 🔗 지식 연결 (Graph)
- AI-Safety, Explainable-AI, [[Alignment|Alignment]], [[Interpretability|Interpretability]]
- **Raw Source:** 10_Wiki/Topics/AI/Trustworthy-AI.md