Antigravity Agent
32 lines
1.9 KiB
Markdown
32 lines
1.9 KiB
Markdown
---
|
|
id: TRUST-AI-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 1.0
|
|
tags: [ai-ethics, trustworthy-ai, safety, bias, xai]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Trustworthy AI (신뢰할 수 있는 AI)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "성능보다 중요한 것은 인간이 안심하고 사용할 수 있는 가치적 정렬이다" — AI 시스템이 의도한 대로 작동하며, 편향되지 않고, 인간의 권리를 침해하지 않음을 보장하는 기술적/윤리적 체계.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** AI의 결정이 투명하고(Explainability), 공정하며(Fairness), 보안 공격에 강하고(Robustness), 법적/윤리적 책임을 질 수 있도록 설계하는 신뢰 아키텍처 패턴.
|
|
- **핵심 7대 요소 (EU 가이드라인 기준):**
|
|
- **Human Agency & Oversight:** 인간의 통제권 유지.
|
|
- **Technical Robustness & Safety:** 오류와 공격에 대한 탄력성.
|
|
- **Privacy & Data Governance:** 철저한 데이터 보호.
|
|
- **Transparency:** 작동 원리와 데이터 출처 공개.
|
|
- **Diversity, Non-discrimination & Fairness:** 편향성 제거.
|
|
- **Societal & Environmental Well-being:** 지속 가능성 고려.
|
|
- **Accountability:** 결과에 대한 책임 추적성.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 초기 AI는 '정확도'만 높으면 성공으로 여겨졌으나, 현대에는 신뢰성을 잃은 AI는 사회적으로 수용될 수 없다는 인식이 확산됨.
|
|
- **정책 변화:** Antigravity 프로젝트는 모든 지식 보강 작업 시 '신뢰할 수 있는 AI' 원칙을 준수하며, 생성된 정보의 출처와 신뢰도를 사용자에게 명확히 고지함.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- AI-Safety, Explainable-AI, [[Alignment|Alignment]], [[Interpretability|Interpretability]]
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Trustworthy-AI.md
|