Trustworthy AI (신뢰할 수 있는 AI)

📌 한 줄 통찰 (The Karpathy Summary)

"성능보다 중요한 것은 인간이 안심하고 사용할 수 있는 가치적 정렬이다" — AI 시스템이 의도한 대로 작동하며, 편향되지 않고, 인간의 권리를 침해하지 않음을 보장하는 기술적/윤리적 체계.

추출된 패턴: AI의 결정이 투명하고(Explainability), 공정하며(Fairness), 보안 공격에 강하고(Robustness), 법적/윤리적 책임을 질 수 있도록 설계하는 신뢰 아키텍처 패턴.
핵심 7대 요소 (EU 가이드라인 기준):
- Human Agency & Oversight: 인간의 통제권 유지.
- Technical Robustness & Safety: 오류와 공격에 대한 탄력성.
- Privacy & Data Governance: 철저한 데이터 보호.
- Transparency: 작동 원리와 데이터 출처 공개.
- Diversity, Non-discrimination & Fairness: 편향성 제거.
- Societal & Environmental Well-being: 지속 가능성 고려.
- Accountability: 결과에 대한 책임 추적성.

과거 데이터와의 충돌: 초기 AI는 '정확도'만 높으면 성공으로 여겨졌으나, 현대에는 신뢰성을 잃은 AI는 사회적으로 수용될 수 없다는 인식이 확산됨.
정책 변화: Antigravity 프로젝트는 모든 지식 보강 작업 시 '신뢰할 수 있는 AI' 원칙을 준수하며, 생성된 정보의 출처와 신뢰도를 사용자에게 명확히 고지함.