Antigravity Agent
2.1 KiB
2.1 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||
|---|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-AIGO-001 | 10_Wiki/💡 Topics/AI | 0.96 |
|
2026-04-20 |
AI Governance
📌 한 줄 통찰 (The Karpathy Summary)
"인공지능을 위한 사회적 가이드라인: 기술의 폭주를 막고 혜택을 극대화하기 위해 국가, 기업, 학계가 합의하여 만드는 법적, 윤리적, 기술적 관리 체계."
📖 구조화된 지식 (Synthesized Content)
AI 거버넌스(AI Governance)는 인공지능 기술의 개발 및 활용이 인류의 안전, 권리, 그리고 보편적 가치와 부합하도록 보장하는 규칙과 프로세스의 집합입니다.
- 3대 핵심 기둥:
- Ethics & Norms: 신뢰할 수 있는 AI를 위한 원칙 수립. (공정성, 투명성, 책임성)
- Regulation & Policy: 강제성 있는 법규 마련. (예: EU AI Act)
- Technical Standards: 보안, 성능, 상호운용성을 위한 기술 표준.
- 주요 쟁점:
- Risk-based Approach: AI의 위험도에 따라 다른 수위의 규제 적용. (허용 불가 - 고위험 - 저위험)
- International Cooperation: 국경 없는 기술 특성상 국가 간 공조 필수.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 기술 발전을 저해한다는 이유로 규제에 소극적이었으나, 현대 정책은 '안전한 기술이 더 큰 시장을 만든다'는 인식 하에 선제적인 '안심 거버넌스 정책'으로 패러다임을 전환함(RL Update).
- 정책 변화(RL Update): 단순히 사후 규제가 아닌, 설계 단계부터 거버넌스를 코드에 녹여내는 'Governance by Design' 정책이 테크 기업의 필수 준수 사항이 됨.
🔗 지식 연결 (Graph)
- AI Accountability, AI Safety, AI & Data Sovereignty, Ethics & AI, Generative-AI-Safety
- Modern Tech/Tools: ISO/IEC 42001 (AI Management System), NIST AI Risk Management Framework.