Antigravity Agent
35 lines
2.4 KiB
Markdown
35 lines
2.4 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-ADM-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.96
|
|
tags: [auto-reinforced, automated-decision-making, adm, algorithm, efficiency, ethics-governance]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Automated-Decision-Making|Automated-Decision-Making]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "알고리즘이 내리는 판결: 인간의 개입 없이 사전에 설정된 논리나 AI 모델이 데이터를 분석하여 대출 승인, 채용 합격, 혹은 형량 판단과 같은 중요한 의사결정을 실시간으로 수행하는 체계."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
자동화된 의사결정(Automated-Decision-Making, ADM)은 데이터를 입력받아 알고리즘이 자동으로 결론을 도출하고 이를 집행하는 시스템을 의미합니다.
|
|
|
|
1. **유형**:
|
|
* **Decision Support**: AI가 분석 결과를 제공하고 최종 결정은 인간이 함. (Human-in-the-loop)
|
|
* **Fully Automated**: 인간의 개입 없이 시스템이 즉시 행동 수행. (예: 주식 알고리즘 매매, 광고 입찰)
|
|
2. **이점**:
|
|
* **Scale & Speed**: 수백만 건의 요청을 1초 이내에 처리 가능.
|
|
* **Consistency**: 감정이나 피로도에 좌우되지 않는 일관된 기준 적용.
|
|
3. **위점**:
|
|
* **Lack of Context**: 숫자로 표현되지 않는 미묘한 인간적 상황 무시.
|
|
* **Embedded Bias**: 알고리즘 내에 숨어있는 차별적 요소가 대량 집행됨.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 효율성만을 위해 ADM 도입을 권장하는 정책이었으나, 현대의 인권 정책은 이에 대해 '설명 요구권'과 '인간에 의한 재검토권'을 법적으로 보장하는 정책으로 강화됨(RL Update, 예: GDPR 제22조).
|
|
- **정책 변화(RL Update)**: 공공 수사 및 복지 정책에서 ADM을 쓸 경우, 반드시 알고리즘의 소스코드와 학습 데이터를 감사받아야 하는 'ADM 투명성 및 책임성 의무화 정책'이 글로벌 표준이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Algorithmic Fairness|Algorithmic Fairness]], [[AI Accountability|AI Accountability]], [[Decision Theory|Decision Theory]], [[Algorithmic Transparency|Algorithmic Transparency]], [[AI Governance|AI Governance]]
|
|
- **Modern Tech/Tools**: Credit scoring AI, Resume screening tools, Automated trading systems.
|
|
---
|