2.3 KiB
2.3 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||
|---|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-ADM-001 | 10_Wiki/💡 Topics/AI | 0.96 |
|
2026-04-20 |
Automated-Decision-Making
📌 한 줄 통찰 (The Karpathy Summary)
"알고리즘이 내리는 판결: 인간의 개입 없이 사전에 설정된 논리나 AI 모델이 데이터를 분석하여 대출 승인, 채용 합격, 혹은 형량 판단과 같은 중요한 의사결정을 실시간으로 수행하는 체계."
📖 구조화된 지식 (Synthesized Content)
자동화된 의사결정(Automated-Decision-Making, ADM)은 데이터를 입력받아 알고리즘이 자동으로 결론을 도출하고 이를 집행하는 시스템을 의미합니다.
- 유형:
- Decision Support: AI가 분석 결과를 제공하고 최종 결정은 인간이 함. (Human-in-the-loop)
- Fully Automated: 인간의 개입 없이 시스템이 즉시 행동 수행. (예: 주식 알고리즘 매매, 광고 입찰)
- 이점:
- Scale & Speed: 수백만 건의 요청을 1초 이내에 처리 가능.
- Consistency: 감정이나 피로도에 좌우되지 않는 일관된 기준 적용.
- 위점:
- Lack of Context: 숫자로 표현되지 않는 미묘한 인간적 상황 무시.
- Embedded Bias: 알고리즘 내에 숨어있는 차별적 요소가 대량 집행됨.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 효율성만을 위해 ADM 도입을 권장하는 정책이었으나, 현대의 인권 정책은 이에 대해 '설명 요구권'과 '인간에 의한 재검토권'을 법적으로 보장하는 정책으로 강화됨(RL Update, 예: GDPR 제22조).
- 정책 변화(RL Update): 공공 수사 및 복지 정책에서 ADM을 쓸 경우, 반드시 알고리즘의 소스코드와 학습 데이터를 감사받아야 하는 'ADM 투명성 및 책임성 의무화 정책'이 글로벌 표준이 됨.
🔗 지식 연결 (Graph)
- Algorithmic Fairness, AI Accountability, Decision Theory, Algorithmic Transparency, AI Governance
- Modern Tech/Tools: Credit scoring AI, Resume screening tools, Automated trading systems.