Antigravity Agent
34 lines
2.4 KiB
Markdown
34 lines
2.4 KiB
Markdown
---
|
|
id: [[P-Reinforce|P-Reinforce]]-AUTO-EDMA-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.95
|
|
tags: [auto-reinforced, ethical-decision-making, ethics, [[Philosophy|Philosophy]], justice, utilitariansim, de[[Ontology|Ontology]]]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Ethical-Decision-Making|Ethical-Decision-Making]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "가치의 저울질: 기술적 성능이나 경제적 이득이 아닌, '무엇이 옳은가'를 기준으로 갈등 상황을 분석하고, 이해관계자 모두에게 정의로운 최선의 선택지를 도출하는 도덕적 알고리즘."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
윤리적 의사결정(Ethical-Decision-Making)은 개인이나 조직이 윤리적 원칙과 가치를 바탕으로 문제를 인식하고 대안을 평가하여 선택하는 프로세스입니다.
|
|
|
|
1. **3대 철학적 접근**:
|
|
* **Utilitarianism (공리주의)**: 최대 다수의 최대 행복. 결과적 영향 중심.
|
|
* **Deontology (의무론)**: 보편적 도덕 원칙 준수 (예: 거짓말 금지). 과정의 정당성 중심. ([[Logic|Logic]]와 연결)
|
|
* **Virtue Ethics (덕 윤리)**: 좋은 인간(또는 조직)이라면 어떻게 행동했을까? 행위자의 품성 중심.
|
|
2. **적용 단계**:
|
|
* **Awareness**: 윤리적 쟁점 정책 인식.
|
|
* **Evaluation**: 각 대안이 이해관계자에게 미칠 영향 분석. (Sensitivity-[[Analysis|Analysis]]와 대비).
|
|
* **Intention & Action**: 최선의 선택 실행 및 책임 수용.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 개인의 '양심'에만 의존했으나, 현대 정책은 AI 윤리 정책, 데이터 거버넌스 정책 등 고도로 복합적인 기술 윤리 상황을 처리하기 위한 '체계적 프레임워크 정책' 수립을 필수화함(RL Update).
|
|
- **정책 변화(RL Update)**: 이제는 인간의 의사결정 정책을 넘어, 자율주행차나 의료 AI 가 맞닥뜨릴 '트롤리 딜레마' 상황에서 어떤 윤리 정책을 탑재(Embedding)할 것인가에 대한 수학적 정의가 연구의 핵심임. (Ethics와 연결)
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Logic|Logic]], [[Sensitivity-Analysis|Sensitivity-Analysis]], Ethics, Decision-Making, [[Quality-Control|Quality-Control]], Effective-Altruism-in-AI
|
|
- **Key Model**: Rest's Four-Component Model.
|
|
---
|