bluemsi/2nd
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

[G1-Sync] Manual knowledge update

Browse Source
This commit is contained in:
Antigravity Agent
2026-04-30 22:42:02 +09:00
parent 0bd4f19e38
commit c36c0644a1
4888 changed files with 18470 additions and 18602 deletions
Download Patch File Download Diff File Expand all files Collapse all files
10_Wiki/Topics/Effective-Altruism-in-AI.md
+5 -5
View File
@@ -1,8 +1,8 @@
---
id: P-REINFORCE-AUTO-EAAI-001
id: [[P-Reinforce]]-AUTO-EAAI-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.93
tags: [auto-reinforced, effective-altruism, ea, ai-safety, ai-alignment, existential-risk, long-termism]
tags: [auto-reinforced, effective-[[Altruism]], ea, ai-safety, [[AI-Alignment]], existential-risk, long-termism]
last_reinforced: 2026-04-20
---
@@ -15,9 +15,9 @@ last_reinforced: 2026-04-20
효과적 이타주의(Effective-Altruism)와 AI는 과학적 근거와 이성을 사용하여 타인에게 최대의 선을 제공하려는 사회 운동이 AI 안전 지배구조와 결합된 형태입니다.
1. **AI 분야의 핵심 논점**:
* **Existential Risk (인류 실존적 위협)**: 초지능이 인류의 목표와 어긋났을 때 발생할 파멸 방지. (Risk-Management와 연결)
* **AI Alignment**: AI의 행동 정책을 인류의 가치 정책과 수학적으로 일치시키는 기술 연구.
* **Long-termism**: 현재의 문제(편향 등)도 중요하지만, 미래 수만 년의 잠재적 가치를 지키는 것이 압도적으로 중요하다는 관점. (Sustainability와 연결)
* **Existential Risk (인류 실존적 위협)**: 초지능이 인류의 목표와 어긋났을 때 발생할 파멸 방지. (Risk-[[Management]]와 연결)
* **AI [[Alignment]]**: AI의 행동 정책을 인류의 가치 정책과 수학적으로 일치시키는 기술 연구.
* **Long-termism**: 현재의 문제(편향 등)도 중요하지만, 미래 수만 년의 잠재적 가치를 지키는 것이 압도적으로 중요하다는 관점. ([[Sustainability]]와 연결)
2. **왜 중요한가?**:
* AI 개발 경쟁 속에서 '속도'보다 '안전'이라는 제동 장치 정책을 강력하게 요구하는 싱크탱크 역할을 하기 때문임.