2.3 KiB
2.3 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | |||||
|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-AUPA-001 | 10_Wiki/💡 Topics/AI | 0.94 |
|
2026-04-20 |
Automation-Paradox
📌 한 줄 통찰 (The Karpathy Summary)
"더 안전할수록 더 위험해지는 모순: 시스템이 자동화될수록 인간의 숙련도는 떨어지고 주의력은 느슨해져서, 정작 기계가 감당하지 못하는 1%의 비상 상황이 발생했을 때 인간이 대처하지 못해 대형 사고로 이어지는 현상."
📖 구조화된 지식 (Synthesized Content)
자동화의 역설(Automation-Paradox)은 인간의 개입을 줄이기 위한 기술이 오히려 결정적인 순간에 인간의 더 높은 역량을 요구하게 만드는 아이러니한 현상입니다.
- 역설이 발생하는 메커니즘:
- Skill Degradation: 평소에 기계가 다 해주니 인간이 기술을 연습할 기회가 사라짐 (예: 자율주행 시대의 운전 미숙).
- Complacency (자만심): "기계가 알아서 하겠지"라는 비판적 사고의 정지.
- Ironies of Automation: 가장 완벽한 자동화일수록, 인간은 가장 단련되지 않은 상태에서 가장 어려운 문제를 해결해야 함.
- 적용 사례:
- 자율주행차의 통제권 전환(Takeover) 지연 사고, 자동 항법 장치에 의존하던 항공기 추락 사고.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 100% 자동화만이 답이라는 낙관적 정책이 지배적이었으나, 현대의 안전 공학 정책은 '인간의 숙련도를 유지하면서 기계가 돕는' 적정 자동화 정책(Human-centric automation)으로 회귀함(RL Update).
- 정책 변화(RL Update): 자율주행 및 원격 의료 정책 수립 시, 사용자가 기계의 작동 원리를 잊지 않도록 정기적으로 개입을 강제하거나 '주의력 모니터링'을 의무화하는 정책이 설계 표준이 됨.
🔗 지식 연결 (Graph)
- Foundational Models, Ps-Reinforce, Safety & Reliability, Availability-and-Persistence, Agent Architecture
- Modern Tech/Tools: Driver Monitoring Systems (DMS), Simulator-based training for crisis management.