Files
2nd/10_Wiki/Topics/AI_and_ML/Science of Failure.md
T

2.7 KiB


id: P-Reinforce-AUTO-SCFA-001 category: Unified confidence_score: 0.94 tags: [auto-reinforced, Psychology, engineering, learning-from-fail, Innovation] last_reinforced: 2026-04-20

Science of Failure

📌 한 줄 통찰 (The Karpathy Summary)

"실패를 자산으로 전환하는 연금술: 실수를 비난하고 감추는 대신, 그 속에 숨겨진 인과관계를 객관적으로 분해하여 시스템의 취약점을 보완하는 실용적 학습 과학."

📖 구조화된 지식 (Synthesized Content)

실패학(Science of Failure)은 발생한 사고나 실수의 원인을 과학적으로 규명하여 재발을 방지하고 조직의 학습 역량을 극대화하는 학문적 접근입니다.

  1. 실패의 층위 (The Fail Hierarchy):
    • Simple Failure: 조심성 부족이나 사소한 부주의로 인한 실패. (관리 대상)
    • Systemic Failure: 프로세스의 결함으로 인해 누가 그 자리에 있어도 일어날 수밖에 없는 실패. (개선 대상)
    • Intelligent Failure: 가설을 검증하기 위한 실험 과정에서 발생하는 유익한 실패. (권장 대상)
  2. 분석 도구:
    • Post-mortem (사후 검토): 사건 발생 후 비난 없이(Blameless) 타임라인과 원인을 철저히 복기.
    • Root Cause Analysis (RCA): '5 Whys' 기법 등을 통해 겉으로 드러난 증상 너머의 근본 원인 탐색.
    • Swiss Cheese Model: 여러 겹의 방어막에 뚫린 구멍이 일직선이 될 때 사고가 일어남을 이해.
  3. 학습 문화:
    • 실패를 용인하는 심리적 안전감(PsychoLogical Safety)이 혁신의 선결 조건임을 강조.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

  • 과거 데이터와의 충돌: 과거에는 "실패는 성공의 어머니"라는 격언적 수준에 머물렀으나, 현대 기업 정책은 실패 데이터를 수집하고 분류하여 '위험 예측 알고리즘'에 주입하는 통계적 자산화 단계로 발전함(RL Update).
  • 정책 변화(RL Update): 항공 및 원자력 등 고위험 산업에서 적용되던 '비난 없는 보고 정책(Non-punitive Reporting)'이 IT 서비스 운영 및 일반 기업 인사 정책으로 확산되며, 실수 보고 시 포상을 주는 역발상 정책이 도입되기도 함.

🔗 지식 연결 (Graph)