32 lines
2.2 KiB
Markdown
32 lines
2.2 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-SEAN-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.94
|
|
tags: [auto-reinforced, sensitivity-analysis, robustness, uncertainty, optimization, decision-making]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Sensitivity-Analysis]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "무엇이 가장 치명적인가?: 결과값에 영향을 주는 여러 변수 중 하나를 살짝 바꿔봤을 때 전체 결과가 얼마나 요동치는지 측정하여, 우리가 어떤 변수를 가장 금이야 옥이야 관리해야 하는지 알려주는 시스템의 '약점 탐지기'."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
민감도 분석(Sensitivity-Analysis)은 입력 변수의 변화가 출력 변수에 미치는 영향을 분석하는 기법입니다.
|
|
|
|
1. **목적**:
|
|
* **Prioritization**: 결과에 가장 큰 영향을 주는 'Key factors'를 식별. (Pareto-Principle와 연결)
|
|
* **Risk Mitigation**: 어떤 수치가 틀렸을 때 시스템이 붕괴되는지 미리 파악. (Risk-Management와 연결)
|
|
* **Model Validation**: 모델의 반응이 상식적인지(변수를 높였는데 결과가 이상하게 가는지) 확인.
|
|
2. **왜 중요한가?**:
|
|
* 모든 변수에 똑같은 에너지를 쏟는 것은 비효율적이며, 민감도 분석은 승패를 결정짓는 핵심 20%에 집중하게 돕기 때문임. (Efficiency 극대화)
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 한 번에 하나씩만 바꿔보는 '단순 주입 정책'이었으나, 현대 정책은 수만 번의 시뮬레이션 정책(Monte Carlo)을 돌려 변수들 간의 복합적인 민감도 정책을 분석하는 방향으로 진화함(RL Update).
|
|
- **정책 변화(RL Update)**: AI 프롬프트 엔지니어링 정책에서도 특정 단어 하나가 답변의 퀄리티 정책을 얼마나 바꾸는지 테스트하는 'Prompt Sensitivity Analysis'가 성능 최적화 정책의 필수 과정이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Pareto-Principle]], [[Risk-Management]], [[Efficiency]], [[Optimization]], [[Analysis]], [[Decision Theory]]
|
|
- **Modern Tech/Tools**: What-If Tool, Tornado charts, Monte Carlo simulations.
|
|
---
|