[G1-Sync] Manual knowledge update
This commit is contained in:
@@ -2,7 +2,7 @@
|
||||
id: AI-ROBUST-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, machine-learning, robustness, adversarial-attacks, ood-detection, reliability, trustworthy-ai]
|
||||
tags: [ai, machine-learning, [[Robustness]], adversarial-attacks, ood-detection, [[Reliability]], [[Trustworthy-AI]]]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
@@ -15,7 +15,7 @@ last_reinforced: 2026-04-26
|
||||
- **추출된 패턴:** "Adversarial Defense and Uncertainty Awareness" — 학습 과정에서 의도적으로 어려운 샘플을 주입하여 단련시키고(Adversarial Training), 자신이 모르는 데이터(OOD)에 대해서는 "모른다"고 답할 수 있는 확신도(Confidence)를 관리하는 패턴.
|
||||
- **핵심 도전 과제:**
|
||||
- **Adversarial Attacks:** 사람 눈에는 보이지 않는 미세한 변조로 모델을 속이는 공격 방어.
|
||||
- **Distribution Shift:** 학습 데이터와 실제 데이터의 분포가 달라질 때의 성능 하락 방지.
|
||||
- **Distribution [[Shift]]:** 학습 데이터와 실제 데이터의 분포가 달라질 때의 성능 하락 방지.
|
||||
- **Data Corruption:** 데이터 수집 과정의 결측이나 오류에 대한 저항력 확보.
|
||||
- **의의:** 자율주행, 의료 진단, 안보 등 작은 오류가 치명적인 결과를 초래하는 '미션 크리티컬' 분야에서 AI가 상용화되기 위한 필수 조건.
|
||||
|
||||
|
||||
Reference in New Issue
Block a user