Antigravity Agent
33 lines
2.4 KiB
Markdown
33 lines
2.4 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-HALL-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.98
|
|
tags: [auto-reinforced, hallucination, llm-issue, ai-safety, fact-checking, alignment]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Hallucination (환각)|Hallucination (환각)]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "확률이 만든 그럴싸한 거짓말: AI가 방대한 데이터의 통계적 패턴에만 매몰되어, 사실 여부와 상관없이 문법적으로 완벽하고 설득력 있는 가짜 정보를 생성하여 사용자에게 심각한 혼란을 주는 지능의 부작용."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
환각(Hallucination)은 거대 언어 모델(LLM)이 존재하지 않는 사실이나 비논리적인 답변을 생성하는 현상입니다.
|
|
|
|
1. **왜 발생하는가?**:
|
|
* **Probabilistic Nature**: 모델은 실제 진리를 아는 게 아니라 다음 단어가 올 확률만 계산함.
|
|
* **Confabulation**: 부족한 정보를 메우기 위해 뇌가 이야기를 지어내는 인간의 심리 기제와 유사함. (Gestalt Psychology와 연결)
|
|
* **Data Noise**: 학습 데이터 자체의 오류나 모순이 반영됨. (Data Cleaning Algorithms의 필요성)
|
|
2. **해결 노력**:
|
|
* **RAG (Retrieval-Augmented Generation)**: 답변 전 외부 지식을 검색하여 근거를 제시.
|
|
* **Constitutional AI**: "모르면 모른다고 말하라"는 원칙 주입. (Constitutional AI와 연결)
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 초기 유저 정책은 AI를 '검색 엔진'처럼 믿었으나, 환각 정책의 실체를 알게 된 현대 정책은 AI의 답변을 반드시 재검증하는 '비판적 수용 정책'으로 변화함(RL Update).
|
|
- **정책 변화(RL Update)**: 환각을 단순한 '제거 대상 정책'이 아닌, 소설 창작이나 아이디어 발굴 같은 '창의적 영역 정책'에서는 유용한 동력으로 활용하는 역발상적 접근 정책도 대두됨. (Computational Creativity와 연결)
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Constitutional AI (헌법 AI)|Constitutional AI (헌법 AI)]], [[Computational Creativity|Computational Creativity]], [[Ethics & AI|Ethics & AI]], Self-Correction, [[Data Cleaning Algorithms|Data Cleaning Algorithms]]
|
|
- **Modern Tech/Tools**: RAG, Fact-checkers, Hallucination detection benchmarks (HaluEval).
|
|
---
|