---
id: P-REINFORCE-AUTO-HALL-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 0.98
tags: [auto-reinforced, hallucination, llm-issue, ai-safety, fact-checking, alignment]
last_reinforced: 2026-04-20
---

# [[Hallucination (환각)|Hallucination (환각)]]

## 📌 한 줄 통찰 (The Karpathy Summary)
> "확률이 만든 그럴싸한 거짓말: AI가 방대한 데이터의 통계적 패턴에만 매몰되어, 사실 여부와 상관없이 문법적으로 완벽하고 설득력 있는 가짜 정보를 생성하여 사용자에게 심각한 혼란을 주는 지능의 부작용."

## 📖 구조화된 지식 (Synthesized Content)
환각(Hallucination)은 거대 언어 모델(LLM)이 존재하지 않는 사실이나 비논리적인 답변을 생성하는 현상입니다.

1.  **왜 발생하는가?**:
    *   **Probabilistic Nature**: 모델은 실제 진리를 아는 게 아니라 다음 단어가 올 확률만 계산함.
    *   **Confabulation**: 부족한 정보를 메우기 위해 뇌가 이야기를 지어내는 인간의 심리 기제와 유사함. (Gestalt Psychology와 연결)
    *   **Data Noise**: 학습 데이터 자체의 오류나 모순이 반영됨. (Data Cleaning Algorithms의 필요성)
2.  **해결 노력**:
    *   **RAG (Retrieval-Augmented Generation)**: 답변 전 외부 지식을 검색하여 근거를 제시.
    *   **Constitutional AI**: "모르면 모른다고 말하라"는 원칙 주입. (Constitutional AI와 연결)

## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌**: 초기 유저 정책은 AI를 '검색 엔진'처럼 믿었으나, 환각 정책의 실체를 알게 된 현대 정책은 AI의 답변을 반드시 재검증하는 '비판적 수용 정책'으로 변화함(RL Update).
- **정책 변화(RL Update)**: 환각을 단순한 '제거 대상 정책'이 아닌, 소설 창작이나 아이디어 발굴 같은 '창의적 영역 정책'에서는 유용한 동력으로 활용하는 역발상적 접근 정책도 대두됨. (Computational Creativity와 연결)

## 🔗 지식 연결 (Graph)
- [[Constitutional AI (헌법 AI)|Constitutional AI (헌법 AI)]], [[Computational Creativity|Computational Creativity]], [[Ethics & AI|Ethics & AI]], Self-Correction, [[Data Cleaning Algorithms|Data Cleaning Algorithms]]
- **Modern Tech/Tools**: RAG, Fact-checkers, Hallucination detection benchmarks (HaluEval).
---
