Antigravity Agent
2.5 KiB
2.5 KiB
id: P-Reinforce-AUTO-HALL-001 category: Unified confidence_score: 0.98 tags: [auto-reinforced, hallucination, llm-issue, ai-safety, fact-checking, Alignment] last_reinforced: 2026-04-20
Hallucination (환각)
📌 한 줄 통찰 (The Karpathy Summary)
"확률이 만든 그럴싸한 거짓말: AI가 방대한 데이터의 통계적 패턴에만 매몰되어, 사실 여부와 상관없이 문법적으로 완벽하고 설득력 있는 가짜 정보를 생성하여 사용자에게 심각한 혼란을 주는 지능의 부작용."
📖 구조화된 지식 (Synthesized Content)
환각(Hallucination)은 거대 언어 모델(LLM)이 존재하지 않는 사실이나 비논리적인 답변을 생성하는 현상입니다.
- 왜 발생하는가?:
- Probabilistic Nature: 모델은 실제 진리를 아는 게 아니라 다음 단어가 올 확률만 계산함.
- Confabulation: 부족한 정보를 메우기 위해 뇌가 이야기를 지어내는 인간의 심리 기제와 유사함. (Gestalt Psychology와 연결)
- Data Noise: 학습 데이터 자체의 오류나 모순이 반영됨. (Data Cleaning Algorithms의 필요성)
- 해결 노력:
- RAG (Retrieval-Augmented Generation): 답변 전 외부 지식을 검색하여 근거를 제시.
- Constitutional AI: "모르면 모른다고 말하라"는 원칙 주입. (Constitutional AI와 연결)
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 초기 유저 정책은 AI를 '검색 엔진'처럼 믿었으나, 환각 정책의 실체를 알게 된 현대 정책은 AI의 답변을 반드시 재검증하는 '비판적 수용 정책'으로 변화함(RL Update).
- 정책 변화(RL Update): 환각을 단순한 '제거 대상 정책'이 아닌, 소설 창작이나 아이디어 발굴 같은 '창의적 영역 정책'에서는 유용한 동력으로 활용하는 역발상적 접근 정책도 대두됨. (Computational Creativity와 연결)
🔗 지식 연결 (Graph)
- Constitutional AI (헌법 AI), Computational Creativity, Ethics & AI, Self-Correction, Data Cleaning Algorithms
- Modern Tech/Tools: RAG, Fact-checkers, Hallucination detection Benchmarks (HaluEval).