Antigravity Agent
36 lines
2.7 KiB
Markdown
36 lines
2.7 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-RAG-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.98
|
|
tags: [auto-reinforced, llm, rag, information-retrieval, ai-accuracy]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[RAG (검색 증강 생성)|RAG (검색 증강 생성)]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "오픈 북 시험을 치는 AI: 모든 정보를 다 외우게 시키는 대신, 질문을 받으면 관련된 문서를 실시간으로 찾아 읽고 답변하게 하여 할루시네이션(환각)을 획기적으로 줄이는 기술."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
RAG(Retrieval-Augmented Generation)는 사전에 학습된 언어 모델(LLM)에 외부의 최신 데이터나 전문 지식을 실시간으로 연결하여 답변의 정확성을 높이는 프레임워크입니다.
|
|
|
|
1. **작동 프로세스**:
|
|
* **Retrieval (검색)**: 유저의 질문과 가장 관련성 높은 지식 조각들을 벡터 데이터베이스 등에서 추출.
|
|
* **Augmentation (증강)**: 추출된 문서를 질문과 섞어서 LLM에게 '참고할 배경 지식'으로 제공.
|
|
* **Generation (생성)**: LLM이 제공된 정보를 바탕으로 근거 있는 답변 생성.
|
|
2. **핵심 이점**:
|
|
* **최신성 확보**: 모델을 다시 학습(Fine-tuning)시키지 않고도 어제 일어난 뉴스나 사내 최신 문서를 기반으로 답변 가능.
|
|
* **환각 증상 감소**: "내가 아는 바에 따르면"이 아니라 "제시된 문서에 따르면" 답변하므로 오류가 눈에 띄게 줄어듦.
|
|
* **출처 제시**: 답변의 근거가 된 문서 링크나 인용구를 함께 제공하여 신뢰성 확보.
|
|
3. **한계점**:
|
|
* 검색 단계에서 잘못된 문서를 가져오면(IR Failure) 답변도 망가짐. 이를 위해 검색 성능 최적화가 필수적임.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 초기 LLM은 '외운 것'으로만 답하게 하려 했으나, 정보의 방대함과 변화 속도를 감당할 수 없어 현대 기업용 AI 구축의 표준은 'RAG-First' 정책으로 완전히 전환됨.
|
|
- **정책 변화(RL Update)**: 민감한 사내 문서가 RAG 과정에서 외부망(Public LLM API)으로 유출될 위험이 제기됨에 따라, '로컬 벡터 스토어'와 '격리된 LLM 연계'를 강제하는 엔터프라이즈 AI 보안 정책이 강화됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- Foundational Models, [[SFT (Supervised Fine-Tuning)|SFT (Supervised Fine-Tuning)]], Vector Semantics, Information Extraction (IE), Semantic Grounding Provenance
|
|
- **Modern Tech/Tools**: Pinecone, Milvus, LlamaIndex, LangChain.
|
|
---
|