# [[RAG (Retrieval-Augmented Generation)]]

## 📌 Brief Summary
RAG(검색 증강 생성)는 대규모 언어 모델(LLM)의 텍스트 생성 능력에 외부 지식 검색 시스템을 결합하여 응답의 정확성과 관련성을 높이는 AI 아키텍처이다 [1]. 모델이 사용자 질의에 답변하기 전에 외부 지식 베이스나 문서에서 관련 정보를 실시간으로 검색한 후, 이를 컨텍스트로 활용하여 답변을 생성하도록 지원한다 [2-4]. 이를 통해 사전 학습된 모델의 지식 단절 문제를 해결하고 환각(Hallucination) 현상을 크게 줄임으로써, 기업 내부 데이터나 최신 사실에 기반한 신뢰할 수 있는 정보를 제공하는 핵심 기술로 활용되고 있다 [5-7].

## 📖 Core Content

*   **파이프라인 및 작동 원리**
    *   **데이터 수집 및 임베딩(Document Ingestion & Embedding):** 구조화되거나 구조화되지 않은 다양한 형태의 문서를 수집하여 적절한 크기로 나누는 지능형 청킹(Intelligent Chunking)을 수행하고, 임베딩 모델을 통해 문맥적 의미를 담은 고차원 벡터로 변환하여 벡터 데이터베이스에 저장한다 [8-12].
    *   **검색 및 재순위화(Retrieval & Reranking):** 사용자의 질의를 벡터로 변환한 후 코사인 유사도 등을 이용해 가장 관련성 높은 문서를 검색한다 [11]. 정확도를 극대화하기 위해 의미론적 벡터 검색(Dense Retrieval)과 키워드 기반 매칭(Sparse/BM25)을 결합한 하이브리드 검색(Hybrid Search) 전략을 사용하며, 추출된 후보 문서들 중 LLM 생성에 가장 적합한 문서를 다시 고르는 재순위화(Reranking) 과정을 거친다 [12, 13].
    *   **컨텍스트 조립 및 프롬프트 생성(Prompt Engineering & Generation):** 검색된 정보와 원래의 사용자 질의를 결합하여 프롬프트를 구성하고, 이를 LLM에 전달하여 출처가 명확하고 사실에 근거한 최종 답변을 생성한다 [2, 3, 14, 15].

*   **주요 이점**
    *   **지식의 한계 극복:** 표준 LLM이 갖는 지식 컷오프(Knowledge Cutoff) 문제를 해결하여 최신 시장 데이터나 기업의 내부 독점 지식에 대한 접근을 가능하게 한다 [5, 16, 17].
    *   **환각 방지 및 투명성:** 답변의 근거가 되는 외부 문서를 명시하여 LLM의 환각(Hallucination) 비율을 42~68%까지 감소시키며, 출처 추적 기능을 제공해 높은 신뢰도와 감사 가능성(Auditability)을 보장한다 [5, 7, 18, 19].

*   **기술의 진화 및 최신 동향**
    *   초기의 단순한 검색-생성 구조(Naive RAG)에서 벗어나, 시스템 스스로 검색의 필요성과 검색된 문서의 적합성을 평가하는 자가 반성형(Self-Reflective RAG), 개체 관계를 파악하는 GraphRAG 등으로 진화하고 있다 [12, 20-24].
    *   특히 검색 도구를 자율적으로 선택하고 다단계 논리적 추론을 수행하는 '에이전틱 RAG(Agentic RAG)'로 발전하며, 단순 정보 전달을 넘어 사용자의 복잡한 요구사항을 수행하는 지능형 비서로 자리 잡고 있다 [12, 22, 25].

## ⚖️ Trade-offs & Caveats

*   **인프라 복잡성 및 컴퓨팅 비용 증가**
    *   RAG 아키텍처는 텍스트만 생성하는 기존 LLM에 비해 복잡한 인프라(벡터 데이터베이스, 임베딩 모델 등) 구축을 필요로 한다 [26, 27].
    *   문서 전처리, 실시간 검색, 생성이라는 이중 과정을 수행해야 하므로 컴퓨팅 리소스 소모와 지연 시간(Latency)이 늘어난다 [28, 29]. 특히 GraphRAG와 같은 지식 그래프 기반의 검색은 엔티티 인식 및 그래프 구축 비용이 기준 RAG 파이프라인에 비해 3~5배 더 많은 비용을 초래할 수 있다 [23, 30].

*   **검색 품질에 대한 절대적 의존도**
    *   최종 결과물의 품질은 전적으로 검색 메커니즘의 정밀도와 재현율에 달려 있다 [20, 31]. 만약 문서 검색에 실패하거나, 맥락에 맞지 않는 노이즈가 포함된 문서를 가져오게 되면 LLM의 환각을 완전히 제어할 수 없다 [32, 33].
    *   자율형 에이전트(Agentic RAG) 환경에서는 시스템이 정보를 찾는 과정에서 무한 검색 루프에 빠지거나 부적절한 검색 결정을 내리는 실패 사례가 발생할 수 있다 [34, 35].

*   **보안 취약점 및 데이터 거버넌스 한계**
    *   검색 계층 자체에 대한 접근 제어(Access Control)가 완벽하지 않으면, 벡터화된 문서나 검색 결과에서 사용자가 열람 권한이 없는 민감한 데이터가 노출될 수 있는 치명적인 보안 허점이 생긴다 [36, 37].
    *   악의적으로 조작된 문서가 검색 결과에 유입될 경우, LLM의 오작동을 유발하는 'BadRAG'나 'TrojanRAG' 형태의 백도어 공격 위험이 존재한다 [34, 38]. 이러한 공격을 방어하기 위한 검증 체계나 감사 로그 생성 기능을 추가하면 응답 지연이 5~10% 추가로 발생한다 [37, 38]. 


---
*Last updated: 2026-05-04*