Antigravity Agent
0441f6e2a2
- Formalized automatic record migration protocol in System Manual. - Integrated high-density knowledge for RAG, AI, Business Strategy, and Leadership. - Enhanced graph connectivity across core strategic hubs. - Archived raw data and updated timeline records.
3.4 KiB
자기 반성 (Self-Reflection / Self-RAG)
📌 Brief Summary
자기 반성(Self-Reflective RAG, 또는 Self-RAG)은 검색 시스템이 자체적인 검색 및 생성 품질을 스스로 평가하고 검토하는 고급 검색 증강 생성 아키텍처이다 [1, 2]. 고정된 파이프라인을 따르는 대신, 정보 검색 시점을 스스로 결정하고 검색된 콘텐츠의 관련성을 평가하며 자신의 출력물을 비판적으로 분석하는 동적이고 조건부적인 검색을 수행한다 [2]. 이를 통해 시스템은 정보의 공백을 식별하고 신뢰도가 낮을 때 추가 검색을 실행하여 응답을 반복적으로 개선함으로써 AI의 환각(Hallucination)을 크게 줄인다 [1, 3, 4].
📖 Core Content
-
자체 평가 및 검증 메커니즘 (Self-Reflective Mechanisms) Self-RAG 시스템은 고도화된 답변 생성을 위해 다음과 같은 자체 평가 과정을 거친다 [1].
- 검색 필요성 감지 (Retrieval necessity detection): 모델이 외부 정보의 개입이 언제가 필요한지 자율적으로 결정한다 [1, 2].
- 관련성 평가 (Relevance assessment): 검색된 문서가 사용자의 쿼리에 유용한지 평가한다 [1, 2].
- 자체 비판 및 분석 (Self-critique): 생성된 응답의 정확성을 스스로 분석하고 평가한다 [1, 2].
-
동적 및 반복적 검색 개선 단순한 단일 단계의 고정된 '검색 및 생성' 구조에서 벗어나, 검색을 동적이고 조건부적인 작업으로 취급한다 [2]. 중간 결과물을 평가한 후 정보에 공백이 있거나 신뢰도가 낮다고 판단되면 추가적인 검색을 트리거하여 응답을 반복적으로 세분화하고 개선(Iterative refinement)한다 [1, 4].
-
검색 정확도 향상 및 환각 감소 에이전트가 정보 수집 전략을 계획하고 결과를 관찰하며 적응하는 자가 반성 기능은 무관한 검색 횟수를 25~40%가량 감소시키는 효과를 보여준다 [2]. 또한, 검색을 조건부로 실행함으로써 근거 없는 답변을 생성하는 환각 현상을 효과적으로 줄여준다 [3].
⚖️ Trade-offs & Caveats
- 무한 검색 루프 (Infinite Retrieval Loops) 및 과도한 검색 시스템의 신뢰도 보정(Confidence calibration)이 실패할 경우, 명확한 답에 수렴하지 못한 채 유사한 정보만 지속적으로 가져오는 무한 검색 루프에 빠지거나 과도한 검색(Over-retrieval)을 수행하는 치명적인 오류가 발생할 수 있다 [2, 5]. 이를 완화하기 위해서는 쿼리당 최대 검색 예산(제한)을 설정하고, 루프 감지 알고리즘을 도입해야 한다 [5].
- 잘못된 검색 결정 (Incorrect Retrieval Decisions) 스스로 검색 여부와 관련성을 판단하는 자율성에 의존하므로, 판단 기준이 부정확할 경우 잘못된 검색 결정을 내릴 가능성이 존재한다 [2].
- 감사(Auditing) 및 투명성 부족 에이전트가 어떠한 근거로 검색 결정을 내렸는지 그 추론 과정이 불투명(Opaque)해질 수 있다 [5]. 특히 규제가 엄격한 산업에서는 에이전트의 검색 결정을 감사하기 위한 표준화된 방법이 아직 부재하므로, 결정 과정을 추적할 수 있는 구조화된 로깅 기능과 해석 가능한 아키텍처 설계가 필수적으로 요구된다 [3, 5].
Last updated: 2026-05-04