Antigravity Agent
4.8 KiB
4.8 KiB
Semantic Grounding (의미적 접지) & Provenance (출처 역추적)
📌 Brief Summary
Semantic Grounding(의미적 접지)은 LLM의 생성 답변을 검증된 지식 그래프·온톨로지의 사실에 물리적으로 연결하여 환각을 방지하는 기법이다. Provenance(출처 역추적)는 AI가 생성한 답변의 각 사실이 어느 노드·트리플에서 유래했는지 추적하여 신뢰성과 투명성을 보장하는 메커니즘이다.
📖 Core Content
1. Semantic Grounding (의미적 접지)
문제 정의
- 기존 LLM: 학습 데이터의 통계적 패턴으로 텍스트 생성 → "그럴듯한" 내용이지만 사실 검증 없음.
- Grounding 목표: LLM의 출력이 반드시 검증된 외부 지식 베이스의 사실에 "접지(anchored)"되도록 강제.
핵심 메커니즘
[LLM 답변 생성 요청]
↓
[Grounding 레이어]
1. 질의에서 핵심 엔티티 추출
2. 지식 그래프에서 해당 엔티티의 사실 검색
3. 검색된 사실(트리플)을 LLM 프롬프트에 주입
↓
[LLM이 접지된 사실 기반으로만 답변 생성]
↓
[결과] 환각 40% 이상 감소, 팩트 기반 정확한 답변
Grounding 방식 분류
| 방식 | 설명 | 장단점 |
|---|---|---|
| KG Grounding | 지식 그래프 트리플을 프롬프트에 직접 주입 | 정확성 ↑, 구축 비용 ↑ |
| RAG Grounding | 외부 문서 검색 후 컨텍스트 주입 | 구축 용이, 정확성 KG보다 낮음 |
| Ontology-Guided | 온톨로지 스키마를 프롬프트에 포함, 제약 내에서만 생성 | 정밀, 도메인 전문성 필요 |
2. Provenance (출처 역추적)
정의
AI가 생성한 답변의 각 사실이 어느 지식 그래프 노드·트리플·문서에서 유래했는지 추적 가능하게 만드는 투명성 메커니즘.
왜 중요한가? (인과관계)
- 원인: LLM은 답변 생성 시 어떤 학습 데이터에서 정보를 가져왔는지 알 수 없음.
- 문제: 답변이 틀렸을 때 어디가 잘못됐는지 추적 불가 → "블랙박스" 문제.
- Provenance 도입 효과: 각 사실에 출처 URI/트리플 링크 부착 → 틀린 정보의 원천 즉시 파악 → 지식 그래프 수정·업데이트 가능.
RDF에서의 Provenance 표현
전통적 방식 (Reification, 장황):
ex:Statement1 rdf:type rdf:Statement ;
rdf:subject ex:홍길동 ;
rdf:predicate ex:직업 ;
rdf:object ex:의사 ;
ex:출처 ex:서울대병원DB ; # 메타데이터 추가
ex:확인날짜 "2026-04-15" . # 메타데이터 추가
RDF-star 방식 (간결):
<<ex:홍길동 ex:직업 ex:의사>> ex:출처 ex:서울대병원DB ;
ex:확인날짜 "2026-04-15" .
실용적 활용 시나리오
| 시나리오 | Provenance 역할 |
|---|---|
| 의료 AI 진단 | 진단 근거가 어느 논문/임상 데이터에서 왔는지 의사에게 제시 |
| 금융 규제 준수 | 규정 위반 판단의 근거 조항 자동 링크 제공 |
| 법률 AI | 판결 예측의 근거 판례 출처 자동 인용 |
3. Grounding & Provenance 결합 효과
지식 그래프(사실) + Grounding(연결) → LLM 답변 생성
↓
Provenance(출처 태깅) → 각 사실에 트리플 출처 URI 부착
↓
검증자가 출처 클릭 → 원본 노드 즉시 확인 가능
↓
오류 발견 시 지식 그래프 노드 수정 → 자동 영향 전파
🔗 Knowledge Connections
- Related Topics: LLM Hallucination (언어 모델 환각), RAG (검색 증강 생성), GraphRAG (그래프 기반 검색 증강 생성), RDF와 OWL, RDF-star (RDF 확장 사양), 지식 그래프 (Knowledge Graph), 온톨로지 (Ontology), Ontology-Guided Knowledge Extraction
- Projects/Contexts: 온톨로지 지식 베이스, AI 신뢰성·투명성, LLM 환각 방지
- Contradictions/Notes:
- Grounding은 LLM 생성 품질을 높이지만, 지식 그래프 자체가 오래되거나 불완전하면 Grounding된 답변도 틀릴 수 있음 (Garbage In, Garbage Out).
- Provenance를 완전히 구현하려면 RDF-star 또는 Named Graph 패턴 필요 → 기존 RDF Reification은 너무 장황.