Antigravity Agent
101 lines
4.8 KiB
Markdown
101 lines
4.8 KiB
Markdown
Semantic Grounding (의미적 접지) & Provenance (출처 역추적)
|
|
|
|
📌 Brief Summary
|
|
|
|
Semantic Grounding(의미적 접지)은 LLM의 생성 답변을 검증된 지식 그래프·온톨로지의 사실에 물리적으로 연결하여 환각을 방지하는 기법이다. Provenance(출처 역추적)는 AI가 생성한 답변의 각 사실이 어느 노드·트리플에서 유래했는지 추적하여 신뢰성과 투명성을 보장하는 메커니즘이다.
|
|
|
|
---
|
|
|
|
📖 Core Content
|
|
|
|
## 1. Semantic Grounding (의미적 접지)
|
|
|
|
### 문제 정의
|
|
- **기존 LLM**: 학습 데이터의 통계적 패턴으로 텍스트 생성 → "그럴듯한" 내용이지만 사실 검증 없음.
|
|
- **Grounding 목표**: LLM의 출력이 반드시 검증된 외부 지식 베이스의 사실에 "접지(anchored)"되도록 강제.
|
|
|
|
### 핵심 메커니즘
|
|
|
|
```
|
|
[LLM 답변 생성 요청]
|
|
↓
|
|
[Grounding 레이어]
|
|
1. 질의에서 핵심 엔티티 추출
|
|
2. 지식 그래프에서 해당 엔티티의 사실 검색
|
|
3. 검색된 사실(트리플)을 LLM 프롬프트에 주입
|
|
↓
|
|
[LLM이 접지된 사실 기반으로만 답변 생성]
|
|
↓
|
|
[결과] 환각 40% 이상 감소, 팩트 기반 정확한 답변
|
|
```
|
|
|
|
### Grounding 방식 분류
|
|
|
|
| 방식 | 설명 | 장단점 |
|
|
|------|------|--------|
|
|
| **KG Grounding** | 지식 그래프 트리플을 프롬프트에 직접 주입 | 정확성 ↑, 구축 비용 ↑ |
|
|
| **RAG Grounding** | 외부 문서 검색 후 컨텍스트 주입 | 구축 용이, 정확성 KG보다 낮음 |
|
|
| **Ontology-Guided** | 온톨로지 스키마를 프롬프트에 포함, 제약 내에서만 생성 | 정밀, 도메인 전문성 필요 |
|
|
|
|
---
|
|
|
|
## 2. Provenance (출처 역추적)
|
|
|
|
### 정의
|
|
AI가 생성한 답변의 각 사실이 **어느 지식 그래프 노드·트리플·문서에서 유래했는지** 추적 가능하게 만드는 투명성 메커니즘.
|
|
|
|
### 왜 중요한가? (인과관계)
|
|
- **원인**: LLM은 답변 생성 시 어떤 학습 데이터에서 정보를 가져왔는지 알 수 없음.
|
|
- **문제**: 답변이 틀렸을 때 어디가 잘못됐는지 추적 불가 → "블랙박스" 문제.
|
|
- **Provenance 도입 효과**: 각 사실에 출처 URI/트리플 링크 부착 → 틀린 정보의 원천 즉시 파악 → 지식 그래프 수정·업데이트 가능.
|
|
|
|
### RDF에서의 Provenance 표현
|
|
|
|
**전통적 방식 (Reification, 장황):**
|
|
```turtle
|
|
ex:Statement1 rdf:type rdf:Statement ;
|
|
rdf:subject ex:홍길동 ;
|
|
rdf:predicate ex:직업 ;
|
|
rdf:object ex:의사 ;
|
|
ex:출처 ex:서울대병원DB ; # 메타데이터 추가
|
|
ex:확인날짜 "2026-04-15" . # 메타데이터 추가
|
|
```
|
|
|
|
**RDF-star 방식 (간결):**
|
|
```turtle
|
|
<<ex:홍길동 ex:직업 ex:의사>> ex:출처 ex:서울대병원DB ;
|
|
ex:확인날짜 "2026-04-15" .
|
|
```
|
|
|
|
### 실용적 활용 시나리오
|
|
|
|
| 시나리오 | Provenance 역할 |
|
|
|---------|----------------|
|
|
| **의료 AI 진단** | 진단 근거가 어느 논문/임상 데이터에서 왔는지 의사에게 제시 |
|
|
| **금융 규제 준수** | 규정 위반 판단의 근거 조항 자동 링크 제공 |
|
|
| **법률 AI** | 판결 예측의 근거 판례 출처 자동 인용 |
|
|
|
|
---
|
|
|
|
## 3. Grounding & Provenance 결합 효과
|
|
|
|
```
|
|
지식 그래프(사실) + Grounding(연결) → LLM 답변 생성
|
|
↓
|
|
Provenance(출처 태깅) → 각 사실에 트리플 출처 URI 부착
|
|
↓
|
|
검증자가 출처 클릭 → 원본 노드 즉시 확인 가능
|
|
↓
|
|
오류 발견 시 지식 그래프 노드 수정 → 자동 영향 전파
|
|
```
|
|
|
|
---
|
|
|
|
🔗 Knowledge Connections
|
|
|
|
- **Related Topics:** [[LLM Hallucination (언어 모델 환각)|LLM Hallucination (언어 모델 환각)]], [[RAG (검색 증강 생성)|RAG (검색 증강 생성)]], [[GraphRAG (그래프 기반 검색 증강 생성)|GraphRAG (그래프 기반 검색 증강 생성)]], [[RDF와 OWL|RDF와 OWL]], [[RDF-star (RDF 확장 사양)|RDF-star (RDF*)]], [[지식 그래프 (Knowledge Graph)|지식 그래프 (Knowledge Graph)]], [[온톨로지 (Ontology)|온톨로지 (Ontology)]], [[Ontology-Guided Knowledge Extraction|Ontology-Guided Knowledge Extraction]]
|
|
- **Projects/Contexts:** [[온톨로지 지식 베이스|온톨로지 지식 베이스]], AI 신뢰성·투명성, LLM 환각 방지
|
|
- **Contradictions/Notes:**
|
|
- Grounding은 LLM 생성 품질을 높이지만, 지식 그래프 자체가 오래되거나 불완전하면 Grounding된 답변도 틀릴 수 있음 (Garbage In, Garbage Out).
|
|
- Provenance를 완전히 구현하려면 RDF-star 또는 Named Graph 패턴 필요 → 기존 RDF Reification은 너무 장황.
|