---
id: aitrain-verification-layer
title: "AITRAIN 검증 레이어"
category: "AI_Training"
status: "draft"
verification_status: "applied"
canonical_id: ""
aliases: ["AI training verification", "검증 학습 추출", "환각 방지 원리", "critic 원리"]
duplicate_of: ""
source_trust_level: "A"
confidence_score: 0.9
created_at: 2026-06-13
updated_at: 2026-06-13
review_reason: ""
merge_history: []
tags: ["ai-training", "verification", "hallucination", "transferable", "connectai"]
raw_sources: ["ConnectAI/src/intelligence/confidenceEngine.ts", "ConnectAI/src/intelligence/criticAgent.ts", "ConnectAI/src/intelligence/epistemicGuardBlock.ts", "ConnectAI/src/intelligence/correctionLoop.ts"]
applied_in: ["ConnectAI"]
github_commit: ""
---

# [[AITRAIN 검증 레이어]]

## 🎯 한 줄 통찰 (One-line insight)
LLM 검증의 전이 원리는 "저렴한 결정론 검사는 항상, 비싼 LLM 검수는 조건부; 모름 인정을 보상; 사용자 정정을 학습으로 환원" 이다 — 구현은 [[Intelligence 검증 레이어]], 결정 근거는 [[ADR-0009 결정론 항상 LLM검증 조건부]].

## 📖 세부 내용 (Details · 8-field 추출)
- **Concept:** 답변의 신뢰도를 측정/억제/검수/학습하는 다단 안전망.
- **Implementation:** Epistemic Guard(사전 프롬프트 억제)+Confidence Engine(결정론 0~100)+Critic(조건부 1-pass LLM)+Correction Loop(정정→레슨→약점프로필→프롬프트).
- **Design Reasoning:** 작은 모델은 환각이 잦고 매 턴 LLM 검수는 비싸다 → 결정론으로 거르고 위험 시만 LLM. "모름>그럴듯한 오답".
- **Tradeoffs:** 낮은 latency ↔ 임계 오설정 위험·휴리스틱 가중치.
- **Failure Modes:** 임계 미탐/오탐, JSON 파싱 실패, 정정 오탐 노이즈, 모델 교체 후 신호 분포 변화.
- **Debugging Strategy:** 확신도 factor 분해, 검색 청크 수, Critic 발동 여부, raw 응답.
- **Improvement Ideas:** 골든셋 가중치 학습, 다회전 debate, 전용 검증 모델, 정정 감지 정교화.
- **Reusable Principles:** ① 검증은 *계층화* 하라(사전/측정/사후/학습). ② 비용은 위험에 비례 배분(조건부). ③ 불확실성을 *드러내는* 답을 보상. ④ 사용자 피드백 1회를 *시스템 변화* 로 자동 환원. ⑤ LLM 출력은 *파서로 방어*(형식만 믿지 마라).

## 🔗 지식 그래프 (Knowledge Graph)
- **상위/루트:** [[ConnectAI 아키텍처 개요]]
- **관련 개념:** [[Critic Pattern]], [[Reflection Pattern]], [[프롬프트 엔지니어링 패턴]], [[프로젝트 독립 설계 원칙]]
- **참조 맥락:** 작은 모델이 자기검증/피드백 학습을 다른 프로젝트에 적용할 때 원리로 전이.

## 📚 출처 (Sources)
- [S1] ConnectAI/src/intelligence/confidenceEngine.ts, criticAgent.ts, epistemicGuardBlock.ts, correctionLoop.ts

## 📝 변경 이력 (Change history)
- 2026-06-13: AI 학습용 지식 추출 초안.
