Awareness gap은 "실제로 모르는 것"과 "모른다고 인지하는 것" 사이의 간극이다. 위험한 것은 모름 자체가 아니라 모르면서 안다고 착각하는 상태이며, AI 시스템의 환각(hallucination)은 이 갭의 기계적 발현이다.
🧠 핵심 개념 (Core concepts)
Unknown unknowns: 모른다는 사실조차 모르는 영역. 인지하면(known unknown) 질문하거나 조사하면 되지만, 인지하지 못하면 그럴듯한 추측이 사실로 둔갑한다.
더닝-크루거 효과: 능력이 낮을수록 자신의 부족함을 인지하지 못하는 심리학적 현상 — 사람에게 나타나는 awareness gap의 한 단면.
LLM에서의 구조적 원인: LLM은 "다음에 올 가장 그럴듯한 말"을 생성하므로 근거가 없을 때도 유창하고 확신에 찬 문장이 나온다. 확신도와 정확도가 분리되어 있어, 모델 스스로는 갭을 감지할 신호가 없다.
시스템적 해법: 모델이 못 하므로 시스템이 바깥에서 ① 근거를 측정하고 ② 약하면 "모름/추정"을 강제 표명시키고 ③ 공백을 기록해 나중에 채운다.
🧩 추출된 패턴 (Extracted patterns)
측정 → 고백 → 기록 → 해소: awareness gap 관리의 4단계. 측정 없는 고백은 불가능하고, 기록 없는 해소는 일회성이다.
갭 관리 = 신뢰성의 핵심: 환각방지·출처표기·확신도·에스컬레이션은 전부 같은 문제(이 갭)를 다른 각도에서 공략하는 것.
📖 세부 내용 (Details)
ASTRA에서의 구현 (이 개념이 실제로 동작하는 곳)
단계
메커니즘
위치
측정
[GROUNDING] 블록 — 매 질의의 두뇌 근거 강도(강함/보통/약함)를 검색 점수로 판정
memoryContext
고백
약함이면 답변 첫 줄 "⚠️ 두뇌 근거 약함 — 추정입니다" 표기 강제 + 단정 금지
GROUNDING 정책
구제
약함 + agent scope 적용 중이면 전체 두뇌로 1회 재검색 (scope가 정답을 가리는 경우)
Correction Loop ③-a
기록
그래도 약하면 학습 큐에 지식 공백 자동 proposed 등록 (.astra/growth/learning-queue.json)
Correction Loop ③-b
해소
사람이 approved로 승인 → 주간 성장 사이클의 Research Agent가 학습 실행해 두뇌 보강
growthCycle
관련 갭: 능력의 자기 인지
지식만이 아니라 자기 실수 패턴의 인지도 같은 구조다. ASTRA의 Correction Loop는 사용자 정정을 오류 유형별로 태깅해 약점 프로필(weakness-profile.json)을 만들고, 반복 약점을 [자기검토] 블록으로 주입한다 — "내가 어떤 실수를 자주 하는지 모르는 갭"의 해소.
⚖️ 모순 및 업데이트 (Contradictions & updates)
"확신 있는 답 = 좋은 답"이라는 직관은 LLM에서 성립하지 않는다 — 확신도와 정확도가 분리되어 있으므로, 근거 표기가 없는 확신은 오히려 경계 신호다.
