koriweb
7d6b8b509f
v2.2.311 — 응답 지연 (실측: 출력 22토큰에 94.7초, 원인은 매 턴 13k+ 토큰 전체 재프리필) - KV 캐시 친화 프롬프트 분리(kvCachePromptSplit, 기본 ON): message[0]을 불변 정적 본문으로 고정, 날짜/RAG/[CONTEXT]/동적 블록을 마지막 user 메시지 직전의 internal system 메시지로 이동 — llama.cpp prompt cache 프리픽스 재사용으로 턴당 재프리필을 "직전 교환 + 동적 컨텍스트"로 축소. truncation 도 tail 적용. - 검색 토큰 예산 현실화(retrievalTokenBudget, 0=자동): 창의 25%(8k~80k) → 12%(2.5k~6k 클램프). - continuation 은 depth-0 memoryCtx 재사용: 라운드당 재검색 3~8초 제거 + 빈 쿼리 재검색으로 청크가 갈리던 문제 제거 + 턴 내 프롬프트 안정화. - 제2뇌 상주 캐시(신규 brainWatch.ts): 재귀 fs.watch 세대 카운터로 변경 없으면 디렉터리 워크·파일별 statSync 전면 생략. 수정 직후 3초 창은 신뢰 제외(이벤트 지연 레이스 가드), 워처 불가 시 종전 폴백, 활성화 시 백그라운드 워밍, 유휴 해제 30분→2시간. v2.2.312 — 보고 품질 (실사례: "## 4."부터 시작하는 7줄 일반론 보고서) - 중간 라운드 본문 표시 버그 수정: 액션과 함께 작성된 섹션(1~3)이 화면에 한 번도 안 나가고 최종 라운드만 표시되던 근본 원인 제거 — stripForDisplay.ts 로 액션 태그만 걷어내고 라운드 순서대로 버블에 표시. - '분석 보고' 업무 유형 신설(requirementGraph): 보고 개요(첫 줄 자기선언)·파일 근거(주장마다 실제 읽은 파일 인용, 일반론 금지)·구조·발견·다음 단계 강제, 유형 감지 시 "최대 3섹션" 규칙보다 필수 요소 커버 우선. - 근거 없는 분석 감지: 파일을 읽고도 인용 2개 미만인 장문 분석에 "근거 인용 없음" footer 경고 (헛조사 감지의 반대 방향). 검증: 전체 테스트 954건 통과(신규 28), tsc 무오류, vsix 패키징·설치 확인. Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
61 lines
2.8 KiB
TypeScript
61 lines
2.8 KiB
TypeScript
/**
|
|
* [v2.2.311] KV 캐시 친화 프롬프트 분리 — 정적/동적 경계 계약.
|
|
*
|
|
* 정적 프롬프트(getStaticSystemPrompt)에 분 단위 시각 같은 가변 요소가 섞이는 순간
|
|
* llama.cpp prompt cache 는 요청 첫 토큰부터 무효화된다 (실측: 13k 토큰 전체 재프리필
|
|
* ≈ 90초/턴). 이 테스트는 그 회귀를 막는 가드레일이다.
|
|
*/
|
|
import { getStaticSystemPrompt, getDateTimeContextBlock, getSystemPrompt } from '../src/utils';
|
|
import { buildAstraModeSystemPrompt } from '../src/agent/handlePrompt/buildAstraModeSystemPrompt';
|
|
|
|
describe('정적/동적 시스템 프롬프트 분리', () => {
|
|
test('정적 프롬프트에는 날짜/시각이 없다 (캐시 무효화 가드)', () => {
|
|
const s = getStaticSystemPrompt();
|
|
expect(s).not.toContain('[CURRENT DATE/TIME]');
|
|
// 오늘 날짜 문자열이 어떤 형태로도 들어있으면 안 된다.
|
|
const iso = new Date().toISOString().split('T')[0];
|
|
expect(s).not.toContain(iso);
|
|
});
|
|
|
|
test('정적 프롬프트는 연속 호출에서 동일하다 (프리픽스 불변)', () => {
|
|
expect(getStaticSystemPrompt()).toBe(getStaticSystemPrompt());
|
|
});
|
|
|
|
test('날짜 블록은 오늘 날짜를 포함한다', () => {
|
|
const block = getDateTimeContextBlock();
|
|
expect(block).toContain('[CURRENT DATE/TIME]');
|
|
expect(block).toContain(new Date().toISOString().split('T')[0]);
|
|
});
|
|
|
|
test('레거시 getSystemPrompt 는 정적 본문 + 날짜 블록을 모두 포함 (호환)', () => {
|
|
const s = getSystemPrompt();
|
|
expect(s).toContain('[CURRENT DATE/TIME]');
|
|
expect(s).toContain('[출력 위생 규칙 — 반드시 준수]');
|
|
});
|
|
|
|
test('빌더에 systemPrompt="" 를 넘겨도 [CONTEXT] 골격은 유지된다 (tail 생성 경로)', () => {
|
|
const tail = buildAstraModeSystemPrompt({
|
|
prompt: '질문',
|
|
systemPrompt: '',
|
|
modeBridgeCtx: '',
|
|
priorConclusionCtx: '',
|
|
designerCtx: '',
|
|
projectArchitectureCtx: '',
|
|
secondBrainTraceCtx: '',
|
|
memoryCtx: 'RAG 본문',
|
|
knowledgeContextForPrompt: '',
|
|
contextBlock: '열린 파일 내용',
|
|
negativeCtx: '',
|
|
isCasualConversation: false,
|
|
localPathContext: '',
|
|
knowledgeMix: null,
|
|
dynamicBlocks: new Map([['behavior-constraints', '[GROUNDING] 근거 강도: 보통']]),
|
|
});
|
|
expect(tail).toContain('[CONTEXT]');
|
|
expect(tail).toContain('RAG 본문');
|
|
expect(tail).toContain('열린 파일 내용');
|
|
expect(tail).toContain('[GROUNDING]');
|
|
expect(tail.startsWith('You are Astra')).toBe(false); // 정적 본문이 섞이면 안 됨
|
|
});
|
|
});
|