Agent Context & Memory Management (에이전트 컨텍스트 및 메모리 관리)

📌 Brief Summary

에이전트 컨텍스트 및 메모리 관리는 상태 비저장(Stateless) 구조인 LLM이 장기적인 작업 목표를 잃지 않고, 수천 단계의 복잡한 추론 과정을 지속할 수 있게 돕는 핵심 기술이다. 이는 유한한 Context Window (컨텍스트 윈도우) 내에서 최적의 정보를 유지하는 **Context Engineering**과, 세션 종료 후에도 상태를 보존하는 State Persistence 전략으로 구성된다.

📖 Core Content

1. 컨텍스트 라이프사이클 관리

Context Engineering (컨텍스트 엔지니어링): 제한된 토큰 예산 내에서 에이전트에게 가장 필요한 데이터(파일 스냅샷, 도구 로그, 지침)를 동적으로 선택하고 주입하는 기술.
Context Compaction (컨텍스트 압축): 누적된 대화 이력과 도구 출력값을 요약하거나 핵심 정보만 추출하여 토큰 소모를 줄이고 모델의 인지 부하를 완화하는 과정.
Context Rot (컨텍스트 퇴화): 윈도우가 가득 차면서 중요한 초기 지시사항이나 제약 조건을 망각하는 현상. 이를 방지하기 위해 시스템 프롬프트의 고정(Pinning)과 주기적 재주입이 필요하다.

2. 메모리 아키텍처 (Short-term & Long-term)

단기 기억 (Working Memory): 현재 세션의 컨텍스트 윈도우 내에 존재하는 정보. 즉각적인 추론과 행동의 근거가 된다.
장기 기억 (Persistent Memory): 파일 시스템(MEMORY.md, LOG.md)이나 벡터 데이터베이스에 저장된 영구 기록. 세션이 재시작되어도 에이전트가 이전 진행 상황을 복구할 수 있게 한다.
State Persistence (상태 지속성): 에이전트의 현재 작업 단계, 변수, 계획을 구조화된 데이터(JSON/Markdown)로 저장하여 장애 발생 시에도 체크포인트에서 재개할 수 있는 능력.

3. 초기화-실행자 분리 (Initializer-Executor Split)

복잡한 프로젝트 수행 시, 초기화 에이전트가 환경과 계획을 수립하고 실행자 에이전트가 이를 넘겨받아 수행하는 아키텍처. 에이전트 간의 '지식 핸드오버(Knowledge Handoff)'를 통해 대규모 작업을 완수한다.

⚖️ Trade-offs & Caveats

압축 vs 출처 유실: 컨텍스트를 요약하면 효율성은 높아지지만, 정보의 원래 출처(Data Lineage)와 세부 맥락이 유실될 위험이 있다.
좀비 메모리 (Zombie Memory): 낡고 잘못된 정보가 메모리에 남아 에이전트의 판단을 흐리게 하는 현상. 정기적인 메모리 무효화(Invalidation) 정책이 필수적이다.
비용과 지연 시간: 메모리 시스템이 복잡해질수록(벡터 검색, 자동 요약 등) API 비용과 추론 지연 시간이 증가한다.

🔗 Knowledge Connections

Agent Harness (에이전트 하네스): 메모리와 컨텍스트를 물리적으로 관리하고 모델에 주입하는 런타임 제어 계층.
RAG (Retrieval-Augmented Generation): 방대한 장기 기억 중 필요한 부분만 검색하여 단기 기억으로 불러오는 기술.
Filesystem: 에이전트가 상태를 영구 기록하고 세션 간 공유 원장으로 사용하는 가장 근본적인 저장소.

Deeper Research Questions

상태 지속성을 위해 요약(Compaction)을 수행할 때, 데이터의 무결성과 계보(Lineage)를 완벽하게 유지하는 알고리즘은 무엇인가?
다중 에이전트 환경에서 공유 상태(Shared State)의 충돌(Race Condition)을 방지하기 위한 하네스 수준의 락(Lock) 메커니즘 설계 방안은?

Last updated: 2026-05-05

3.8 KiB Raw Blame History