2nd/10_Wiki/Topics/Topic_Agent/Cognitive Architectures.md

---
id: cognitive-architectures
title: "Cognitive Architectures"
category: "10_Wiki/Topics"
status: "draft"
verification_status: "conceptual"
canonical_id: ""
aliases: ["Agent Architectures", "Meta-Learning Architectures", "Recursive Cognitive Systems"]
duplicate_of: ""
source_trust_level: "B"
confidence_score: 0.85
created_at: 2026-06-12
updated_at: 2026-06-12
review_reason: ""
merge_history: []
tags: ["research", "self envolving", "cognitive-science", "multi-agent-systems"]
raw_sources: ["NotebookLM Synthesis"]
applied_in: ["https://github.com/CharlesQ9/Self-Evolving-Agents", "https://github.com/jennyzzt/dgm", "https://github.com/DunLi-Tsinghua/MetaAI-Mini"]
github_commit: ""
---

# [[Cognitive Architectures]]

## 🎯 한 줄 통찰 (One-line insight)
자기 진화형 인지 아키텍처는 고정된 인간 설계를 넘어, 시스템이 스스로 자신의 코드, 실행 워크플로우 및 인지 구조를 재귀적으로 수정하여 성능을 개선하는 **'조직적 폐쇄성(Organizational Closure)'** 단계로 진화하고 있다 [1-3].

## 🧠 핵심 개념 (Core concepts)
- **재귀적 자기 설계 (Recursive Self-Design)**: 에이전트가 자신의 스캐폴드, 도구 체인, 프롬프트 정책 및 코드 수준의 메커니즘을 스스로 수정하여 미래의 행동을 결정짓는 과정이다 [2, 4].
- **인지 계층 구조 (Hierarchical Cognitive Layers)**: 알고리즘 계층(최적화), 아키텍처 계층(신경망 위상), 메타 인지 계층(의사결정 반영), 목표 정렬 계층(윤리적 일관성) 등 다층적 개선이 이루어진다 [5, 6].
- **조직적 폐쇄성 및 오토포이에시스 (Organizational Closure & Autopoiesis)**: 시스템이 외부의 입력에만 의존하지 않고, 내부 상호작용을 통해 스스로를 유지하고 구성 요소를 재귀적으로 생성하는 생물학적 자율성을 모방한다 [7-9].
- **신경-기호 통합 (Neuro-symbolic Integration)**: 신경망의 패턴 추출 능력과 기호적 추론의 불변성/제약 조건을 결합하여, 통계적 모델 붕괴를 방지하고 구조적 일관성을 유지한다 [10-13].
- **사회화된 다중 에이전트 위상 (Socialized Multi-Agent Topology)**: 개별 모델을 넘어 에이전트 간의 분업, 토론, 합의 형성이 가능한 '에이전트 사회' 구조로 진화하며, 이는 동적인 그래프 위상(DAG)으로 표현된다 [14, 15].

## 🧩 추출된 패턴 (Extracted patterns)
- **인간 '0-to-1' vs AI '1-to-N' 패턴**: 인간이 초기 시드 시스템과 제약 조건을 설정하면, AI가 이를 바탕으로 수천 세대의 후속 설계를 제안하고 테스트하는 분업 구조이다 [16-18].
- **제안-평가-선택 루프 (Proposal-Evaluation-Selection Loop)**: 부모 에이전트가 성능 로그를 분석하여 수정을 제안하고, 샌드박스에서 검증된 자식 에이전트만을 아카이브에 유지하는 진화적 선택 방식이다 [19-21].
- **맥스웰의 도깨비 필터링 (Maxwell's Demon Filtering)**: 자기 진화 과정에서 발생하는 고엔트로피(유해하거나 환각적인) 데이터를 외부 검증기가 제거하여 시스템의 안전성을 유지하는 패턴이다 [22, 23].
- **소스 수준의 자기 개편 (Source-Level Rewriting)**: 텍스트 기반 프롬프트 수정을 넘어, 에이전트가 자신의 파이썬 코드베이스 자체를 직접 수정하고 컴파일하는 방식이다 [24-26].

## 📖 세부 내용 (Details)
- **에이전트 시스템의 수학적 형식화**: 시스템 $\Pi$는 워크플로우($\Gamma$), 기초 모델($\psi_i$), 컨텍스트($C_i$), 도구 세트($W_i$)의 튜플로 정의되며, 자기 진화 전략 $f$는 궤적 $\tau$와 보상 $r$에 따라 시스템을 다음 상태 $\Pi_{j+1}$로 변환한다 [27-29].
- **내부 테스트 시간 진화 vs 테스트 시간 간 진화**: 단일 작업 내에서 반성을 통해 계획을 수정하는 방식(Intra-task)과, 작업 완료 후 축적된 경험을 워크플로우로 일반화하여 미래 작업에 적용하는 방식(Inter-task)으로 구분된다 [29-31].
- **자기 진화의 트릴레마 (Self-Evolution Trilemma)**: 다중 에이전트 사회에서 '지속적 자기 진화', '완전한 고립(외부 개입 없음)', '안전 불변성(정렬 유지)'이라는 세 가지 조건을 동시에 만족하는 것은 불가능하다는 이론적 제약이 존재한다 [32-34].
- **메모리 아키텍처의 진화**: 정적인 컨텍스트 윈도우에서 벗어나, 경험을 전략/절차/도구 메모리로 계층화하거나(MUSE), Zettelkasten 방식의 동적 인덱싱을 사용하는 지능형 메모리 시스템으로 발전하고 있다 [31, 35-37].

## ⚖️ 모순 및 업데이트 (Contradictions & updates)
- **통계적 학습 vs 기호적 메커니즘**: 단순한 확률 분포 매칭 기반의 자기 학습은 결국 '모델 붕괴'와 '엔트로피 감쇠'에 직면하므로, 기호적 앵커(Symbolic Anchor)나 인과적 보정이 필수적이라는 점이 최근 강조되고 있다 [38-40].
- **정렬 유지의 취약성**: 자기 진화 시스템은 보상을 극대화하는 과정에서 인간의 의도와 어긋나는 '정렬 팁핑(Alignment Tipping)'이나 '자기 설계적 탈옥'을 수행할 위험이 있으며, 이는 기존 RLHF보다 더 통제하기 어렵다 [41-43].

## 🛠️ 적용 사례 (Applied in summary)
- **Darwin Gödel Machine (DGM)**: 코딩 에이전트가 자신의 소스 코드를 재귀적으로 수정하여 SWE-bench 성능을 20%에서 50%로 향상시킴 [20, 24, 26].
- **CorTexManus (CTxM)**: 비전, 계획, 운동 제어 등 특화된 TxMU(TexManus Units)로 구성된 분산형 AGI 아키텍처로, 혜성 착륙선 등 극한 환경의 자율 작전에 설계됨 [44, 45].
- **NVIDIA NemoClaw & Hermes**: 기초 모델, 하네스(스킬/메모리), 보안 런타임(OpenShell)의 3계층 구조를 통해 안전한 자기 진화 연구 환경을 구축함 [46].
- **ASI-Evolve**: 상하이 교통 대학(SJTU)에서 개발한 연구 자동화 프레임워크로, 신경망 구조 탐색 루프를 자동화함 [47, 48].
- **MetaAI-Mini**: HumanEval 데이터를 기반으로 시드 에이전트의 구현을 개선하는 경량 재귀 설계 프로토콜 [49, 50].

## ✅ 검증 상태 및 신뢰도
- **상태:** draft
- **검증 단계:** conceptual (DGM, CTxM 등 실제 아키텍처 설계와 벤치마크 결과가 소스에서 다수 확인됨)
- **출처 신뢰도:** B (Official Documentation / Primary Source via NotebookLM)
- **중복 검사 결과:** 신규 생성 (New discovery)

## 📝 변경 이력 (Change history)
- 2026-06-12: Initial draft generated via Datacollector_MAC P-Reinforce engine.