docs: finalize P-Reinforce wikification and cross-post topics to domain categories

2026-05-01 19:24:16 +09:00
parent 834c3c6d3f
commit e56d8c7cf9
1657 changed files with 48005 additions and 858 deletions
@@ -0,0 +1,39 @@
+# [[Agentic Governance (에이전트 거버넌스)]]
+
+## 📌 Brief Summary
+Agentic Governance는 자율 에이전트 시스템이 조직의 목표와 일치하고, 윤리적 기준을 준수하며, 보안 및 규제 요구사항을 충족하도록 관리하고 감독하는 체계이다. 에이전트의 설계부터 개발, 배포, 그리고 실시간 운영 전 과정에 걸쳐 투명성, 책임성, 신뢰성을 보장하기 위한 정책과 기술적 도구 모음을 포괄한다.
+
+## 📖 Core Content
+*   **거버넌스 3요소**:
+    *   **투명성 (Transparency)**: 에이전트가 왜 그런 결정을 내렸는지(Rationale), 어떤 도구를 썼는지, 어떤 데이터를 참고했는지에 대한 명확한 설명과 로깅 제공.
+    *   **책임성 (Accountability)**: 에이전트의 행동 결과에 대해 책임질 수 있는 주체(인간 관리자, 소유주)를 명확히 하고 감사가 가능한 불변의 로그를 유지.
+    *   **신뢰성 (Reliability)**: 에이전트가 예기치 않은 상황에서도 안전하게 동작하고, 오류 발생 시 즉시 중단되거나 보고되는 안정성 확보.
+*   **거버넌스 프레임워크 (Zoned Governance)**: 에이전트의 역할과 작업의 위험도에 따라 보안 존(Zone)을 나누고, 각 존별로 접근 가능한 데이터와 도구, 요구되는 인간 승인 수준을 차등화한다.
+*   **실시간 정책 강제 (Policy Enforcement)**: 하네스 계층에서 에이전트의 행동을 실시간 모니터링하고, 사전 정의된 규칙(예: 예산 초과, 민감 데이터 접근) 위반 시 즉시 개입한다.
+*   **지속적 평가 및 모니터링**: 에이전트의 성능, 편향성, 보안 취약점을 정기적으로 벤치마킹하고 평가하여 시스템을 지속적으로 개선한다.
+
+## ⚖️ Trade-offs & Caveats
+*   **규제와 혁신의 균형**: 너무 엄격한 거버넌스는 에이전트의 도입 속도와 창의적 활용을 방해할 수 있고, 너무 느슨하면 심각한 비즈니스 및 보안 리스크를 초래한다.
+*   **복잡한 책임 소재**: 여러 에이전트가 협업하여 내린 결정이 잘못되었을 때, 어떤 에이전트 혹은 어떤 설정이 원인이었는지 밝혀내는 것은 기술적으로 매우 어렵다.
+
+## 🔗 Knowledge Connections
+
+### Related Concepts
+*   [[Agentic AI Security]]
+    *   연결 이유: 거버넌스의 핵심적인 하위 목표 중 하나가 보안이다.
+*   [[Agent Harness]]
+    *   연결 이유: 거버넌스 정책이 기술적으로 구현되고 집행되는 물리적 런타임이다.
+*   [[Human-in-the-loop (HITL)]]
+    *   연결 이유: 거버넌스를 실현하기 위해 인간이 개입하는 구체적인 운영 방식이다.
+
+### Deeper Research Questions
+*   에이전트가 조직의 복잡한 비즈니스 로직과 가이드라인을 이해하고 스스로 준수하게 만드는 '규제 준수 프롬프트(Compliance Prompting)'의 효과는 어떠한가?
+*   분산된 다중 에이전트 생태계에서 개별 에이전트의 기여도와 책임 범위를 자동으로 산정하는 거버넌스 알고리즘은 무엇인가?
+*   인공지능의 자율성이 높아짐에 따라 기존의 IT 거버넌스(COBIT, ITIL 등)가 에이전틱 시대에 어떻게 진화해야 하는가?
+
+### Practical Application Contexts
+*   **Implementation:** 하네스에 중앙 집중형 정책 엔진을 연결하여, 모든 에이전트의 행동이 기업의 규범을 준수하는지 런타임에 체크하고 대시보드에 시각화한다.
+*   **System Design:** 에이전트 배포 전 'Governance Audit' 단계를 필수화하여, 권한 설정, 샌드박스 격리 수준, 데이터 접근 범위에 대한 보안 승인을 거치도록 설계한다.
+
+---
+*Last updated: 2026-05-01*
@@ -0,0 +1,38 @@
+# [[Distributed Systems & Reliability (분산 시스템 및 신뢰성)]]
+
+## 📌 Brief Summary
+Distributed Systems & Reliability는 여러 대의 서버나 하네스에 분산되어 작동하는 에이전트 환경에서 시스템의 일관성(Consistency), 가용성(Availability), 그리고 장애 내성(Fault Tolerance)을 보장하기 위한 기술적 체계이다. 에이전트 간의 통신 지연, 네트워크 단절, 혹은 특정 노드의 오류에도 불구하고 시스템 전체가 안정적으로 목표를 달성하게 만드는 신뢰성 공학의 핵심이다.
+
+## 📖 Core Content
+*   **비잔틴 장애 내성 (Byzantine Fault Tolerance)**: 일부 에이전트가 오작동하거나 악의적으로 잘못된 정보를 전달하더라도 전체 시스템이 올바른 합의에 도달할 수 있게 하는 아키텍처.
+*   **상태 일관성 (State Consistency)**: 분산된 메모리 저장소(S-component)들 간에 에이전트의 상태와 작업 결과가 실시간으로 동기화되어 충돌이 발생하지 않도록 관리하는 기법.
+*   **분산 추적 (Distributed Tracing)**: 여러 에이전트와 서비스를 거쳐 발생하는 복잡한 작업 흐름을 하나의 요청 ID로 묶어 가시화하고 병목 지점이나 오류 원인을 파악하는 기술.
+*   **장애 격리 (Fault Isolation)**: 특정 에이전트나 하네스에서 발생한 오류가 전체 워크플로우로 전파되지 않도록 차단(Circuit Breaker)하고 격리하는 전략.
+*   **결정론적 합의 프로토콜**: 비결정적인 LLM의 출력을 결정론적인 분산 시스템의 신호로 변환하여 안정적인 상태 전이를 보장.
+
+## ⚖️ Trade-offs & Caveats
+*   **CAP 정리의 한계**: 분산 시스템에서 일관성(Consistency)을 높이면 가용성(Availability)이나 파티션 내성(Partition Tolerance)이 희생될 수 있다.
+*   **통신 오버헤드**: 에이전트 간의 동기화와 합의 과정에서 발생하는 네트워크 메시지가 시스템의 전체 지연 시간(Latency)을 증가시킨다.
+*   **복잡한 운영**: 수많은 분산 노드와 상태를 모니터링하고 관리하는 인프라 운영 비용이 높다.
+
+## 🔗 Knowledge Connections
+
+### Related Concepts
+*   [[Agentic Orchestration]]
+    *   연결 이유: 분산된 에이전트들을 조율하는 상위 논리 계층이다.
+*   [[Agent Identity Management]]
+    *   연결 이유: 분산 환경에서 각 노드의 신원을 확인하고 권한을 부여하는 기초이다.
+*   [[Governance & Reliability]]
+    *   연결 이유: 시스템의 신뢰성을 확보하기 위한 거버넌스의 기술적 구현체이다.
+
+### Deeper Research Questions
+*   에이전트의 '추론 결과'에 대해 다수의 에이전트가 합의를 도출할 때, 단순 다수결을 넘어선 '논리적 합산' 알고리즘은 무엇인가?
+*   네트워크 단절 상황에서도 에이전트가 로컬에서 자율적으로 판단을 내리고, 나중에 연결되었을 때 상태를 병합하는 '충돌 해결 전략'은 어떻게 설계해야 하는가?
+*   분산 에이전트 환경에서 전체 시스템의 안정성을 실시간으로 채점하는 '신뢰도 메트릭'은 무엇인가?
+
+### Practical Application Contexts
+*   **Implementation:** 에이전트 간 메시지 전달을 위해 RabbitMQ나 Kafka와 같은 안정적인 메시지 큐를 사용하고, 각 메시지에 분산 추적용 헤더(Trace ID)를 포함시킨다.
+*   **System Design:** 전 세계에 분산된 서버에서 에이전트를 실행할 때, 사용자와 가장 가까운 위치(Edge)에서 추론을 수행하고 결과만 중앙으로 동기화하는 에지 컴퓨팅 아키텍처를 도입한다.
+
+---
+*Last updated: 2026-05-01*
@@ -0,0 +1,41 @@
+# [[Self-verification (자가 검증)]]
+
+## 📌 Brief Summary
+Self-verification(자가 검증)은 AI 에이전트가 작업을 마친 후 혹은 실행 도중에 자신의 출력물이나 행동 결과가 요청된 요구사항을 충족했는지, 오류는 없는지 스스로 검토하고 수정하는 프로세스이다. 모델의 확률론적 한계를 극복하고 결과물의 신뢰성을 높이기 위한 핵심적인 기법으로, 에이전트 하네스의 V-component와 E-component가 협업하여 수행한다.
+
+## 📖 Core Content
+*   **검증 메커니즘 (Verification Loops)**:
+    *   **자기 비판 (Self-critique)**: 모델에게 "네 답변을 다시 읽고 오류를 찾아봐"라고 요청하여 논리적 허점을 발견하게 함.
+    *   **정적 분석 통합**: 에이전트가 생성한 코드를 Linter나 컴파일러를 통해 실행해보고, 발생한 에러를 피드백으로 활용.
+    *   **단위 테스트 실행**: 에이전트가 스스로 테스트 코드를 작성하고 실행하여 기능의 정상 작동 여부를 확인.
+    *   **근거 대조 (Evidence Grounding)**: 생성된 정보가 메모리(Evidence Memory) 내의 실제 데이터와 일치하는지 교차 검증.
+*   **PEV (Plan-Execute-Verify) 루프**: 작업을 기획(Plan), 실행(Execute)한 후 반드시 검증(Verify) 단계를 거치도록 워크플로우를 구조화하여 검증 누락을 방지한다.
+*   **평가자 에이전트 (Evaluator Agent)**: 생성 모델과 별개로 검증만을 전담하는 독립적인 에이전트를 두어 '자기 확증 편향'을 최소화하고 객관성을 확보한다.
+*   **결정론적 피드백**: 모델의 추론에만 의존하지 않고, 실제 실행 결과(Success/Failure)나 외부 툴의 출력값을 최종 검증의 잣대로 삼는다.
+
+## ⚖️ Trade-offs & Caveats
+*   **자기 확증 편향**: 모델은 자신이 만든 결과물을 옳다고 믿으려는 경향이 있어, 단순한 프롬프트만으로는 심각한 오류를 놓칠 수 있다.
+*   **비용과 지연 시간**: 매 작업마다 검증 루프를 돌리면 토큰 소모량이 2~3배로 늘어나고 시스템 반응 속도가 저하된다.
+*   **둠 루프 (Doom Loop)**: 에이전트가 오류를 고치지 못하고 동일한 검증 실패를 무한 반복하며 루프에 갇힐 위험이 있다.
+
+## 🔗 Knowledge Connections
+
+### Related Concepts
+*   [[V-component (Evaluation Interface)]]
+    *   연결 이유: 자가 검증이 실질적으로 구현되는 하네스의 구성 요소이다.
+*   [[Reflexion]]
+    *   연결 이유: 실패로부터 배우고 스스로를 수정하는 상위 개념의 프레임워크이다.
+*   [[Context Attention Decay]]
+    *   연결 이유: 장기 작업 시 에이전트가 검증 규칙을 잊어버리게 만드는 원인이다.
+
+### Deeper Research Questions
+*   '검증의 깊이'를 작업의 중요도에 따라 동적으로 조절하여 비용 효율성을 극대화하는 스케줄링 전략은 무엇인가?
+*   인간의 피드백(HITL)이 적은 상황에서 자동화된 자가 검증만으로 소프트웨어 수준의 안정성을 보장할 수 있는가?
+*   검증 실패 시 에이전트에게 제공하는 '피드백의 구체성'이 자가 수정(Self-correction) 성공률에 미치는 영향은 어떠한가?
+
+### Practical Application Contexts
+*   **Implementation:** `agent.run()` 메서드 마지막에 반드시 `agent.verify()`를 호출하도록 강제하고, 검증 실패 시 최대 N회까지 `agent.fix()`를 시도하게 한다.
+*   **System Design:** 코딩 에이전트 파이프라인에서 'Generator 에이전트'와 'Reviewer 에이전트'를 분리하여 서로의 결과물을 비판하게 만드는 GAN 스타일의 협업 체계를 구축한다.
+
+---
+*Last updated: 2026-05-01*