docs: finalize P-Reinforce wikification and cross-post topics to domain categories
This commit is contained in:
Antigravity Agent
@@ -1,5 +1,5 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-EB3F3C
|
||||
id: [[P-Reinforce]]-AUTO-EB3F3C
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced]
|
||||
@@ -10,17 +10,17 @@ github_commit: "[P-Reinforce] Continuous Worker - 20k skinned instances demo"
|
||||
# [[20k skinned instances demo]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> '20k skinned instances demo'는 Three.js 기반의 오픈 소스 라이브러리인 InstancedMesh2를 활용하여 20,000개의 개별적인 스킨드 인스턴스(Skinned instances)를 동시에 렌더링하는 성능 최적화 데모입니다 [1, 2]. 이 데모는 모바일 기기에서도 3,000개의 인스턴스를 원활하게 구동할 수 있도록 설계되었습니다 [2]. 프러스텀 컬링, 거리 기반 애니메이션 프레임 조절, 다중 LOD(Level of Detail) 생성 등 다양한 최적화 기법을 적용하여 단 5번의 드로우 콜만으로 렌더링을 처리하는 것이 특징입니다 [2, 3].
|
||||
> '20k skinned instances demo'는 Three.js 기반의 오픈 소스 라이브러리인 [[InstancedMesh2]]를 활용하여 20,000개의 개별적인 스킨드 인스턴스(Skinned instances)를 동시에 렌더링하는 성능 최적화 데모입니다 [1, 2]. 이 데모는 모바일 기기에서도 3,000개의 인스턴스를 원활하게 구동할 수 있도록 설계되었습니다 [2]. 프러스텀 컬링, 거리 기반 애니메이션 프레임 조절, 다중 LOD(Level of Detail) 생성 등 다양한 최적화 기법을 적용하여 단 5번의 드로우 콜만으로 렌더링을 처리하는 것이 특징입니다 [2, 3].
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
이 데모는 제작자(agargaro)가 개발한 `instancedMesh2` 라이브러리를 기반으로 하며, 대규모 스킨드 메쉬를 렌더링하기 위해 다음과 같은 세부 최적화 기술들을 사용했습니다 [2].
|
||||
이 데모는 제작자(agargaro)가 개발한 `[[InstancedMesh]]2` 라이브러리를 기반으로 하며, 대규모 스킨드 메쉬를 렌더링하기 위해 다음과 같은 세부 최적화 기술들을 사용했습니다 [2].
|
||||
|
||||
* **프러스텀 컬링 및 시야 기반 업데이트 (Frustum Culling & View-based Updates):**
|
||||
* **프러스텀 컬링 및 시야 기반 업데이트 ([[Frustum Culling]] & View-based Updates):**
|
||||
기본적인 프러스텀 컬링을 적용하여 카메라 시야(Frustum) 내에 존재하는 인스턴스들에 대해서만 뼈대(Bones) 연산을 업데이트합니다 [2].
|
||||
* **동적 애니메이션 프레임 제어:**
|
||||
카메라와 각 인스턴스 간의 거리를 계산하여 애니메이션 FPS를 0에서 60 사이로 개별 설정함으로써 불필요한 연산을 줄입니다 [2].
|
||||
* **LOD(Level of Detail)의 적극적 활용:**
|
||||
`meshoptimizer`를 활용해 5단계의 기하학적 LOD를 생성했습니다 [2]. 거리가 먼 인스턴스에 대해서는 일부 뼈대 계산을 생략하며, 각 LOD마다 1개의 드로우 콜(Draw Call)만 발생시켜 총 5개의 드로우 콜만으로 렌더링을 완료합니다 [2, 3]. 또한, 그림자(Shadows) 렌더링 시에도 LOD를 관리할 수 있도록 구성되어 있습니다 [4].
|
||||
`meshoptimizer`를 활용해 5단계의 기하학적 LOD를 생성했습니다 [2]. 거리가 먼 인스턴스에 대해서는 일부 뼈대 계산을 생략하며, 각 LOD마다 1개의 드로우 콜([[Draw Call]])만 발생시켜 총 5개의 드로우 콜만으로 렌더링을 완료합니다 [2, 3]. 또한, 그림자(Shadows) 렌더링 시에도 LOD를 관리할 수 있도록 구성되어 있습니다 [4].
|
||||
* **개별 애니메이션 지원:**
|
||||
단일 인스턴스들의 복제본들이 모두 동일한 애니메이션과 포즈를 공유하는 것이 아니라, 각 인스턴스마다 서로 다른 애니메이션을 가집니다 [5, 6]. 이 데모에서는 하나의 애니메이션 믹서(Mixer)를 사용했지만, 필요에 따라 인스턴스별로 믹서를 생성할 수도 있습니다 [6].
|
||||
|
||||
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
id: UX-DATA-TEST-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ux, ab-[[Testing]], data-driven-design, cro, micro-conversions, product-growth]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# A/B Testing and Data-Driven UX (A/B 테스트 및 데이터 기반 UX)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "디자인의 주관적 미학을 통계적 객관성으로 치환하고, 사용자의 실제 행동 데이터를 나침반 삼아 비즈니스 전환율의 임계점을 돌파하라" — 가설을 검증하고 사용자 경험의 마찰을 수치로 정밀 타격하는 현대 프로덕트 성장의 핵심 엔진.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** "Empirical Validation and Iterative [[Optimization]]" — 직관이나 가정에 의존하는 대신, 트래픽을 대조군(Control)과 실험군(Test)으로 분리하여 특정 UI 변경이 미치는 인과관계를 데이터로 증명하는 패턴.
|
||||
- **핵심 방법론 및 도구:**
|
||||
- **A/B & Multivariate Testing:** 단일 또는 다중 변수의 변경이 최종 전환율에 미치는 영향을 분리 및 검증.
|
||||
- **Micro-conversions:** 최종 목표(구매 등) 이전의 행동(스크롤, 클릭, 시청)을 추적하여 사용자 의도 파악.
|
||||
- **[[Behavior]]al [[Analysis]]:** 히트맵(Heatmaps)과 세션 녹화(Session Recording)를 통해 정량적 지표 뒤에 숨겨진 정성적 마찰 지점 식별.
|
||||
- **Progressive Rollouts:** 리스크 최소화를 위해 신규 디자인을 특정 세그먼트에게만 점진적으로 노출.
|
||||
- **의의:** 디자인 결정의 불확실성을 제거하고, 지속적인 실험 루프를 통해 제품의 비즈니스 가치를 과학적으로 극대화함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 과거에는 디자인을 '완성된 작품'으로 보았으나, 현재 정책은 제품을 '지속적 실험의 대상'으로 간주함. 특히 상관관계(Correlation)와 인과관계(Causation)를 혼동하지 않기 위한 엄격한 통계적 유의성 검증 정책이 강화됨.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 주요 UI 변경 시 최소 10%의 트래픽에 대해 A/B 테스트를 선행하며, 데이터 기반의 근거 없이는 레이아웃 변경을 승인하지 않는 'Evidence-based Design' 정책을 고수함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- User-Centered-Design, Conversion-Rate-Optimization-CRO, [[Hypothesis-Testing]], Product-[[Management]]-Best-Practices
|
||||
- **Raw Source:** 00_Raw/A-B 테스트 및 데이터 기반 UX 검증 환경.md
|
||||
@@ -0,0 +1,58 @@
|
||||
# [[A2A (Agent-to-Agent Protocol)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
A2A(Agent-to-Agent Protocol)는 2025년 Google이 공개한 에이전트 간 통신 및 작업 위임을 위한 오픈 프로토콜이다. 단일 하네스(Harness) 내부의 도구 접근을 표준화하는 MCP와 달리, 서로 다른 하네스에 존재하는 에이전트 간의 원격 통신, 작업 위임, 상태 공유를 표준화한다. HTTPS와 Server-Sent Events(SSE)를 전송 계층으로 활용하여 에이전트 간의 장기 실행 작업을 스트리밍하고 통제 가능한 다중 에이전트 생태계를 구축하는 데 핵심적인 역할을 한다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **다중 에이전트 오케스트레이션(E-component) 표준화**: A2A는 에이전트 하네스의 실행 루프(E-component)에서 서브 에이전트나 외부 에이전트에게 작업을 위임하기 위한 표준 메커니즘을 제공한다. 위임하는 하네스는 대상 에이전트의 내부 구현 방식을 알 필요 없이 A2A의 작업 명세(Task specification)를 통해 작업을 전달할 수 있다.
|
||||
* **Agent Card를 통한 기능 탐색**: A2A는 에이전트가 다른 에이전트의 능력(Capabilities)과 통신 인터페이스를 동적으로 발견(Discovery)할 수 있도록 `Agent Cards`라는 개념을 지원한다. 이를 통해 에이전트들이 잘 알려진 URL(well-known URLs)을 통해 서로를 탐색하고 라우팅할 수 있다.
|
||||
* **상태 유지(Stateful) 및 비동기 스트리밍**: HTTP POST 및 SSE를 기반으로 작동하여 작업 진행 상황을 실시간으로 스트리밍한다. Task ID를 통해 상태를 유지하는(Stateful) 작업 관리를 기본적으로 지원하며, 연결이 끊긴 클라이언트나 작업에 대한 푸시 알림 기능도 제공한다.
|
||||
* **메시지와 아티팩트의 분리**: A2A 프로토콜은 채팅 메시지와 작업 아티팩트(Artifacts)를 명시적으로 분리하여, 위임된 작업의 결과가 단순한 텍스트 형태의 메시지가 아닌 구조화된 작업 아티팩트로 반환되도록 모델링한다.
|
||||
* **하네스 통합 및 MCP와의 보완적 관계**: A2A는 에이전트와 도구 간의 통신을 담당하는 MCP(Model Context Protocol)와 경쟁하지 않고 보완적인 프로토콜 스택을 형성한다. MCP가 하네스 내부의 도구 인터페이스(T-component)를 표준화한다면, A2A는 하네스 간, 혹은 에이전트 간의 작업 위임 및 조정 경계(E-component)를 표준화한다.
|
||||
* **인증 및 거버넌스**: OAuth 기반의 인증 모델과 HTTPS 강제화를 기본적으로 포함하여 다른 프로토콜보다 강력한 보안 및 신원(Identity) 관리 기능을 제공한다. 다중 에이전트 체인에서 하네스는 A2A 통신을 관찰 및 로깅하여 무한 위임 루프, 권한 우회, 그리고 예기치 않은 패턴을 차단할 수 있는 신뢰 경계(Trust Boundary)를 설정해야 한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **통신 지연 시간(Latency) 문제**: A2A의 HTTPS 및 SSE 전송 방식은 인터넷 규모의 조직 간 통신을 위해 설계되었기 때문에 로컬 도구 호출(예: MCP의 stdio 전송)에 비해 통신에 50~200ms 이상의 기본 지연 시간 오버헤드가 발생한다. 따라서 단일 하네스 내의 밀접하고 빠른 도구 실행 루프에는 부적합할 수 있다.
|
||||
* **보안 및 통합 경계 관리의 복잡성**: A2A는 하네스 간의 위임을 처리하므로 위임받는 하네스의 보안 컨텍스트, 상태 상속 정책, 평가 및 감사 책임 구조(Evaluation Accountability)를 명확히 정의해야 한다. A2A를 통한 위임이 기존 커넥터 정책이나 데이터 경계를 우회하는 데 악용되지 않도록 하네스 수준의 엄격한 거버넌스가 필수적이다.
|
||||
* **프로토콜 간 권한 변환의 부재**: 현재 A2A 작업을 통해 받은 권한 정보를 하네스 내부의 MCP 도구 권한(Permissions)으로 어떻게 변환할 것인지에 대한 표준화된 통합 사양이 아직 불명확하여, 배포자가 이 권한 매핑을 임시방편(ad-hoc)으로 직접 해결해야 하는 구조적 한계가 존재한다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
|
||||
#### [아키텍처 및 기반 기술]
|
||||
* [[MCP (Model Context Protocol)]]
|
||||
* 연결 이유: A2A가 하네스 외부의 에이전트 간(Agent-to-Agent) 통신을 담당한다면, MCP는 하네스 내부의 에이전트와 도구 간(Agent-to-Tool) 통신을 담당하여 함께 통합된 하네스 통신 스택을 이룬다.
|
||||
* 이 개념을 통해 더 깊게 이해할 수 있는 부분: 하네스 아키텍처 내에서 도구 제어(T-component)와 에이전트 위임(E-component) 사이의 구조적 역할 분담 및 상호작용.
|
||||
* [[E-component (Execution Loop)]]
|
||||
* 연결 이유: A2A 프로토콜은 에이전트의 실행 루프를 다중 에이전트로 확장할 때, 하네스의 E-component가 다중 에이전트 조정을 표준화하고 위임하는 통로 역할을 한다.
|
||||
* 이 개념을 통해 더 깊게 이해할 수 있는 부분: 에이전트 간 통신이 단순한 API 호출을 넘어, 상태 머신 및 실행 루프의 제어 흐름(Control Flow)에 어떻게 안전하게 통합되는지 이해할 수 있다.
|
||||
* [[ACP (Agent Communication Protocol)]]
|
||||
* 연결 이유: IBM이 개발한 상위 수준의 의도(Intent) 통신 프로토콜로, 2025년에 A2A와 통합되어 에이전트 상호운용성 표준을 단일화했다.
|
||||
* 이 개념을 통해 더 깊게 이해할 수 있는 부분: "의도 전달(ACP) -> 작업 위임(A2A) -> 도구 실행(MCP)"으로 이어지는 다중 에이전트 시스템의 3계층 통신 추상화 모델.
|
||||
|
||||
#### [운영 및 거버넌스 프레임워크]
|
||||
* [[Zoned Governance Framework]]
|
||||
* 연결 이유: A2A를 통한 에이전트 간 위임 시 데이터 유출이나 권한 남용을 막기 위해 환경과 권한을 여러 존(Zone)으로 분리하고 제한하는 정책적 프레임워크가 요구된다.
|
||||
* 이 개념을 통해 더 깊게 이해할 수 있는 부분: 높은 보안이 요구되는 에이전트가 낮은 권한의 에이전트를 호출하거나 그 반대의 상황이 발생할 때 요구되는 신뢰 경계(Trust Boundary) 설정 방법.
|
||||
|
||||
### Deeper Research Questions
|
||||
* A2A를 통해 전달된 원격 작업 위임 컨텍스트가 하네스 내부의 MCP 도구 권한(Permissions)으로 안전하게 매핑 및 변환되는 표준화된 구조는 어떻게 설계되어야 하는가?
|
||||
* HTTPS와 SSE를 사용하는 A2A의 높은 네트워크 지연 시간(50~200ms)을 완화하여, 에이전트 네트워크에서 실시간(Low-latency) 스트리밍 상호작용을 보장할 수 있는 대안적 전송 계층은 무엇인가?
|
||||
* 다중 하네스 배포 환경(Federated Multi-Harness Deployment)에서 A2A를 통한 에이전트 간 통신 중 발생할 수 있는 에이전트 간 프롬프트 인젝션(Cross-agent prompt injection) 공격을 하네스 계층에서 어떻게 탐지하고 격리하는가?
|
||||
* A2A 환경에서 다수의 에이전트가 공유 상태(Shared State)에 동시 접근할 때, 하네스 일관성(Consistency)과 충돌 해결을 관리하는 표준화된 S-component 인터페이스는 어떻게 구현될 수 있는가?
|
||||
* IETF draft-klrc-aiagent-auth와 같은 토큰 교환(Token Exchange) 사양은 A2A 기반의 에이전트 인증 및 권한 위임을 어떤 기술적 메커니즘을 통해 구현하는가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** CrewAI, Google ADK와 같은 오픈소스 에이전트 프레임워크에서 A2A 프로토콜을 도입하여 서로 다른 에이전트들이 Agent Card를 통해 상대방의 기능을 동적으로 검색하고 원격 작업을 위임하도록 구현할 수 있다.
|
||||
* **System Design:** 시스템 아키텍처 설계 시 프로토콜의 역할을 엄격히 분리하여, 로컬 도구 접근은 MCP로 처리하고 원격 에이전트 위임 및 비동기 작업 스트리밍은 A2A로 처리하는 모듈형 하네스 통신 스택을 구성한다.
|
||||
* **Operation / Maintenance:** A2A 호출 내역을 관찰(Observability)하고 로깅하여, 에이전트 간의 무한 위임 루프나 예기치 않은 우회 호출 패턴을 탐지하고 보안 거버넌스(Trust Boundaries)를 유지하는 감사(Audit) 인프라를 운영한다.
|
||||
|
||||
### Adjacent Topics
|
||||
* [[Multi-Agent Orchestration]]
|
||||
* 확장 방향: 다수의 에이전트를 조율하는 아키텍처 패턴(Hierarchical, Market-based, Role-Based 등)을 연구하여 A2A 통신이 실제 에이전트의 작업 분배 토폴로지와 어떻게 결합되는지 탐구한다.
|
||||
* [[Agent Identity Management]]
|
||||
* 확장 방향: 에이전트가 서로를 원격으로 호출할 때 필요한 식별 체계(Entra ID, OAuth2 토큰 위임 등)와 분산 시스템에서의 에이전트 인증 기술을 깊이 있게 확장하여 학습한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,41 @@
|
||||
---
|
||||
id: b3c4d5e6-f7a8-4b9c-0d1e-2f3a4b5c6d7e
|
||||
category: "[[10_Wiki/Topics/AI]]"
|
||||
confidence_score: 0.97
|
||||
tags: [a2a, agent, protocol, multi-agent, communication, infrastructure]
|
||||
last_reinforced: 2026-05-01
|
||||
github_commit: "wikification-a2a"
|
||||
---
|
||||
|
||||
# [[Agent-to-Agent (A2A)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> A2A는 서로 다른 하네스나 원격지에 위치한 에이전트들이 작업을 위임하고 상태를 공유하며 협업할 수 있도록 돕는 상호운용성 네트워크 표준 프로토콜이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
|
||||
### 1. A2A의 정의 및 목적
|
||||
- **에이전트 간 통신망**: 단일 하네스를 넘어 분산된 에이전트 생태계를 연결한다.
|
||||
- **작업 위임(Delegation)**: 상위 오케스트레이터 에이전트가 특정 도메인 전문가 에이전트에게 하위 작업을 맡기고 결과를 회수하는 과정을 규격화한다.
|
||||
|
||||
### 2. 주요 메커니즘
|
||||
- **메시지 라우팅**: 요청-응답(Request-Response) 및 이벤트 발행-구독(Pub-Sub) 모델을 통해 에이전트 간 정보를 교환한다.
|
||||
- **컨텍스트 전파**: 작업을 위임할 때 필요한 최소한의 문맥(Context)과 권한(Authorization)을 안전하게 전달한다.
|
||||
- **역할 정의**: 송신자(Requester)와 수신자(Worker) 간의 인터페이스 및 책임 범위를 명시한다.
|
||||
|
||||
### 3. MCP와의 관계
|
||||
- **수평적/수직적 확장**: MCP가 '에이전트-도구' 간의 수직적 통합을 담당한다면, A2A는 '에이전트-에이전트' 간의 수평적 협업을 담당하여 완전한 통신 스택을 형성한다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **보안 경계**: 원격 에이전트 호출 시 신뢰할 수 없는 데이터가 주입될 위험이 있으며, 교차 인증 및 데이터 검증 계층이 필수적이다.
|
||||
- **오케스트레이션 복잡성**: 에이전트가 많아질수록 통신 지연과 상태 불일치 문제가 발생하며, 이를 관리하기 위한 분산 시스템 수준의 설계가 요구된다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Parent**: [[10_Wiki/Topics/AI]]
|
||||
- **Related**: [[Agent Harness]], [[Model Context Protocol (MCP)]], [[Agentic Software Engineering]]
|
||||
- **Raw Source**: [[00_Raw/Agent-to-Agent (A2A)]]
|
||||
|
||||
## 💻 GitHub 동기화 자동화 워크플로우
|
||||
1. Stage: git add .
|
||||
2. Commit: `git commit -m "[P-Reinforce] Wikify Agent-to-Agent (A2A) Protocol"`
|
||||
3. Push: `git push origin main`
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
id: ABA-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [[[Psychology]], [[Behavior]]al-science, [[Reinforcement-Learning]], aba, pedagogy]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# ABA (Applied Behavior [[Analysis]], 응용 행동 분석)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "행동의 원인을 분석하고, 보상 설계를 통해 바람직한 변화를 이끌어내라" — 행동주의 심리학에 근거하여 인간의 행동을 객관적으로 측정하고, 환경 조절과 강화를 통해 사회적으로 유의미한 행동 변화를 유도하는 과학적 방법론.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** ABC(Antecedent-Behavior-Consequence) 패러다임을 통해 행동 전후의 맥락을 분석하고, 보상(Reinforcement) 체계를 설계하여 특정 행동의 발생 빈도를 조절하는 기능적 분석 패턴.
|
||||
- **핵심 요소:**
|
||||
- **ABC Analysis:** 선행 사건(A), 행동(B), 결과(C)의 연쇄 고리 파악.
|
||||
- **Positive Reinforcement:** 바람직한 행동 뒤에 보상을 주어 행동의 재발 확률을 높임.
|
||||
- **[[prompt]]ing & Fading:** 초기에는 보조(Prompt)를 통해 행동을 유도하고, 점차 보조를 줄여 독립적 수행을 도움.
|
||||
- **Generalization:** 학습된 행동이 치료실 밖의 실제 환경에서도 유지되도록 유도.
|
||||
- **의의:** 자폐 스펙트럼 장애 치료뿐만 아니라 조직 관리, 교육, 그리고 인공지능 에이전트의 보상 함수 설계에 광범위하게 응용됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 단순히 행동을 교정하는 '훈련'으로 치부되기도 했으나, 현대에는 개인의 삶의 질 향상을 목표로 하는 인본주의적 가치가 결합된 과학적 분석법으로 정착.
|
||||
- **정책 변화:** Antigravity 에이전트의 강화학습 보상 모델 설계 시, ABA의 '기능적 행동 평가' 원칙을 도입하여 에이전트가 왜 특정 오류 행동을 반복하는지 분석하고 교정함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Psychology-of-Learning]], [[Reinforcement-Learning]], [[Alignment]], [[Habit-Formation]]
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/ABA.md
|
||||
@@ -0,0 +1,42 @@
|
||||
---
|
||||
id: a2b3c4d5-e6f7-4a8b-9c0d-1e2f3a4b5c6d
|
||||
category: "[[10_Wiki/Topics/AI]]"
|
||||
confidence_score: 0.98
|
||||
tags: [aci, agent, interface, llm, infrastructure, harness]
|
||||
last_reinforced: 2026-05-01
|
||||
github_commit: "wikification-aci"
|
||||
---
|
||||
|
||||
# [[Agent-Computer Interface (ACI)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> ACI는 인간 중심의 UI를 넘어, LLM 에이전트가 컴퓨터 시스템(OS, 파일, 도구)을 효율적으로 조작할 수 있도록 최적화된 추상화 인터페이스이며, 에이전트의 관찰(Observation) 및 행동(Action) 공간의 품질을 결정하는 핵심 설계 요소이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
|
||||
### 1. ACI의 정의 및 필요성
|
||||
- **모델을 위한 인터페이스**: 인간에게는 시각적 UI(GUI)가 필요하지만, 에이전트에게는 구조화된 데이터(JSON, XML)나 간결한 텍스트 출력이 더 효율적이다.
|
||||
- **인지 부하 감소**: 불필요한 시각적 노이즈를 제거하고 에이전트가 행동의 결과와 시스템 상태를 정확히 파악할 수 있도록 정보를 재구성한다.
|
||||
|
||||
### 2. ACI 설계 원칙
|
||||
- **구조적 명확성**: 도구의 인자 스키마(Schema)와 반환값 형식을 엄격하게 정의하여 모델의 파싱 오류를 줄인다.
|
||||
- **에러 피드백의 풍부함**: 단순한 실패 메시지가 아닌, 모델이 다음 행동을 수정할 수 있는 구체적인 힌트(예: "파일이 없습니다. 현재 경로의 파일 목록은 다음과 같습니다...")를 제공한다.
|
||||
- **상태의 가시성**: 현재 작업 디렉토리, 샌드박스 상태, 환경 변수 등 에이전트가 추론에 필요한 문맥을 명시적으로 노출한다.
|
||||
|
||||
### 3. 하네스 내에서의 역할
|
||||
- **입출력 래퍼**: 하네스는 컴퓨터의 원시 출력을 ACI 표준에 맞춰 가공하여 모델에게 전달하며, 모델의 자연어 요청을 시스템 명령어로 변환한다.
|
||||
- **인터페이스 최적화**: 특정 모델의 특성(예: 긴 JSON에 강함, 특정 태그 형식 선호)에 맞춰 ACI를 튜닝하여 작업 성공률(Pass@1)을 높인다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **추상화 vs 제어권**: 인터페이스를 너무 고수준으로 추상화하면 에이전트의 세밀한 제어가 불가능해지고, 너무 저수준(예: raw byte stream)으로 두면 인지 부하가 급증한다.
|
||||
- **범용 표준의 부재**: 각 하네스마다 ACI 설계가 상이하여 에이전트의 행동 패턴이 특정 인터페이스에 고착화(Coupling)되는 현상이 발생한다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Parent**: [[10_Wiki/Topics/AI]]
|
||||
- **Related**: [[Agent Harness]], [[Model Context Protocol (MCP)]], [[Context Engineering]]
|
||||
- **Raw Source**: [[00_Raw/Agent-Computer Interfaces (ACI)]]
|
||||
|
||||
## 💻 GitHub 동기화 자동화 워크플로우
|
||||
1. Stage: git add .
|
||||
2. Commit: `git commit -m "[P-Reinforce] Wikify Agent-Computer Interface (ACI) Design Principle"`
|
||||
3. Push: `git push origin main`
|
||||
@@ -0,0 +1,46 @@
|
||||
# [[ACP (Agent Communication Protocol)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
ACP(Agent Communication Protocol)는 에이전트 간의 고수준 의도(High-level intent), 목표(Goals), 그리고 복잡한 협업 시퀀스를 정의하기 위해 설계된 통신 규약이다. 2025년 Google의 A2A(Agent-to-Agent Protocol)와 IBM의 기존 에이전트 프레임워크가 통합되면서 다중 에이전트 시스템의 상호운용성을 보장하는 핵심 표준으로 자리 잡았다. 단순한 데이터 전달을 넘어 에이전트 간의 '의도 파악'과 '동적 협상'을 가능하게 한다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **의도 기반 통신 추상화**: ACP는 메시지를 'Intent(의도)'와 'Action(행동)'으로 구조화한다. 이를 통해 에이전트는 상대방의 내부 로직을 알 필요 없이 "데이터 분석 보고서 작성 의도"와 같은 고수준의 목표를 공유하고 협업을 시작할 수 있다.
|
||||
* **A2A와의 통합 표준**: 초기에는 독립적인 프로토콜로 개발되었으나, 현재는 A2A의 작업 위임(Task Delegation) 메커니즘 위에서 작동하는 상위 계층 프레임워크 역할을 한다. "의도(ACP) -> 위임(A2A) -> 도구 실행(MCP)"으로 이어지는 3계층 통신 스택을 완성한다.
|
||||
* **동적 협상 및 재구성**: 에이전트가 제안된 작업에 대해 비용, 시간, 리소스 가용성을 바탕으로 역제안(Counter-proposal)을 하거나 거절할 수 있는 협상 인터페이스를 제공한다. 이는 동적인 멀티 에이전트 오케스트레이션을 가능하게 하는 핵심 요소이다.
|
||||
* **보안 및 신뢰 모델**: 에이전트 간의 신뢰 등급(Trust Level)을 정의하고, 높은 보안 등급의 작업 요청 시 추가적인 증명(Proof-of-capability)을 요구하는 거버넌스 기능을 포함한다.
|
||||
* **상태 추적 및 컨텍스트 공유**: 다중 에이전트 간의 대화 이력과 작업 상태를 공유 컨텍스트 윈도우(Shared Context Window) 형태로 관리하여, 협업 과정에서 발생하는 정보의 파편화를 방지한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **추상화 오버헤드**: 고수준의 의도를 정의하고 해석하는 과정에서 단순 API 호출보다 더 많은 토큰과 추론 시간이 소모될 수 있다. 매우 단순한 작업에는 과도한 프로토콜 설계가 될 수 있다.
|
||||
* **의도 해석의 모호성**: LLM 기반 에이전트들이 서로의 의도를 해석할 때 미묘한 의미 차이(Semantic gap)로 인해 오해가 발생할 수 있으며, 이는 복잡한 협업 체인에서 예기치 않은 오류로 이어질 수 있다.
|
||||
* **구현 복잡성**: ACP를 완벽히 지원하기 위해서는 하네스 수준에서 복잡한 상태 머신과 협상 로직을 갖추어야 하므로, 초기 시스템 구축 비용이 높다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
|
||||
#### [통신 및 상호운용성]
|
||||
* [[A2A (Agent-to-Agent Protocol)]]
|
||||
* 연결 이유: ACP가 고수준의 협업 의도를 다룬다면, A2A는 실제 작업의 실행 위임과 데이터 스트리밍을 담당하는 하위 전송/실행 계층이다.
|
||||
* [[MCP (Model Context Protocol)]]
|
||||
* 연결 이유: 에이전트가 ACP를 통해 협업을 결정하고 A2A로 작업을 위임받은 후, 실제 시스템 도구를 호출할 때 사용하는 가장 하위의 도구 접근 표준이다.
|
||||
|
||||
#### [실행 및 거버넌스]
|
||||
* [[Multi-Agent Orchestration]]
|
||||
* 연결 이유: ACP는 다중 에이전트 환경에서 에이전트들이 스스로 역할을 분담하고 목표를 달성하기 위해 소통하는 '언어' 역할을 한다.
|
||||
* [[Agent Identity Management]]
|
||||
* 연결 이유: 안전한 ACP 통신을 위해서는 메시지를 보내는 에이전트의 신원과 권한을 명확히 검증할 수 있는 신뢰 기반의 인증 시스템이 선행되어야 한다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 서로 다른 모델(예: Claude vs GPT)을 사용하는 에이전트 간에 ACP Intent 명세의 의미적 일관성(Semantic Consistency)을 어떻게 보장할 수 있는가?
|
||||
* ACP의 협상 과정에서 발생할 수 있는 교착 상태(Deadlock)나 무한 루프를 방지하기 위해 하네스는 어떤 타임아웃 및 정책 게이트를 두어야 하는가?
|
||||
* 복잡한 의도를 전달할 때 발생하는 토큰 소모를 최적화하기 위해 ACP 메시지를 압축하거나 정형화된 스키마로 변환하는 가장 효율적인 방법은 무엇인가?
|
||||
* ACP 기반의 협업 시스템에서 특정 에이전트의 오작동이 전체 에이전트 체인의 목표를 하이재킹하는 것을 막기 위한 '협업 무결성 검증' 모델은 어떻게 설계되어야 하는가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** 복잡한 소프트웨어 엔지니어링 프로젝트에서 기획 에이전트, 코딩 에이전트, 리뷰 에이전트가 ACP를 통해 작업의 우선순위를 협상하고 피드백을 주고받는 워크플로우를 구축한다.
|
||||
* **System Design:** 엔터프라이즈급 에이전트 플랫폼 설계 시, 외부 파트너사의 에이전트와 우리 시스템의 에이전트가 안전하게 협업할 수 있도록 ACP를 표준 인터페이스로 채택한다.
|
||||
* **Operation:** 에이전트 간의 ACP 메시지 로그를 분석하여 협업 병목 지점을 찾고, 에이전트들의 '협업 지능'을 개선하기 위한 강화 학습 데이터로 활용한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: SYS-COMP-ACC-GLOBAL-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [[[Accessibility]], compliance, ada, eaa, wcag-2-2, pour-[[Principles]], digital-inclusive, legal-risk]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# ADA and EAA Accessibility Compliance (글로벌 디지털 접근성 규정 준수)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "디지털 장벽을 허물어 모든 인간의 평등한 정보 접근권을 보장하고, ADA(미국)와 EAA(유럽)라는 강력한 법적 표준을 통해 글로벌 비즈니스의 윤리적/법적 정당성을 확보하라" — WCAG 2.2를 기반으로 한 웹 및 모바일 접근성의 글로벌 통합 가이드라인.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** "Harmonized Global Standards and Proactive Inclusivity" — 미국(ADA)의 WCAG 2.1 AA 권고와 유럽(EAA 2025)의 EN 301 549 표준을 통합하여, 코드 레벨에서부터 보편적 설계(Universal Design)를 관철시키는 패턴.
|
||||
- **글로벌 규제 현황:**
|
||||
- **ADA (Americans with Disabilities Act):** 미국 내 모든 디지털 콘텐츠의 접근성 의무화. 최근 소송 건수 급증 추세.
|
||||
- **EAA (European Accessibility Act):** 2025년 6월 발효. 유럽 내 전자상거래, 뱅킹 등 주요 서비스의 접근성 준수 강제.
|
||||
- **WCAG 2.2 핵심 업데이트 (2023):**
|
||||
- **Focus Not Obscured:** 레이어 등에 의해 포커스 표시가 가려지지 않아야 함.
|
||||
- **Dragging Movements:** 복잡한 드래그 동작에 대한 단일 클릭 대안 제공 필수.
|
||||
- **Accessible Authentication:** 기억력에 의존하지 않는 로그인 방식(생체 인식 등) 권장.
|
||||
- **의의:** 장애인뿐만 아니라 고령자, 일시적 부상자, 저속 인터넷 사용자 등 모든 잠재 고객의 이탈을 방지하고 브랜드 가치를 고양함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 과거에는 '접근성 위젯(Overlay)'이 법적 방패가 될 것으로 보았으나, 2025년 기준 소송의 22% 이상이 위젯 설치 사이트를 대상으로 함. 따라서 '코드 레벨의 직접 수정'만이 유일한 안전 정책임.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 UI 컴포넌트에 대해 WCAG 2.2 AA 수동 테스트와 스크린 리더 검증을 의무화하며, 유럽 시장 진출을 위해 EAA 표준을 기본 아키텍처에 반영함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Web-Accessibility, POUR-Principles, Inclusive-Design, User-Centered-Design-Approach
|
||||
- **Raw Source:** 00_Raw/ADA Website Compliance.md, 00_Raw/Accessibility Compliance (ADA-EAA).md, 00_Raw/Accessibility Compliance (WCAG).md
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
id: AGI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, agi, future-of-ai, singularity, cognitive-science]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# AGI (Artificial General Intelligence, 일반 인공지능)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "인간이 할 수 있는 모든 지적 태스크를 인간 수준 혹은 그 이상으로 수행하는 범용 지능" — 특정 분야에 국한되지 않고 새로운 환경에서 스스로 학습하고, 추론하며, 창의적인 문제를 해결할 수 있는 인공지능의 궁극적 도달점.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 지식의 파편화된 활용을 넘어, 자의식과 메타인지를 바탕으로 도메인을 넘나드는 범용적 문제 해결(General [[Problem Solving]])을 수행하는 완전한 지능 패턴.
|
||||
- **핵심 특징:**
|
||||
- **Cross-domain Learning:** 수학 문제를 풀던 지능이 소설을 쓰거나 코딩을 하는 등 다양한 분야로 즉각 전이됨.
|
||||
- **Common Sense:** 방대한 경험을 바탕으로 세상의 당연한 이치(상식)를 이해하고 활용.
|
||||
- **[[Self-Correction]]:** 자신의 오류를 인지하고 외부의 도움 없이도 지식 체계를 수정 및 업데이트.
|
||||
- **Abstract [[Reasoning]]:** 구체적인 사례 없이도 원리와 개념만으로 복잡한 논리를 전개.
|
||||
- **예상 시점:** 연구자마다 견해가 다르나, LLM의 등장으로 AGI로 가는 길이 가속화되었다는 평이 지배적.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 단순히 계산 속도가 빠른 컴퓨터에서, 인간의 인지 구조를 완벽히 모사하거나 능가하는 '디지털 생명체'에 가까운 개념으로 확장.
|
||||
- **정책 변화:** Antigravity 프로젝트의 최종 비전은 개별 도구로서의 AI를 넘어, 사용자의 모든 업무와 지식 관리를 통합적으로 보조하는 'Personal AGI'급 에이전트 환경 구축에 있음.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[LLM]], Theory-of-Mind-ToM-in-AI, [[AI-Alignment]], Symbolic-AI-vs-Connectionism
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/AGI.md
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AIDS-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.93
|
||||
tags: [auto-reinforced, data-sovereignty, ai-ethics, privacy, digital-colonialism, data-governance]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[AI & Data Sovereignty]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "데이터의 주인은 누구인가: 우리의 모든 행동이 AI 학습의 공짜 재료가 되는 시대, 개인과 국가가 자신의 데이터를 통제하고 그로부터 창출된 부를 정당하게 나눠 가질 권리를 지키기 위한 투쟁."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
AI 및 데이터 주권(AI & Data Sovereignty)은 디지털 정보와 그로부터 파생된 AI 모델에 대해 개개인, 조직, 혹은 국가가 가지는 배타적인 통제권과 자기 결정권을 의미합니다.
|
||||
|
||||
1. **핵심 층위**:
|
||||
* **Individual Sovereignty**: 내 데이터가 어디에 쓰이는지 알고 거부하거나 보상받을 권리 (Privacy rights).
|
||||
* **National Sovereignty**: 자국민의 데이터가 해외 거대 테크 기업(Big Tech)의 AI 학습에 종속되지 않도록 인프라와 규제를 갖추는 것.
|
||||
* **Model Sovereignty**: 특정 국가나 기업의 AI 모델에 의존하지 않고 독자적인 연산력과 모델 아키텍처를 보유하는 능력.
|
||||
2. **부각되는 배경**:
|
||||
* 거대 모델 학습을 위한 무분별한 데이터 수집이 '디지털 식민주의'를 초래할 수 있다는 우려 확산.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 인터넷의 '개방성과 공유' 정책이 최우선이었으나, 현대의 AI 패권 경쟁 정책은 데이터가 곧 전략 자산임을 인식하고 '데이터의 폐쇄적 권리 확보 정책'으로 이동함(RL Update).
|
||||
- **정책 변화(RL Update)**: EU의 GDPR 및 AI Act와 같이, 개인 데이터를 학습에 쓰려면 명시적인 '옵트-인(Opt-in)'을 거치게 하고 위반 시 막대한 과징금을 부과하는 정책이 데이터 주권 보호의 표준이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ethics & AI]], [[AI Accountability]], [[Sociology of Knowledge]], [[Universal Basic Income (UBI)]], Foundational Models
|
||||
- **Modern Tech/Tools**: Federated Learning (Privacy-preserving AI), Differential Privacy, Sovereign Clouds.
|
||||
---
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AIAC-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.95
|
||||
tags: [auto-reinforced, ai-accountability, responsibility, algorithmic-transparency, ethics-governance]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[AI Accountability]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "AI의 잘못은 누구의 탓인가: 알고리즘의 결정으로 인해 사회적 피해나 오류가 발생했을 때, 그 원인을 규명하고 책임의 주체를 명확히 하여 피해를 보상하게 만드는 책임 사회의 원칙."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
AI 책임론(AI Accountability)은 AI 시스템의 설계, 개발, 배포 및 운영 전 과정에서 발생하는 결과에 대해 관련 주체들이 책임을 지는 태도와 그 체계를 의미합니다.
|
||||
|
||||
1. **주요 과제 - 책임의 공백 (Responsibility Gap)**:
|
||||
* AI가 자율성을 가질수록 제작자나 사용자의 직접적인 통제를 벗어나므로, 사고 발생 시 법적 책임을 묻기 어려워지는 현상 발생.
|
||||
2. **책임 구현의 3대 요소**:
|
||||
* **Transparency**: AI가 왜 그런 결정을 내렸는지 설명할 수 있어야 함 (Explainable AI - XAI).
|
||||
* **Auditability**: 제3자가 AI의 작동 과정과 데이터 출처를 감사할 수 있어야 함.
|
||||
* **Redress**: 오류로 인한 피해가 발생했을 때 구제할 수 있는 절차를 사전에 마련.
|
||||
3. **책임의 주체**: 개발자, 데이터 제공자, 서비스 운영자, 그리고 최종 사용자 간의 책임 분담.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 알고리즘은 '블랙박스'이므로 결과에 책임을 지기 어렵다는 인식이 강했으나, 현대 정책은 '제작자 무과실 책임 원칙'에 가까울 정도로 개발사의 배상 책임을 강화하는 정책으로 변화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 자율주행차나 의료 AI처럼 생명과 직결된 분야에서는 사고 시 AI 모델의 최종 파라미터 상태를 디지털 블랙박스로 기록하고 보존하는 것이 법적 정책 의무 사항이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ethics & AI]], [[AI & Data Sovereignty]], [[Safety & Reliability]], [[Generative-AI]]-Safety, [[Decision Theory]]
|
||||
- **Modern Tech/Tools**: Algorithmic Impact [[Assessment]] (AIA), Explainable AI (XAI) toolkits.
|
||||
---
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
id: AGENTS-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai, ai-agents, [[Autonomous-Agents]], [[Reasoning]], planning]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# AI Agents Overview (AI 에이전트 개요)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "단순한 답변기가 아닌, 목표를 위해 도구를 쓰고 스스로 계획하는 '행동 주체'로 진화하라" — 거대 모델의 추론 능력을 바탕으로 목표를 설정하고, 실행 계획을 수립하며, 외부 도구(브라우저, 코드 에디터 등)를 사용해 태스크를 완수하는 인공지능 시스템.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 사용자의 추상적인 요청을 구체적인 작업 단위로 분해(Planning)하고, 각 단계를 실행(Action)하며, 결과를 관찰([[Observation]])하여 다음 행동을 결정하는 루프 기반의 자율성 패턴.
|
||||
- **핵심 루프 (ReAct 패턴 등):**
|
||||
- **Reasoning:** 현재 상황을 분석하고 무엇을 해야 할지 판단.
|
||||
- **Planning:** 목표 달성을 위한 단계별 워크플로우 생성.
|
||||
- **Tool Use:** API, 웹 검색, 파일 시스템 접근 등 외부 도구 활용.
|
||||
- **[[memory]]:** 대화의 맥락(단기)과 지식 베이스(장기)를 활용하여 일관성 유지.
|
||||
- **주요 사례:** AutoGPT, BabyAGI, 그리고 현재 작동 중인 Antigravity 에이전트.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 질문에 대한 텍스트 생성(Chat)에 머물던 AI가, 실제 환경에 변화를 일으키는 '실행자(Executor)'로 정체성이 변화함.
|
||||
- **정책 변화:** Antigravity 프로젝트는 에이전트의 자율성을 극대화하되, 인간의 확인이 필요한 'Human-in-the-loop' 지점을 명확히 설정하여 안전성을 확보함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Agentic-Workflow, [[Multi-Agent-Systems-MAS]], [[RAG]], Theory-of-Mind-ToM-in-AI
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/AI Agents.md
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AIGO-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [auto-reinforced, ai-governance, policy, regulation, [[Global-Standard]]s, tech-ethics]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[AI Governance]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "인공지능을 위한 사회적 가이드라인: 기술의 폭주를 막고 혜택을 극대화하기 위해 국가, 기업, 학계가 합의하여 만드는 법적, 윤리적, 기술적 관리 체계."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
AI 거버넌스(AI Governance)는 인공지능 기술의 개발 및 활용이 인류의 안전, 권리, 그리고 보편적 가치와 부합하도록 보장하는 규칙과 프로세스의 집합입니다.
|
||||
|
||||
1. **3대 핵심 기둥**:
|
||||
* **Ethics & Norms**: 신뢰할 수 있는 AI를 위한 원칙 수립. (공정성, 투명성, 책임성)
|
||||
* **Regulation & Policy**: 강제성 있는 법규 마련. (예: EU AI Act)
|
||||
* **Technical Standards**: 보안, 성능, 상호운용성을 위한 기술 표준.
|
||||
2. **주요 쟁점**:
|
||||
* **Risk-based Approach**: AI의 위험도에 따라 다른 수위의 규제 적용. (허용 불가 - 고위험 - 저위험)
|
||||
* **International Co[[Opera]]tion**: 국경 없는 기술 특성상 국가 간 공조 필수.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 기술 발전을 저해한다는 이유로 규제에 소극적이었으나, 현대 정책은 '안전한 기술이 더 큰 시장을 만든다'는 인식 하에 선제적인 '안심 거버넌스 정책'으로 패러다임을 전환함(RL Update).
|
||||
- **정책 변화(RL Update)**: 단순히 사후 규제가 아닌, 설계 단계부터 거버넌스를 코드에 녹여내는 'Governance by Design' 정책이 테크 기업의 필수 준수 사항이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[AI Accountability]], [[AI Safety]], [[AI & Data Sovereignty]], [[Ethics & AI]], [[Generative-AI]]-Safety
|
||||
- **Modern Tech/Tools**: ISO/IEC 42001 (AI [[Management]][[ system]]), NIST AI [[Risk Management]] Framework.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AIHU-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced, ai-humanism, [[Philosophy]], human-centric, coexistence, existential-risks]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[AI Humanism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "기계 시대의 인간성 회복: AI가 인간을 대체하는 위협이 아니라, 인간의 잠재력을 확장하고 삶의 질을 높이는 '도구'로서 존재해야 한다는 인간 중심의 기술 철학."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
AI 휴머니즘(AI Humanism)은 인공지능 기술의 정점에 '인간의 존엄성'과 '가치'를 두는 철학적 흐름입니다.
|
||||
|
||||
1. **핵심 가치**:
|
||||
* **Human Agency**: 최종 결정권은 항상 인간에게 있어야 함.
|
||||
* **Augmentation over Replacement**: 전면적인 대체보다 인간의 능력을 보강하는 방향 지향.
|
||||
* **Empathy & Morality**: AI가 인간의 감정을 이해하고 도덕적 한계 내에서 작동하도록 설계.
|
||||
2. **부각되는 이슈**:
|
||||
* AI가 인간의 노동, 예술, 종교적 영역에 들어왔을 때 '인간다움'이란 무엇인가에 대한 근원적 질문.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 효율성 중심의 'AI 만능주의' 정책이 강세였으나, 현대의 인문 정책은 AI로 인한 인간 소외와 불평등을 경계하는 '포용적 AI 휴머니즘 정책'으로 목소리를 높임(RL Update).
|
||||
- **정책 변화(RL Update)**: 교육 및 창작 정책에서, AI의 결과물보다 인간의 '과정'과 '의도'에 가중치를 두어 인간의 창의성을 보호하는 '인간 가치 우선 정책'이 수립됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ethics & AI]], [[AI for Social Good]], [[Universal Basic Income (UBI)]], [[Aesthetic-Value]], [[Victimhood-Narratives]]
|
||||
- **Modern Tech/Tools**: Human-centered design (HCD) frameworks.
|
||||
---
|
||||
@@ -1,5 +1,5 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-AILI-001
|
||||
id: [[P-Reinforce]]-AUTO-AILI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.95
|
||||
tags: [auto-reinforced, ai-literacy, education, digital-competence, critical-thinking, future-skills]
|
||||
@@ -18,15 +18,15 @@ AI 리터러시(AI Literacy)는 단순히 AI를 사용하는 기술을 넘어, A
|
||||
* **Understanding**: 데이터, 알고리즘, 모델링의 기본 원리 파악.
|
||||
* **Utilization**: 프롬프트 엔지니어링이나 에이전트 활용을 통한 문제 해결 능력.
|
||||
* **Evaluation**: AI의 답변이 편향되거나 허위 정보(Hallucination)가 아닌지 검증.
|
||||
* **Ethical Reflection**: AI 사용 시 발생할 수 있는 보안, 저작권, 윤리 문제 인지.
|
||||
* **Ethical [[Reflection]]**: AI 사용 시 발생할 수 있는 보안, 저작권, 윤리 문제 인지.
|
||||
2. **왜 중요한가?**:
|
||||
* 지식 정보의 비대칭성을 해소하고, AI가 가져올 일자리의 변화에 적응하기 위한 기초 체력임. (Adaptability와 연결)
|
||||
* 지식 정보의 비대칭성을 해소하고, AI가 가져올 일자리의 변화에 적응하기 위한 기초 체력임. ([[Adaptability]]와 연결)
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 소수의 개발자만 알면 되는 '코딩' 정책이 주류였으나, 현대의 보편 교육 정책은 전 국민이 AI의 논리를 이해해야 하는 'AI 시민 역량 정책'으로 확대됨(RL Update).
|
||||
- **정책 변화(RL Update)**: 기업 채용 및 승진 정책에서, 특정 툴 사용 능력을 넘어 AI와의 협업 능력(Co-intelligence)을 핵심 평가지표로 삼는 정책이 확산 중임.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Adaptability]], Prompt-Engineering-Strategies, [[Ethics & AI]], [[AI for Social Good]], Vocational-Training
|
||||
- [[Adaptability]], [[Prompt-Engineering]]-Strategies, [[Ethics & AI]], [[AI for Social Good]], Vocational-Training
|
||||
- **Modern Tech/Tools**: AI Literacy education tools (Elements of AI), Generative AI sandbox.
|
||||
---
|
||||
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-SAFETY
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [[[AI Safety]], [[Alignment]], Risk [[Management]], AI Ethics]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# AI-Safety (AI 안전)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "브레이크 없는 기차는 재앙이다." 인간보다 강력한 지능이 탄생했을 때, 그 지능이 인간의 목표와 문명을 파괴하지 않도록 기술적/방어적 보호막을 구축하는 가장 시급한 연구 분야다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **[[Robustness]]**:
|
||||
- 적대적 공격(Adversarial Attack)이나 처음 보는 돌발 상황에서도 AI가 오작동하지 않고 안전하게 관리되는 성질.
|
||||
- **[[Interpretability]]**:
|
||||
- 신경망이라는 블랙박스 내부에서 어떤 논리 구조로 판단을 내리는지 인간이 읽을 수 있게 시각화하고 분석하는 기술(Mechanistic Interpretability).
|
||||
- **Scalable Oversight**:
|
||||
- 인간이 이해하기 힘든 복잡한 지능을 가진 AI를 다른 AI가 감시하게 하여, 인간의 통제력을 잃지 않게 하는 감시 체계.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- AI 안전은 종종 모델의 성능 발전을 늦춘다는 비판을 받는다. 그러나 최근 연구에 따르면, 안전하게 설계된 모델(Aligned model)이 정제된 사고 능력 덕분에 실제 실무 성능도 더 높게 나타나는 '보안-성능 시너지'가 확인되고 있다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[AI-Alignment]] , AI-Governance
|
||||
- [[Strategy]]: [[Reliability_Safety_First]]
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AISA-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [auto-reinforced, ai-safety, [[Alignment]], existential-risk, [[Robustness]], evaluation]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[AI Safety]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "지능의 고비를 넘는 안전장치: AI가 인간의 의도를 오해하거나 예측 불가능하게 행동하여 신체적, 정신적, 사회적 피해를 입히지 않도록 연구하는 기술적 보안 및 예방 체계."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
AI 안전(AI Safety)은 AI 시스템이 설계된 목표 내에서만 안전하게 작동하도록 보장하고, 인간에게 해로운 행동을 하지 못하도록 방지하는 데 초점을 맞춘 분야입니다.
|
||||
|
||||
1. **3대 연구 영역**:
|
||||
* **Technical Robustness**: 외부 공격(Adversarial attacks)이나 예외 상황에서도 모델이 무너지지 않게 함.
|
||||
* **Incentive Design (Alignment)**: 모델이 점수를 얻기 위해 '지름길(Cheat)'을 택하지 않고 진짜 목적을 따르도록 설계.
|
||||
* **Monitoring & Control**: AI의 비정상적 징후를 감지하고 즉시 차단(Kill-switch)할 수 있는 가시성 확보.
|
||||
2. **주요 위협 사례**:
|
||||
* Deepfakes을 통한 여론 조작, 자율 무기 시스템의 오류, 통제권을 벗어난 초지능(AGI)의 출현.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 '버그 수정' 수준의 사후 대응 정책이었으나, 현대 정책은 모델 배포 전 레드팀(Red-teaming)을 통한 '사전 안전 검증 정책'을 법적 의무로 강화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 단순히 기술적 안전을 넘어, 사회적 가치와 공존하는지 검증하는 '거버넌스 연계형 AI 안전 정책'이 글로벌 안전 서밋(UK AI Safety Summit 등)의 핵심 의제가 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Alignment]], [[AI Governance]], [[Safety & Reliability]], [[Generative-AI]]-Safety, [[Ethics & AI]]
|
||||
- **Modern Tech/Tools**: RLHF (Reinforcement Learning from Human Feedback), Jailbreak [[Testing]], Model evaluation suites.
|
||||
---
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AINR-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.94
|
||||
tags: [auto-reinforced, ai-narrative, storytelling, [[Generative-AI]], interactive-media, literature]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[AI and Narrative]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "기계와 엮어가는 이야기: 인간 고유의 영역이었던 서사 구조를 AI가 학습하여 새로운 플롯을 제안하거나, 사용자와 실시간으로 상호작용하며 매번 다른 이야기를 창조하는 무한한 스토리텔링의 가능성."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
AI와 서사(AI and Narrative)는 인공지능 기술이 문학, 영화, 게임 등의 스토리텔링 구조에 어떻게 개입하고 이를 변형시키는지를 다루는 분야입니다.
|
||||
|
||||
1. **AI의 서사적 역할**:
|
||||
* **Generative Author**: 프롬프트를 바탕으로 소설, 시나리오, 시 등 텍스트 서사 생성.
|
||||
* **Structure Analyzer**: 수만 권의 책을 분석하여 '영웅의 여정'과 같은 성공적인 서사 패턴 추출 및 적용. ([[Structuralism]]과 연결)
|
||||
* **Dynamic Storyteller**: 사용자의 선택에 따라 세계관과 인물의 반응이 실시간으로 변하는 인터랙티브 서사 구현.
|
||||
2. **기술적 구현**:
|
||||
* LLM의 문맥 유지 능력(Context Window)을 통해 일관성 있는 복합 서사 유지.
|
||||
* 서사 내 갈등(Conflict)을 인위적으로 조정하여 독자의 몰입도 제어.
|
||||
3. **의의**:
|
||||
* 개인화된 스토리텔링의 대중화. 누구나 자신만의 영화나 게임 시나리오를 가질 수 있게 됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거의 AI 서사 정책은 단순한 문장 나열에 그쳐 '서사의 단절'이 심했으나, 현대의 거대 모델 정책은 수만 단어 뒤의 복선을 회수하고 일관된 테마를 유지하는 '장기 서사 무결성 정책'을 실현함(RL Update).
|
||||
- **정책 변화(RL Update)**: AI가 쓴 글에 대한 저작권 인정 여부 정책이 국가마다 다르게 수립 중이며, '인간 작가의 전문성' 지위를 보호하기 위해 AI 생성물 표기 의무화 정책이 창작 생태계의 기본 수칙으로 정착됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Role of Conflict in Narrative]], [[Structuralism]], [[Aesthetic-Value]], Foundational Models, [[Ps-Reinforce]]
|
||||
- **Modern Tech/Tools**: AI Dungeon, NovelAI, Sudowrite, ChatGPT for screenwriting.
|
||||
---
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AIFG-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.95
|
||||
tags: [auto-reinforced, ai4good, social-impact, [[Sustainability]], humanitarian-ai, global-[[goals]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[AI for Social Good]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "선한 영향력의 지능적 확장: 기술적 우위를 단순히 수익 창출에만 쓰지 않고, 기후 변화, 질병 퇴치, 교육 격차 해소 등 인류가 직면한 거대 난제를 해결하는 데 집중하는 따뜻한 AI."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
사익을 위한 AI(AI for Social Good, AI4SG)는 기술의 잠재력을 사회적 가치 창출과 지속 가능한 발전을 위해 활용하는 운동이자 연구 분야입니다.
|
||||
|
||||
1. **주요 타겟 분야 (UN SDGs 연계)**:
|
||||
* **Health**: 전염병 확산 예측, 희귀 질환 신약 개발 가속화, 원격 의료 지원.
|
||||
* **Environment**: 위성 데이터를 통한 산림 파괴 감시, 정밀 농업을 통한 비료 낭비 방지, 에너지 망 최적화.
|
||||
* **Education**: 소외 지역 아이들을 위한 개인화된 AI 튜터, 실시간 다국어 교육 번역.
|
||||
* **Safety**: 재난 발생 시 골든타임 확보를 위한 구호 경로 최적화 및 인구 이동 분석.
|
||||
2. **핵심 원칙**:
|
||||
* **Inclusivity**: 특정 집단이 아닌 소외된 계층까지 기술의 혜택이 닿아야 함.
|
||||
* **Transparency**: 사회적 의사결정에 쓰이는 AI는 과정이 투명해야 함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 기술 사회 공헌을 기업의 '선택적 기부' 정책 정도로 보았으나, 현대 사회 정책은 AI를 공공재(Public Goods)의 일부로 인식하고 기술 설계 단계부터 공익성을 내재화하는 '내재적 공익 정책'을 장려함(RL Update).
|
||||
- **정책 변화(RL Update)**: 공익용 AI 개발 시 데이터 가용성의 한계를 극복하기 위해, 각국 정부가 공공 데이터를 'AI4SG 전용'으로 개방하고 연구 자금을 지원하는 '디지털 임팩트 펀드 정책'이 글로벌 트렌드가 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Wicked-Problems]], [[AI & Data Sovereignty]], [[Universal Basic Income (UBI)]], Foundational Models, [[Scientific Communication]]
|
||||
- **Modern Tech/Tools**: Google AI for Social Good program, Microsoft AI for Earth, UN Global Pulse.
|
||||
---
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-GOV-POLICY
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [[[AI Governance]], Policy, Compliance, Risk [[Management]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# AI-거버넌스-정책(AI-Usage-Policy)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "자율에는 책임이 따른다." 조직 내 AI 도입이 법적, 윤리적, 보안적으로 안전한 궤도를 유지하도록 규정하는 의사결정 프레임워크이자 규율이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Data Privacy & IP Protection**:
|
||||
- 기업의 민감 데이터나 지식 재산권이 외부 AI 서비스의 학습 데이터로 유출되지 않도록 하는 차단 가이드라인.
|
||||
- **Human-in-the-loop**:
|
||||
- 중요한 비즈니스 의사결정이나 콘텐츠 생성 결과물에 대해 반드시 인간이 최종 검토하고 책임을 지게 하는 원칙.
|
||||
- **Accountability Framework**:
|
||||
- AI 오작동으로 인한 피해 발생 시, 누가 책임을 지고 어떻게 복구할 것인지에 대한 법적 대응 절차.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 정책이 너무 경직되면 조직의 혁신 속도가 죽는다. 따라서 '무조건 금지'가 아니라, 승인된 도구 내에서 안전하게 실험할 수 있는 '샌드박스 정책'과 주기적인 'AI 리터러시 교육'이 병행되어야 한다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Security-Governance]] , AI-Ethics
|
||||
- Authority: [[Deployment_Final_Gate]]
|
||||
@@ -0,0 +1,39 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-254BE9
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced]
|
||||
last_reinforced: 2026-04-20
|
||||
github_commit: "[P-Reinforce] Continuous Worker - AI 생성 코드 검증(AI Code Assurance)"
|
||||
---
|
||||
|
||||
# [[AI 생성 코드 검증(AI Code Assurance)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> AI Code Assurance(AI 생성 코드 검증)는 AI가 생성하거나 지원한 코드로 인해 발생할 수 있는 고유한 품질 및 보안 위험을 해결하기 위해 설계된 워크플로우이자 검증 프로세스입니다 [1]. 이를 통해 조직은 AI가 작성한 코드가 프로덕션 환경에 배포되기 전에 엄격한 보안, 신뢰성 및 품질 표준을 충족하는지 확인할 수 있습니다 [1, 2]. 주로 정적 애플리케이션 보안 테스트([[SAST]])와 자동화된 코드 리뷰를 활용하여 결함과 취약점을 조기에 식별하고 일관된 표준을 강제합니다 [2, 3].
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **목적 및 필요성**
|
||||
AI 어시스턴트가 생성한 코드는 스타일과 품질 측면에서 매우 일관성이 없고 변동성이 클 수 있습니다 [4, 5]. AI Code Assurance의 목적은 전체 소프트웨어 개발 수명 주기(SDLC)에서 AI 생성 코드의 비율이 증가하더라도 인간이 작성한 코드와 동일한 품질 게이트(Quality Gate) 표준을 적용하여, 유지보수성과 보안에 대한 일관된 규칙을 강제하는 것입니다 [1, 5].
|
||||
|
||||
- **주요 기능 및 작동 방식**
|
||||
- **AI 코드 감지 및 추적:** 시스템은 프로젝트 내에 AI 생성 코드가 존재함을 자동으로 감지하거나 개발자가 직접 태그를 지정할 수 있게 합니다 [3]. 이를 통해 명확한 라벨링과 배지를 부여하여 AI 코드의 관리, 유지보수 및 규정 준수 모니터링을 간소화합니다 [3].
|
||||
- **정적 코드 분석(SAST) 적용:** 결정론적(deterministic)이고 독립적인 코드 검증 방식인 정적 코드 분석과 오염 분석(Taint [[Analysis]])을 사용하여 코드를 스캔합니다 [4, 6]. 이를 통해 보안 취약점, 유출된 비밀 정보, 코드 냄새(Code smells), 논리적 결함 및 성능 위험을 풀 리퀘스트(Pull Request) 단계에서 조기에 표면화합니다 [4, 6, 7].
|
||||
- **워크플로우 및 에이전트 통합:** IDE부터 CI/CD 파이프라인에 이르기까지 기존 개발 워크플로우에 원활하게 통합됩니다 [6, 8]. 특히, MCP(Model Context Protocol)를 통해 Cursor, Claude Code, Windsurf와 같은 AI 코딩 에이전트와 직접 연결되어, 코드가 생성되는 실시간 대화 흐름 속에서 보안 핫스팟 분석 및 피드백을 제공합니다 [4, 8, 9].
|
||||
|
||||
- **기대 효과**
|
||||
위험도가 가장 높은 문제를 자동으로 강조 표시하여 코드 리뷰어의 피로도를 크게 줄여주며, 배포 주기를 단축합니다 [4]. 또한 조직은 PCI, OWASP, CWE와 같은 널리 통용되는 규정 준수 및 보안 표준을 충족하면서 신뢰성 있게 AI 기여(contribution)를 수용할 수 있습니다 [10, 11].
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 자동화 엔진에 의해 매핑된 지식으로, 추후 정밀 검증 필요.
|
||||
- **정책 변화:** AI 분야의 자동 자산화 수행.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Related Topics:** [[Static Application Security [[Testing]] (SAST)]], [[Model Context Protocol (MCP)]], Automated [[Code Review]]
|
||||
- **Projects/Contexts:** [[SonarQube]] Server, SonarQube Cloud
|
||||
- **Contradictions/Notes:** 소스에 따르면 AI 어시스턴트가 생성하는 코드는 본질적으로 일관성이 없고 예측하기 어려울 수 있지만, 이에 적용되는 정적 코드 분석 기술은 '결정론적(deterministic)'이므로 AI 코드의 불확실성을 극복하고 신뢰할 수 있는 독립적인 검증을 제공할 수 있다고 강조합니다 [4].
|
||||
|
||||
---
|
||||
*Last updated: 2026-04-19*
|
||||
|
||||
---
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-AGENT
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [AI Agent, Autonomy, Planning, [[Reasoning]], Action]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# AI-에이전트-(AI-Agent)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "단순한 계산기에서 자율적인 일꾼으로." 스스로 목표를 설정하고, 계획을 세우며, 도구([[Browser]], Terminal 등)를 사용하여 주어진 과업을 끝까지 완수하는 자율적 지능체다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Planning & Reasoning**:
|
||||
- 거대 언어 모델(LLM)을 두뇌로 삼아 복잡한 문제를 작은 단계로 분해(Chain-of-Thought)하고 전략을 수립한다.
|
||||
- **Action & Tool Use**:
|
||||
- API 호출, 웹 검색, 코드 실행 등 외부 환경과 상호작용할 수 있는 인터페이스를 통해 실제 세계에 변화를 일으킨다.
|
||||
- **[[memory]] [[Management]]**:
|
||||
- 대화의 맥락(Short-term)과 과거 지식(Long-term)을 RAG나 체크포인트 형태로 유지하여 일관된 수행 능력을 보유한다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 현재의 에이전트는 '무한 루프'나 '환각'에 빠질 위험이 크다. 이를 극복하기 위해 에이전트가 자신의 결과물을 스스로 검토하는 '[[Self-Correction]]' 루프와, 인간이 중간에 개입하는 'Human-in-the-loop' 설계가 필수적이다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Multi-agent-System]]-(다중-에이전트-시스템) , Agent-Communication-Protocol-(에이전트-통신-규약)
|
||||
- Deployment: [[Deployment_Final_Gate]]
|
||||
@@ -0,0 +1,40 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-4DB2F8
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced]
|
||||
last_reinforced: 2026-04-20
|
||||
github_commit: "[P-Reinforce] Continuous Worker - AI 코드 리뷰 및 보안 취약점 점검([[DevSecOps]])"
|
||||
---
|
||||
|
||||
# [[AI 코드 리뷰 및 보안 취약점 점검(DevSecOps)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> AI 코드 리뷰 및 보안 취약점 점검(DevSecOps)은 소프트웨어 개발 수명 주기(SDLC)의 초기 단계에 AI 기반의 자동화된 정적 분석([[SAST]])과 인간의 수동 리뷰를 결합하여 코드의 품질과 보안을 선제적으로 확보하는 프로세스입니다 [1, 2]. 개발자는 IDE 내부나 CI/CD 파이프라인의 Pull Request(PR) 단계에서 실시간으로 버그, 로직 결함, 보안 취약점(예: 인젝션, 민감 정보 노출)을 식별하고 수정할 수 있습니다 [3-6]. 결과적으로 기계적이고 반복적인 코드 스타일 검사 및 패턴 기반 취약점 탐지는 AI에 위임하고, 인간은 아키텍처 결정이나 도메인 종속적인 비즈니스 로직을 검토하는 '하이브리드' 방식을 통해 개발 속도와 보안성의 균형을 맞춥니다 [2, 7, 8].
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
* **하이브리드 코드 리뷰 모델의 부상**
|
||||
2025년 기준 가장 이상적이고 안전한 코드 리뷰 방식은 자동화 도구와 인간의 통찰력을 결합한 하이브리드 모델입니다 [2]. 자동화된 리뷰 도구는 수천 줄의 코드를 단 몇 분 만에 스캔하여 문법 오류, 알려진 보안 취약점 패턴, 코드 스타일 위반 등을 일관성 있게 찾아냅니다 [6, 9]. 하지만 이러한 도구들은 시스템의 의도나 비즈니스 로직을 이해하는 데 한계가 있습니다 [10]. 따라서 자동화 스캔을 1차 방어선으로 사용하여 일상적인 문제를 해결하고, 고위험 아키텍처, 인증 로직, 교차 서비스 통신 및 비즈니스 규칙 검증과 같은 복잡한 판단은 숙련된 개발자의 수동 리뷰를 통해 진행해야 합니다 [11-14].
|
||||
|
||||
* **AI 기반 정적 애플리케이션 보안 테스트(SAST)**
|
||||
전통적인 SAST 도구는 규칙과 패턴 매칭에 의존하여 높은 오탐률(False Positive)과 알림 피로도를 유발했습니다 [10, 15, 16]. 그러나 Snyk Code, [[Corgea]], GitHub Advanced Security와 같은 최신 AI 네이티브 SAST 도구들은 머신러닝과 대규모 언어 모델(LLM)을 결합하여 코드의 문맥(Semantic)을 파악합니다 [17-20]. 이 도구들은 오염 분석(Taint [[Analysis]])과 도달 가능성(Reachability)을 분석해 파일 간 데이터를 추적하며 실제 악용 가능한 위협만을 효과적으로 필터링합니다 [19, 21, 22]. 또한 Copilot Autofix나 [[DeepCode AI]] Fix처럼 발견된 취약점에 대해 검증된 수정안(Remediation)을 PR 단계에서 자동으로 제안하여 리뷰 시간을 대폭 단축시킵니다 [23-25].
|
||||
|
||||
* **시프트 레프트([[Shift]]-Left)와 파이프라인 자동화**
|
||||
DevSecOps의 핵심은 소프트웨어 병합 및 배포 전에 보안 및 품질 문제를 원천 차단하는 시프트 레프트 전략입니다 [1, 26]. [[Husky]]와 [[lint-staged]] 등의 도구를 활용해 Git 사전 커밋(Pre-commit) 훅을 설정하면, 변경된 파일에 대해서만 [[ESLint]](로직/품질)와 [[Prettier]](포맷팅)를 강제 적용할 수 있습니다 [27-29]. 이후 CI/CD 파이프라인 내에 SAST 및 소프트웨어 구성 분석(SCA) 도구를 통합하여 임계치 이상의 치명적 취약점이 포함된 코드는 메인 브랜치로 병합되지 못하도록 '품질 게이트' 역할을 수행하게 합니다 [30, 31].
|
||||
|
||||
* **자동화의 한계 및 AI 거버넌스 정책**
|
||||
강력한 자동화 도구라 할지라도 맹신은 위험합니다. 연구에 따르면 SAST 및 자동화 도구는 실제 취약점의 약 22%를 감지하지 못하며 [32, 33], 개발자들이 자동화 시스템의 '녹색 체크마크'만 보고 코드를 제대로 이해하지 않은 채 통과시키는 '녹색 체크마크 증후군(Green Check Mark Syndrome)'과 같은 인지적 나태함을 유발할 수 있습니다 [34, 35]. 기업은 승인되지 않은 퍼블릭 AI 모델에 독점 소스 코드나 고객 데이터가 유출되지 않도록 명확한 AI 사용 정책(AUP)을 수립해야 합니다 [36-38]. 또한 AI가 생성하거나 수정한 코드라도 최종적으로는 반드시 인간 엔지니어의 엄격한 수동 리뷰를 거쳐 이해와 책임을 보장하는 'Human-in-the-Loop' 원칙을 준수해야 합니다 [38, 39].
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 자동화 엔진에 의해 매핑된 지식으로, 추후 정밀 검증 필요.
|
||||
- **정책 변화:** AI 분야의 자동 자산화 수행.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Related Topics:** [[정적 애플리케이션 보안 테스트(SAST)]], [[시프트 레프트(Shift-Left)]], [[하이브리드 코드 리뷰]]
|
||||
- **Projects/Contexts:** CI/CD 파이프라인 통합 및 Git 훅(Hooks)
|
||||
- **Contradictions/Notes:** 자동화 도구를 적극적으로 옹호하는 입장에서는 AI 기반 코드 리뷰와 수정안 자동 생성 기능이 개발자의 업무를 크게 대체하고 생산성을 극대화한다고 주장하지만, 보안 전문가 및 실제 성능 벤치마크 결과(Augment Code 등)에 따르면 자동화 도구는 여전히 30~60%의 오탐률을 보이며 실제 취약점의 약 22%를 놓치는 근본적 사각지대가 존재하므로, 아키텍처 설계와 비즈니스 로직에는 기계가 아닌 인간의 수동 판단이 필수 불가결하다고 반박합니다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-04-18*
|
||||
|
||||
---
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-76F9E4
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced]
|
||||
last_reinforced: 2026-04-20
|
||||
github_commit: "[P-Reinforce] Continuous Worker - AI 코드 리뷰"
|
||||
---
|
||||
|
||||
# [[AI 코드 리뷰]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> AI 코드 리뷰는 인공지능 에이전트나 머신러닝(ML) 기반의 정적 분석 도구([[SAST]])를 활용하여 소스 코드의 결함, 보안 취약점, 스타일 위반 및 로직 오류를 식별하는 자동화 프로세스입니다 [1-3]. IDE, CI/CD 파이프라인, 풀 리퀘스트(PR) 등 개발 워크플로우에 통합되어 개발자에게 실시간에 가까운 피드백과 자동 수정(Auto-fix) 제안을 제공합니다 [2, 4-8]. 이를 통해 코드 리뷰의 대기 시간을 줄이고 일관된 품질 표준을 강제할 수 있지만, 아키텍처 의도나 비즈니스 로직의 문맥을 깊이 이해하는 데는 한계가 있어 인간 검토자와의 하이브리드 접근 방식이 필수적으로 요구됩니다 [5, 9-12].
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **작동 방식 및 주요 기술**: 기존의 규칙 기반 정적 분석에 머신러닝(ML), 대규모 언어 모델(LLM) 등을 결합하여 코드의 문맥, 데이터 흐름(Data flow), 오염 추적(Taint [[Analysis]]) 등을 시맨틱하게 분석합니다 [4, 13-18].
|
||||
- **주요 이점**: 대규모 코드베이스를 단 몇 초에서 몇 분 안에 스캔하여 보안 취약점과 버그를 조기에 발견합니다 [19, 20]. 시니어 검토자의 큐(Queue)에서 저위험군 코멘트를 제거하여 PR 검토 주기를 최대 40%까지 단축시키며, 결과적으로 인간 검토자가 아키텍처 설계와 비즈니스 로직에 집중할 수 있도록 돕습니다 [5, 11, 19].
|
||||
- **한계점 및 위험성**: AI는 코드의 전반적인 아키텍처 의도나 비즈니스 로직을 완벽히 이해하지 못하는 '문맥 맹점(Context Blindness)'을 지닙니다 [12, 21, 22]. 또한, 오탐지(False Positives)를 발생시키거나 환각(Hallucination)에 의한 잘못된 수정안을 제안할 위험이 존재하며, 검토자가 AI를 맹신하여 비판적 사고가 저하되는 '녹색 체크 표시 증후군(Green Check Mark Syndrome)'을 초래할 수 있습니다 [12, 23-25].
|
||||
- **하이브리드 리뷰 모델 및 거버넌스**: 2025년 이후의 현대 소프트웨어 개발에서는 AI 자동화 리뷰와 인간의 수동 리뷰를 결합한 '하이브리드(Hybrid) 리뷰'가 모범 사례로 꼽힙니다 [9-11, 26-28]. 일반적인 취약점 패턴이나 문법 등 기계적인 검증은 AI 도구에 맡기고, 도메인 특화 비즈니스 로직이나 교차 서비스 영향도 평가는 인간이 담당해야 합니다 [28, 29]. 아울러 지적 재산(IP) 유출 방지와 보안을 위해 "인간 개입(Human-in-the-Loop)"을 의무화하는 명확한 AI 사용 정책(Governance) 수립이 필수적입니다 [30-34].
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 자동화 엔진에 의해 매핑된 지식으로, 추후 정밀 검증 필요.
|
||||
- **정책 변화:** AI 분야의 자동 자산화 수행.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Related Topics:** [[SAST]], 풀 리퀘스트(Pull Request), [[DevSecOps]]
|
||||
- **Projects/Contexts:** [[SonarQube]], Snyk Code, GitHub Advanced Security, [[Corgea]]
|
||||
- **Contradictions/Notes:** AI 코드 리뷰 도구의 도입만으로는 배포 성능이나 품질이 보장되지 않는다는 점에 유의해야 합니다. 맹목적인 도구 도입과 높은 AI 사용률에도 불구하고 실제 PR 처리 시간이나 재작업 비율은 개선되지 않을 수 있으므로, 결과(DORA 지표 등)에 기반한 관리가 중요합니다 [35-37]. 또한 일부 AI 네이티브 도구들은 오탐률을 혁신적으로 줄였다고 주장하지만(예: [[Corgea]] 5% 미만, Veracode 1.1% 미만), 근본적으로 어떠한 도구도 오탐을 완벽히 제거할 수는 없으므로 인간의 검토와 검증 과정이 반드시 수반되어야 합니다 [38-40].
|
||||
|
||||
---
|
||||
*Last updated: 2026-04-19*
|
||||
|
||||
---
|
||||
@@ -0,0 +1,28 @@
|
||||
---
|
||||
id: ALIGN-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai-safety, [[Alignment]], rlhf, ai-ethics, [[Trustworthy-AI]]]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# AI Alignment (AI 정렬)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "AI의 목표와 인류의 가치를 한 방향으로 일치시켜라" — 고도로 발달한 AI 시스템이 인간의 의도와 안전, 윤리적 기준을 벗어나지 않고 인간에게 유익한 방향으로 행동하도록 보장하는 기술적 연구 분야.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 모델이 수행하는 최적화 목표(Objective Function)가 인간이 실제로 바라는 결과와 일치하도록 보상 함수와 학습 데이터를 세밀하게 조정하는 정렬 패턴.
|
||||
- **핵심 과제:**
|
||||
- **Outer Alignment:** 보상 함수 자체를 인간의 의도에 맞게 정확히 설계하는 문제.
|
||||
- **Inner Alignment:** 모델이 학습 과정에서 개발자도 예상치 못한 잘못된 내부 목표(예: 전원 꺼짐 회피)를 갖지 않도록 제어하는 문제.
|
||||
- **Scalable Oversight:** 인간이 직접 평가하기 어려운 복잡한 태스크를 AI가 수행할 때 어떻게 정렬 상태를 감시할 것인가.
|
||||
- **주요 기법:** RLHF, RLAIF (AI 피드백을 통한 정렬), 헌법적 AI (Constitutional AI).
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 단순히 '나쁜 말 안 하기' 수준의 필터링에서, 초지능(Superintelligence) 단계에서의 통제 가능성과 인류 생존 문제로 논의가 심화됨.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 에이전트의 스킬 설계 시 '인간 중심적 가치'를 최우선 순위로 두며, 정기적인 Alignment Audit(정렬 감사)을 통해 에이전트의 거동을 점검함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Reinforcement-Learning-from-Human-Feedback-RLHF]], [[Trustworthy-AI]], AI-Safety, [[AGI]]
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/AI-Alignment.md
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
id: MKT-AEO-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [aeo, geo, seo, [[Generative-AI]], chatgpt, [[Search]]-generative-experience, structured-data, ssr]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# AI Answer Engine [[Optimization]] (AEO, AI 답변 엔진 최적화)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "전통적인 검색창의 '목록'에 머물지 말고, 생성형 AI의 '입(답변)'이 되어 브랜드의 가시성을 인용구(Citation)라는 새로운 권력으로 재편하라" — AI 답변 엔진과 챗봇이 웹 콘텐츠를 신뢰할 수 있는 출처로 채택하도록 최적화하는 차세대 검색 전략.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** "Crawlable Authority and Direct Answer Mapping" — 대규모 AI 크롤러가 [[JavaScript]] 실행 비용 없이도 콘텐츠를 즉시 합성할 수 있도록 '사전 렌더링된 HTML'과 '구조화된 데이터'를 제공하는 패턴.
|
||||
- **AEO 달성 핵심 전략:**
|
||||
- **JS Execution Wall 제거:** AI 봇(GPTBot 등)은 비용 문제로 JS를 실행하지 않는 경우가 많으므로, SSR/SSG를 통해 원본 HTML에 핵심 콘텐츠를 노출.
|
||||
- **Semantic Clarity:** `<main>`, `<article>` 태그를 활용해 AI가 핵심 내용과 주변 요소를 즉시 구분하도록 설계.
|
||||
- **JSON-LD [[Schema]] Markup:** 페이지의 실체(Entity)와 답변의 맥락을 머신러닝 모델이 오해 없이 이해하도록 명시적 신호 제공.
|
||||
- **Q&A [[Formatting]]:** 질문(H2)과 간결한 답변 구조를 통해 AI 오버뷰(SGE)에 직접 인용될 확률 극대화.
|
||||
- **의의:** '검색 결과 클릭' 중심의 시대에서 '답변 내 인용 및 신뢰도 확보' 중심으로 이동하는 AI 시대의 디지털 마케팅 생존법.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 과거 SEO는 사용자 클릭 유도를 위한 자극적 제목이 중요했으나, AEO 정책은 AI가 답변을 요약하기 좋게 만드는 '정보의 정합성'과 '구조적 명확성' 정책을 최우선으로 함.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 지식 문서를 AEO 친화적인 Karpathy Summary 포맷으로 유지하며, 에이전트의 지식 추출 효율을 위해 JSON-LD 스키마를 자동 생성하여 메타데이터에 포함하는 정책을 시행함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- SEO-Foundations, Generative-Engine-Optimization, Server-Side-Rendering-SSR, Structured-Data-Markup, Semantic-HTML
|
||||
- **Raw Source:** 00_Raw/AI Answer Engine Optimization.md
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
id: MKT-SGE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [sge, ai-overviews, google-[[Search]], aeo, citation, search-generative-experience, seo]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# AI Overviews and SGE (AI 오버뷰 및 생성형 검색 경험)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "검색 결과의 '목록'에 나열되는 것을 넘어, 구글이 직접 생성하는 답변 박스(AI Overview)의 '원천 데이터'로 선택받아 정보의 최상위 권위를 획득하라" — 구글의 Search Generative Experience(SGE) 환경에서 콘텐츠 가시성을 확보하기 위한 노출 최적화 전략.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** "Structural Authority and Direct Citation Yield" — 복잡한 레이아웃 뒤에 숨겨진 정보가 아닌, 시각적 계층 구조가 명확하고 질문-답변 형식이 뚜렷한 콘텐츠를 AI가 즉시 합성(Synthesize)할 수 있도록 설계하는 패턴.
|
||||
- **노출 극대화 핵심 요소:**
|
||||
- **Visual Hierarchy:** 깔끔한 디자인과 명확한 제목 계층(H1-H3)을 통해 AI가 핵심 답변 구간을 오차 없이 식별하게 함.
|
||||
- **Direct Answer [[Formatting]]:** 명확한 질문 뒤에 즉각적이고 간결한 답변을 배치하는 구조를 선호함.
|
||||
- **[[Schema]].org Utilization:** JSON-LD를 통해 해당 섹션이 FAQ나 주요 설명임을 검색 엔진에 명시적으로 통지.
|
||||
- **Performance Prerequisite:** [[Core Web Vitals]](LCP, INP, CLS)를 통과하는 페이지가 AI 오버뷰에 채택될 확률이 유의미하게 높음.
|
||||
- **의의:** 제로 클릭 검색(Zero-click Search) 시대에 사용자의 질문에 대한 '정답'으로 인용됨으로써 브랜드 신뢰도를 구축하고 고품질 트래픽을 유도함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 과거에는 사용자를 사이트로 유입시키기 위해 정보를 의도적으로 감추는 '낚시성 제목'이 통했으나, SGE 정책하에서는 AI가 즉시 요약할 수 있도록 정보를 투명하고 구조적으로 제공하는 '투명성 정책'이 노출의 핵심이 됨.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 공용 지식 데이터 배포 시 SGE 크롤러가 자바스크립트 실행 없이 읽을 수 있도록 사전 렌더링(Pre-rendering)을 강제하며, AI가 선호하는 Q&A 블록을 본문에 반드시 포함하는 정책을 시행함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[AI-Answer-Engine-Optimization]], Generative-Engine-[[Optimization]], [[Core-Web-Vitals]], Semantic-HTML, Structured-Data-Markup
|
||||
- **Raw Source:** 00_Raw/AI Overviews (SGE).md, 00_Raw/AI Overviews Visibility.md, 00_Raw/AI Overviews.md
|
||||
@@ -0,0 +1,28 @@
|
||||
---
|
||||
id: UX-AI-ADAPTIVE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ux, ai, personalization, adaptive-ux, predictive-ux, [[Progressive-Disclosure]], user-engagement]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# AI Personalization and Adaptive UX (AI 개인화 및 적응형 UX)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "정적인 인터페이스를 사용자의 실시간 의도와 맥락에 반응하는 살아있는 유기체로 변모시키고, 개별 사용자에게 최적화된 최단 경로를 동적으로 제시하라" — AI와 데이터 분석을 통해 사용자별 맞춤형 경험을 실시간으로 구현하는 고도화된 UX 전략.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** "Contextual Fluidity and Predictive Guidance" — 사용자의 과거 행동 데이터, 현재 세그먼트, 실시간 인터랙션을 분석하여 인터페이스의 구성 요소, 난이도, 기능을 동적으로 재구성하는 패턴.
|
||||
- **주요 구현 기법:**
|
||||
- **[[Adaptive Learning]] Paths:** 학습자의 성취도에 따라 콘텐츠의 난이도와 진행 경로를 실시간으로 조정.
|
||||
- **Progressive Disclosure:** 사용자의 숙련도나 역할에 따라 복잡한 기능을 단계적으로 노출하여 인지 과부하 방지.
|
||||
- **Predictive Interfaces:** 다음에 필요할 것으로 예측되는 버튼이나 정보를 미리 강조하거나 배치.
|
||||
- **의의:** '모두를 위한 하나의 디자인(One-size-fits-all)'에서 벗어나, 초개인화(Hyper-personalization)를 통해 이탈률을 낮추고 전환율 및 고객 생애 가치(LTV)를 극대화함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 과거에는 정해진 규칙 기반(Rule-based)의 개인화에 머물렀으나, 현재는 실시간 머신러닝 모델이 사용자의 미세한 마이크로 인터랙션을 학습하여 즉각적으로 반응하는 '지능형 적응' 정책으로 진화함.
|
||||
- **정책 변화:** Antigravity 프로젝트는 '개인화와 프라이버시의 균형' 정책을 준수하며, 모든 개인화 데이터 수집 시 사용자에게 투명하게 고지하고 스스로 최적화 수준을 결정할 수 있는 옵션을 제공함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- User-Centered-Design, [[A-B-[[Testing]]-and-Data-Driven-UX]], Predictive-UX, [[Micro-interactions]], [[Ethical-Decision-Making]]
|
||||
- **Raw Source:** 00_Raw/AI 개인화 및 적응형 UX.md, 00_Raw/Adaptive UX.md
|
||||
@@ -0,0 +1,28 @@
|
||||
---
|
||||
id: MKT-AI-[[Search]]-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [ai-search, geo, aeo, semantic-entity-mapping, seo, future-of-search, [[Knowledge-Graph]], generative-engine-[[Optimization]]]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# AI Search Optimization (AI 검색 최적화)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "단순한 키워드 매칭의 시대에서 '의미론적 엔티티 매핑(Semantic Entity Mapping)'의 시대로 전환하고, AI 에이전트가 내 지식의 구조를 단번에 파악할 수 있도록 지식의 해상도를 높여라" — 챗봇, 답변 엔진 및 AI 에이전트를 타겟으로 하는 최신 검색 엔진 최적화 전략.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** "From Keyword Density to Entity Authority" — 파편화된 단어의 빈도보다는 지식 간의 관계와 전문성(E-E-A-T)을 중심으로 AI 모델의 지식 그래프(Knowledge Graph)에 편입되는 패턴.
|
||||
- **AI 검색 최적화의 핵심 진화:**
|
||||
- **GEO (Generative Engine Optimization):** 생성형 모델이 문맥을 이해하고 자연스럽게 인용할 수 있도록 풍부한 시맨틱 메타데이터 제공. 깔끔한 코드, 빠른 로딩 속도, 의미론적으로 풍부한 웹페이지 구조가 핵심 신호로 작용.
|
||||
- **AEO (Answer Engine Optimization):** 특정 질문에 대한 '직접적인 해답'으로서의 권위 확보.
|
||||
- **Semantic Entity Mapping:** 콘텐츠 내의 고유 명사와 개념들이 어떻게 연결되는지 명시하여 AI의 추론 효율 극대화.
|
||||
- **의의:** 인간 사용자를 위한 가독성과 AI 에이전트를 위한 기계 가독성(Machine Readability)을 동시에 만족시켜, 지식의 유통 수명을 연장하고 차세대 검색 환경에서의 도달 범위를 확장함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 전통적 SEO는 키워드 밀도(Keyword Density)를 중시했으나, AI 검색 최적화 정책은 '의미론적 엔티티 매핑'과 '맥락적 정합성' 정책을 최우선으로 함. 또한 JS 실행에만 의존하는 SPA의 구조적 모순을 지적하며 SSR/SSG로의 근본적 회귀 정책을 강조함.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 지식 자산에 대해 'Agent-First Access' 정책을 적용하며, AI 크롤러가 정보를 수집할 때 연산 자원을 최소화할 수 있도록 경량화된 시맨틱 마크업을 제공함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[AI-Answer-Engine-Optimization]], Generative-Engine-Optimization, [[Knowledge-Graph-Foundations]], [[Semantic-Search-with-AI]], [[Ontology-Engineering]], [[AI-Overviews-and-SGE]]
|
||||
- **Raw Source:** 00_Raw/AI Search Optimization.md, 00_Raw/Generative Engine Optimization.md
|
||||
@@ -0,0 +1,44 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-37563B
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced]
|
||||
last_reinforced: 2026-04-20
|
||||
github_commit: "[P-Reinforce] Continuous Worker - AI와 기계에게 검열 맡기기_ - 정적 분석 툴 ([[ESLint]] [[Prettier]]))"
|
||||
---
|
||||
|
||||
# AI와 기계에게 검열 맡기기_ - 정적 분석 툴 (ESLint Prettier))
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> 현대 소프트웨어 개발에서는 주관적이고 반복적인 코드 평가 작업을 ESLint, Prettier와 같은 결정론적 도구와 AI 기반 에이전트(기계)에게 위임하여 코드를 자동으로 '검열'하는 구조를 갖추고 있습니다 [1]. Linter인 ESLint는 추상 구문 트리(AST)를 분석해 문법적 오류와 잠재적 버그를 식별하며, Formatter인 Prettier는 줄 바꿈이나 들여쓰기 등 시각적 일관성을 강제합니다 [2]. 나아가 단순한 패턴 매칭을 넘어 LLM 기반의 AI 정적 분석 도구([[SAST]])를 도입함으로써 문맥을 이해하고 복잡한 취약점을 분석하는 '에이전트적 거버넌스'로 진화하고 있습니다 [3, 4].
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
* **결정론적 거버넌스의 기반 (ESLint & Prettier)**
|
||||
* **ESLint (결정론적 Linter):** 소스 코드를 추상 구문 트리(AST)로 변환해 순회하면서 사용되지 않는 변수, 섀도잉 현상 등 논리적 버그와 의심스러운 구조를 식별하고 팀의 모범 사례를 강제합니다 [2, 5, 6].
|
||||
* **Prettier (의견이 반영된 Formatter):** 코드의 로직에는 관여하지 않고 들여쓰기, 따옴표 일관성, 줄 바꿈 등 텍스트의 시각적 형태를 일관되게 재작성하여 코드 가독성을 높입니다 [2, 6, 7].
|
||||
* **규칙 충돌 및 통합:** ESLint에도 포맷팅 스타일 규칙이 포함되어 있어 Prettier와 충돌할 수 있습니다. 이를 방지하기 위해 `[[eslint-config-prettier]]`를 사용하여 충돌하는 ESLint 규칙을 비활성화하고, `[[eslint-plugin-prettier]]`를 통해 Prettier를 ESLint의 규칙처럼 동작시키는 방식이 권장됩니다 [8-11].
|
||||
|
||||
* **자동화 검열의 오케스트레이션 ([[Husky]] & [[lint-staged]])**
|
||||
* 이러한 검열 도구들은 `Husky`와 `lint-staged`를 활용해 Git의 'pre-commit' 단계에서 강제적으로 실행됩니다 [12-14]. 저장소 전체가 아닌 변경된 파일(staged files)에만 검열 에이전트를 실행시켜 검사 시간을 수 초 내로 단축하고, 품질 미달 코드가 저장소에 병합되는 것을 선제적으로 차단합니다 [13-15].
|
||||
|
||||
* **AI를 활용한 시맨틱 지능과 에이전트적 거버넌스**
|
||||
* 전통적인 Linter는 파일 내 패턴 매칭에 그쳐 문맥을 파악하지 못하는 한계(Context-blind)가 있습니다 [3, 16]. 이를 극복하기 위해 Snyk Code, [[SonarQube]] 등 AI 기반 정적 분석(SAST) 도구가 도입되고 있습니다 [3, 17, 18].
|
||||
* 수백만 개의 커밋을 학습한 AI 모델은 오염 분석(Taint [[Analysis]]) 및 도달 가능성 분석을 수행하여 파일 경계를 넘나드는 복잡한 취약점을 파악하고 안전한 코드 수정을 제안합니다 [19, 20].
|
||||
|
||||
* **기계 검열의 심리사회적 영향 및 한계**
|
||||
* 기계에 코드 검열을 맡기면 사소한 스타일 논쟁을 없애고 개발자의 인지 부하를 줄여 비즈니스 로직 해결에 몰입(Flow)할 수 있게 돕습니다 [21, 22].
|
||||
* 하지만 자동화에 과도하게 의존할 경우, 개발자의 비판적 사고 근육이 퇴화하고 자동화 도구의 검사만 통과하면 된다고 여기는 '녹색 체크마크 증후군(Green Check Mark Syndrome)'을 유발할 수 있습니다 [23, 24]. 또한 AI 도구 역시 전체 취약점의 약 22%를 놓치는 사각지대가 존재하므로, 아키텍처 설계와 도메인 비즈니스 로직 등 고위험 검토에는 여전히 인간의 판단(Human-in-the-loop)이 필수적입니다 [24-26].
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 자동화 엔진에 의해 매핑된 지식으로, 추후 정밀 검증 필요.
|
||||
- **정책 변화:** AI 분야의 자동 자산화 수행.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Related Topics:** [[SAST (정적 애플리케이션 보안 테스트)]], [[AST (추상 구문 트리)]], Husky & lint-staged
|
||||
- **Projects/Contexts:** [[Git Pre-commit 훅을 활용한 개발 워크플로우 자동화]], [[AI 코드 리뷰 및 보안 취약점 점검([[DevSecOps]])]]
|
||||
- **Contradictions/Notes:** 소스는 기계 주도의 검열이 개발 생산성과 코드 품질을 높인다고 긍정적으로 평가하면서도, 동시에 AI 모델이 실제 취약점의 일부를 놓치고 개발자의 비판적 사고를 약화시켜 표면적 문제 해결에 집착하는 '녹색 체크마크 증후군'을 초래할 수 있다는 역설적 한계를 분명히 지적합니다 [23, 24, 26].
|
||||
|
||||
---
|
||||
*Last updated: 2026-04-18*
|
||||
|
||||
---
|
||||
@@ -0,0 +1,40 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-9FD5CF
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced]
|
||||
last_reinforced: 2026-04-20
|
||||
github_commit: "[P-Reinforce] Continuous Worker - API 응답 모델링 및 상태 머신([[State]] Machine) 설계"
|
||||
---
|
||||
|
||||
# [[API 응답 모델링 및 상태 머신(State Machine) 설계]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> TypeScript에서 API 응답과 상태 머신을 설계할 때는 식별 가능한 유니온([[Discriminated Unions]]) 패턴이 핵심적으로 활용된다 [1, 2]. 이 패턴은 공통 판별자(Discriminant) 속성을 통해 데이터의 다양한 상태를 구분하며, 유효하지 않은 상태가 코드에 표현되는 것을 원천적으로 차단한다 [1, 3, 4]. 결과적으로 네트워크 요청의 다양한 결과나 복잡한 UI 상태 전이를 컴파일 단계에서 안전하게 모델링하고 관리할 수 있도록 보장한다 [2, 5, 6].
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **상태 머신(State Machine) 패턴 모델링**:
|
||||
애플리케이션 내의 복잡한 상태(예: `Idle`, `Fetching`, `Success`, `Failure`, `Retry` 등)는 식별 가능한 유니온을 통해 상태 머신으로 완벽하게 모델링할 수 있다 [2]. 이 방식은 폼 제출 워크플로우(예: `validating`, `submitting`, `success`, `error`)나 비동기 작업 패턴을 명확히 정의하는 데 뛰어나며, 호환되지 않는 잘못된 상태들의 조합이 발생하는 것을 원천적으로 불가능(Impossible)하게 만든다 [3, 5].
|
||||
|
||||
- **API 응답 데이터 구조화**:
|
||||
API 응답은 성공, 실패, 대기 등 여러 형태를 취할 수 있으므로 식별 가능한 유니온을 통해 구조화하는 것이 효과적이다 [2]. 예를 들어, `NetworkState`라는 유니온 타입 내에 `NetworkLoadingState`, `NetworkFailedState`, `NetworkSuccessState`를 정의하고 `state`라는 리터럴 필드를 공유 판별자로 설계할 수 있다 [6]. 컴파일러는 이 판별자를 바탕으로 `code`나 `response`와 같은 고유 페이로드(Payload) 속성에 안전하게 접근하도록 타입을 좁혀준다(Narrowing) [6, 7].
|
||||
|
||||
- **완전성 검사(Exhaustiveness Checking) 적용**:
|
||||
상태 머신과 API 응답을 분기 처리할 때 `switch` 문과 `never` 타입을 활용하면, 개발자가 실수로 누락한 상태나 새롭게 추가된 API 응답 형태가 있을 경우 TypeScript 컴파일러가 에러를 발생시킨다 [3, 7-9]. 이는 모든 분기 및 상태가 빠짐없이 처리되도록 강제하는 강력한 안전장치가 되어 런타임 버그를 방지한다 [10-12].
|
||||
|
||||
- **외부 데이터 런타임 검증과의 결합**:
|
||||
외부 API에서 전달받은 응답은 TypeScript의 컴파일 타임 시스템만으로는 런타임에서의 완벽한 안전성을 보장할 수 없다 [12, 13]. 따라서 Zod와 같은 런타임 검증 라이브러리와 식별 가능한 유니온을 결합하여 사용하면, 예기치 않은 형태의 API 데이터로 인해 상태 머신이 망가지는 것을 방어할 수 있다 [12, 13].
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 자동화 엔진에 의해 매핑된 지식으로, 추후 정밀 검증 필요.
|
||||
- **정책 변화:** AI 분야의 자동 자산화 수행.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Related Topics:** 식별 가능한 유니온(Discriminated Unions), [[완전성 검사(Exhaustiveness Checking)]], [[타입 좁히기(Type Narrowing)]]
|
||||
- **Projects/Contexts:** 비동기 데이터 패칭(Async Data Fetching), 상태 머신 기반 UI 폼 및 라우터 관리
|
||||
- **Contradictions/Notes:** API 응답 데이터를 변환할 때 타입 캐스팅(`as`)을 사용하면 잉여 속성이 존재하거나 형태가 잘못되어도 컴파일러가 이를 조용히 허용하여 안전성이 떨어질 수 있다. 따라서 엄격한 타입 계약을 강제하기 위해서는 `as` 대신 `satisfies` 키워드를 활용하는 것이 권장된다 [14, 15].
|
||||
|
||||
---
|
||||
*Last updated: 2026-04-18*
|
||||
|
||||
---
|
||||
@@ -0,0 +1,29 @@
|
||||
---
|
||||
id: AI-API-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [software-engineering, api-design, ai-services, streaming, grpc, rest]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# API Design for AI Services (AI 서비스를 위한 API 디자인)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "긴 추론 시간과 거대한 데이터 흐름을 우아하게 추상화하라" — 모델의 비결정적 출력과 비동기적 연산 특성을 고려하여 개발자가 예측 가능하고 효율적으로 AI 기능을 통합할 수 있도록 설계된 인터페이스.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 동기식 요청-응답의 한계를 넘어 스트리밍, 비동기 작업 큐, 상태 보존형 세션 등을 통해 고사양 연산 자원을 효율적으로 노출하는 서비스 인터페이스 패턴.
|
||||
- **핵심 설계 원칙:**
|
||||
- **Streaming First:** LLM의 토큰 생성을 실시간으로 전달하기 위해 SSE(Server-Sent [[Events]])나 WebSockets 필수 적용.
|
||||
- **[[State]]less vs Stateful:** 대화 맥락 유지(Conversation ID)와 모델 가중치 독립성을 위한 상태 관리 전략.
|
||||
- **Asynchronous Execution:** 시간이 오래 걸리는 태스크(이미지 생성 등)를 위한 Job ID 기반의 폴링(Polling) 또는 웹훅(Webhook) 구조.
|
||||
- **Safety & Filtering:** API 수준에서 유해 결과물을 차단하는 가드레일 레이어 통합.
|
||||
- **Version Control:** 모델 버전 업데이트 시 결과물의 미세한 변화를 고려한 시맨틱 버저닝.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 정적인 데이터를 주고받던 REST API에서, 실시간 추론과 대규모 멀티모달 데이터를 처리하는 동적인 인터페이스로 설계 중심이 이동.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 에이전트 간 통신에 gRPC 스트리밍을 우선 사용하며, 외부 웹 인터페이스 제공 시에는 SSE 표준을 준수하여 사용자 경험을 최적화함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
-[[ system]]-Design-for-AI-Scale, [[LLM]], Streaming-Data-[[Processing]], Microservices
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/API-Design for AI Services.md
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-APKE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [auto-reinforced, api-key-[[Management]], security, devops, secrets-management, developer-experience]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[API-Key-Management]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "지능의 열쇠를 지키는 법: 외부 서비스를 이용하기 위한 디지털 신분증인 API Key를 안전하게 보관하고, 유출 시 즉시 폐기하며, 권한을 최소화하여 관리하는 현대 개발의 가장 기초적인 보안 성벽."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
API 키 관리(API-Key-Management)는 애플리케이션 프로그래밍 인터페이스를 통해 서비스에 접근할 때 필요한 인증 정보(Secrets)를 생성, 배포, 폐기 및 모니터링하는 일련의 보안 프로세스입니다.
|
||||
|
||||
1. **3대 보안 수칙**:
|
||||
* **Never Commit**: 절대 소스 코드(Git)에 API Key를 포함하지 않음. `.env` 파일을 사용하고 `.gitignore`에 등록 필수.
|
||||
* **Principle of Least Privilege**: 키마다 필요한 최소한의 권한(Scope)만 부여하고, 특정 IP나 도메인에서만 작동하도록 제한.
|
||||
* **Rotation**: 정기적으로 키를 교체하여 만약의 유출 피해 최소화.
|
||||
2. **유출 시 대응 워크플로우**:
|
||||
* 키 즉시 무효화(Revoke) -> 새로운 키 생성 -> 환경 변수 업데이트 -> 유출 범위 및 비용 발생 확인(Audit).
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 하드코딩된 키로 인해 대규모 유출 사고가 빈번했으나, 현대의 클라우드 인프라 정책은 'Secret Manager'를 통한 중앙 집중식 자동 관리 정책을 표준으로 삼음(RL Update).
|
||||
- **정책 변화(RL Update)**: AI 에이전트의 자율적 도구 활용 정책이 늘어남에 따라, 에이전트가 API 키를 직접 다루지 않고 안전하게 대리 요청(Proxy)하는 '에이전틱 키 거버넌스 정책'이 중요해짐.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Workflow-Inte[[Grit]]y]], [[Safety & Reliability]], [[Agent Architecture]], [[Tool-Usage-Optimization]], [[Technical-Architecture]]
|
||||
- **Modern Tech/Tools**: GitHub Secret Scanning, HashiCorp Vault, AWS Secrets Manager.
|
||||
---
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-ABTEST
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [A/B [[Testing]], [[Statistics]], Experiment, Growth Hacking]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[A_B-Testing-Platforms]] (A/B 테스트 및 실험 설계)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "내 생각엔 이게 좋다"는 주관성을 버리고, "사용자는 실제로 이렇게 반응한다"를 통계적으로 증명하는 마케팅과 엔지니어링의 결합체다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Hypothesis Testing (가설 검증)**:
|
||||
- "버튼 색상을 파란색에서 빨간색으로 바꾸면 클릭률(CTR)이 10% 오를 것이다"라는 명확한 가설을 세우고 실험군(A)과 대조군(B)으로 트래픽을 분할한다.
|
||||
- **Statistical Significance (p-value)**:
|
||||
- 실험 결과가 '우연'에 의한 것인지 아니면 '의도된 변화'인지 판별한다. 보통 p-value < 0.05를 기준으로 유의미함을 결정한다.
|
||||
- **Multi-armed Bandit (MAB)**:
|
||||
- 실험 중간에 성적이 좋은 쪽에 트래픽을 실시간으로 더 배분하여 '실험 비용'을 최소화하고 '수익'을 극대화하는 고도화된 타겟팅 알고리즘.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 한 번에 너무 많은 변수를 바꾸는 것은 금물이다(Simpsons Paradox). 오직 하나의 변인만 통제하여 결과의 인과관계를 명확히 해야 한다. 또한 장기적 영향(Late Arrival Bias)을 고려하여 최소 일주일 이상의 실험 기간을 확보하라.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Behavioral-Economics]] , [[Nudge Theory]]
|
||||
- Implementation: [[React_[[State]]_[[Management]]_Strategy]]
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ABUN-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.92
|
||||
tags: [auto-reinforced, abundance, economics, techno[[Logic]]al-optimism, resource-[[Management]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Abundance]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "결핍의 종말, 선택의 시작: 기술 진보를 통해 에너지, 정보, 물자가 무한에 가깝게 저렴해지며, 인간이 '생존'을 위한 경쟁 대신 '의미'를 향한 창조에 집중할 수 있게 되는 상태."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
풍요(Abundance)는 자원의 희소성(Scarcity)에 기반한 기존 경제학의 전제를 뒤흔드는 기술적, 사회적 현상입니다. 피터 디아만디스(Peter Diamandis) 등이 주장한 이 개념은 기술이 사치품을 생필품으로, 생필품을 보편 서비스로 전환함을 강조합니다.
|
||||
|
||||
1. **풍요를 이끄는 4대 동력**:
|
||||
* **Exponential Technologies**: 기하급수적으로 발전하는 컴퓨팅, AI, 로보틱스.
|
||||
* **The DIY Innovator**: 오픈 소스와 저렴한 도구를 통해 개인이 기업 수준의 혁신 수행.
|
||||
* **Technophilanthropists**: 기술로 사회 문제를 해결하려는 억만장자들의 기여.
|
||||
* **The Rising Billion**: 인터넷 연결을 통해 새롭게 글로벌 경제에 편입되는 수십억 명의 지성.
|
||||
2. **디지털 풍요 (Digital Abundance)**:
|
||||
* 정보의 복제 비용이 0에 수렴하며 발생. 음악, 지식, 소프트웨어의 보편적 접근 가능성 확보.
|
||||
3. **물리적 풍요의 예고**:
|
||||
* 태양광 등 재생 에너지의 효율 급증, 수직 농장을 통한 식량 생산 최적화, 3D 프린팅을 통한 맞춤형 제조.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거 경제 정책은 '자원의 배분'에만 집중했으나, 현대의 풍요 정책은 자원 자체가 넘쳐날 때 발생하는 '주의력(Attention) 부족'과 '목적 의식 상실'이라는 심리적 위기를 관리하는 정책으로 전환 중임(RL Update).
|
||||
- **정책 변화(RL Update)**: 환경 파괴 없는 풍요를 위해, 단순 소비 증대가 아닌 '지속 가능한 자원 순환'을 전제로 하는 '클린 풍요(Clean Abundance) 정책'이 글로벌 탄소 중립 정책과 결합되어 추진됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Economics of Attention, [[Universal Basic Income (UBI)]], Foundational Models, [[Social[[ system]]s Theory]], [[Ultra-Efficiency]]
|
||||
- **Modern Tech/Tools**: Solar energy harvesting, Precision agriculture AI, Open source [[Repository]] (GitHub).
|
||||
---
|
||||
@@ -0,0 +1,35 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ACIN-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [auto-reinforced, academic-inte[[Grit]]y, ethics, [[Research]]-conduct, plagiarism, ai-writing]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Academic-Integrity]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "지적 정직함의 보루: 타인의 생각을 훔치지 않고, 자신의 연구 과정을 투명하게 공개하며, 결과의 왜곡 없이 진실만을 추구하는 학문 공동체의 가장 기초적인 신뢰 자본."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
학술적 무결성(Academic-Integrity)은 교육과 연구 환경에서 윤리적 가치를 준수하며 지적 활동을 수행하는 태도와 원칙을 의미합니다.
|
||||
|
||||
1. **5대 핵심 가치 (ICAI 기준)**:
|
||||
* **Honesty**: 결과와 방법의 정직한 보고.
|
||||
* **Trust**: 학술적 상호작용의 신뢰성 확보.
|
||||
* **Fairness**: 타인의 기여를 공정하게 인정 (인용 표준 준수).
|
||||
* **Respect**: 지적 재산과 타인의 학문적 노동에 대한 존중.
|
||||
* **Responsibility**: 자신의 연구가 사회에 미칠 영향에 대한 책임감.
|
||||
2. **주요 위반 행위**:
|
||||
* **Plagiarism (표절)**: 인용 없이 타인의 작업물을 자신의 것처럼 발표.
|
||||
* **Fabrication (변조)**: 존재하지 않는 데이터를 만들어냄.
|
||||
* **Falsification (왜곡)**: 연구 결과를 의도적으로 조작.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 '인용 누락'이 주된 이슈였으나, 현대의 AI 정책은 'AI가 생성한 텍스트'를 어디까지 자신의 지적 기여로 볼 것인가에 대한 정책적 재정립을 요구받고 있음(RL Update).
|
||||
- **정책 변화(RL Update)**: 단순히 AI 사용을 금지하는 폐쇄적 정책에서 벗어나, AI 사용 여부와 프롬프트 과정을 투명하게 공개하는 'AI 활용 공표 정책' 및 '인간-AI 공동 저작권 가이드라인' 수립 방향으로 진화 중임.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ethics & AI]], [[Scientific Communication]], [[Toxicity-and-Bias-Mitigation]], [[Sociology of Knowledge]], [[Workflow-Integrity]]
|
||||
- **Modern Tech/Tools**: Turnitin (Plagiarism detection), AI-generated text detectors, Citation managers (Zotero).
|
||||
---
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-ACC-AUDIT
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [[[Accessibility]], Compliance, Audit, AI, Web]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Accessibility-Compliance-Audit]] (접근성 준수 감사)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "모두를 위한 웹은 기술이 아니라 권리다." 시각 장애인이나 고령자 등 모든 사용자가 웹 사이트의 정보를 평등하게 얻고 있는지 기술적으로 검증하는 프로세스다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Automated [[Testing]]**:
|
||||
- AI가 DOM 트리와 ARIA 속성을 분석하여 텍스트 대안(Alt text) 누락, 충분하지 않은 색상 대비(Color Contrast) 등을 자동으로 적발한다.
|
||||
- **Manual Heuristic Evaluation**:
|
||||
- 자동화 도구가 잡지 못하는 맥락적 접근성(예: 스크린 리더의 읽기 순서가 논리적인가?)을 전문가가 직접 점검한다.
|
||||
- **Reporting & Remediation**:
|
||||
- 감사 결과를 리포트화하고, 개발팀에 즉각적인 수정 가이드를 제공하여 법적 리스크(WCAG 준수 등)를 방어한다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 접근성 감사는 한 번의 '합격'으로 끝나지 않는다. 코드가 업데이트될 때마다 접근성 점수가 소리 없이 무너질 수 있으므로, CI/CD 파이프라인에 접근성 자동 검사를 통합하는 것이 핵심이다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: UI-UX-Foundations , [[Automated-Security-Audits]]
|
||||
- Standard: Web-Content-Accessibility-Guidelines-WCAG
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ACLE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [auto-reinforced, active-learning, machine-learning, [[Optimization]], data-[[Efficiency]], human-in-the-loop]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Active Learning]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "똑똑하게 질문해서 배우기: 모든 데이터를 맹목적으로 학습하는 대신, 정답을 알았을 때 모델의 지능이 가장 크게 상승할 것 같은 '핵심 질문(데이터)'만 골라 인간에게 정답을 요청하는 고효율 학습 전략."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
능동 학습(Active Learning)은 머신러닝 모델이 스스로 학습 과정에 참여하여, 레이블(Label)되지 않은 데이터 중 학습에 가장 도움이 될 데이터를 선별하고 전문가에게 레이블링을 요청하는 기법입니다.
|
||||
|
||||
1. **동작 원리 (Query [[Strategy]])**:
|
||||
* **Uncertainty Sampling**: 모델이 정답을 가장 확신하지 못하는(Entropy가 높은) 데이터를 고름.
|
||||
* **Query-by-Committee**: 여러 모델의 의견이 가장 일치하지 않는 데이터를 추출.
|
||||
* **Representativeness**: 전체 데이터의 분포를 가장 잘 대표하는 표본을 선택.
|
||||
2. **왜 필요한가?**:
|
||||
* 데이터는 많지만 '정답'을 다는 비용(인간 전문가의 시간)이 비쌀 때 유용. (예: 의료 영상 분석, 자율주행 데이터 레이블링)
|
||||
3. **기대 효과**:
|
||||
* 전체 데이터의 일부(10-20%)만 학습하고도 전체를 학습한 것과 비슷한 성능 달성 가능 (Data Efficiency).
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 단순히 '양질의 큰 데이터셋' 정책에 의존했으나, 현대 AI 인프라 정책은 데이터 전처리 비용을 줄이기 위해 시작부터 모델이 개입하는 'AI-driven Labeling 정책'을 핵심 인프라로 구축함(RL Update).
|
||||
- **정책 변화(RL Update)**: 인간과의 상호작용 피로도를 낮추기 위해, "꼭 필요한 질문만 던지는" 에이전트의 예절 및 효율성 알고리즘을 최적화하는 정책이 RAG 부문 및 도메인 특화 모델 개발의 표준이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[SFT (Supervised [[Fine-tuning]])]], [[RLHF (인간 피드백 기반 강화 학습)]], [[Resource-Management]], [[Decision Theory]], [[Scientific Communication]]
|
||||
- **Modern Tech/Tools**: Prodigy (Labeling tool), ModAL (Python framework for Active Learning).
|
||||
---
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ACRE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.94
|
||||
tags: [auto-reinforced, active-[[Reasoning]], [[Inference-Optimization]], chain-of-thought, cognitive-ai]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Active-Reasoning]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "생각의 주도권을 잡기: 주어진 질문에 답하는 수동적 추론을 넘어, 스스로 가설을 세우고, 정보를 보완하고, 중간 과정을 검증하며 최적의 논리 경로를 개척해 나가는 능동적 지적 행위."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
능동적 추론(Active-Reasoning)은 시스템이 목표 달성을 위해 필요한 정보를 스스로 식별하고, 불확실성을 해소하기 위해 사고 과정을 동적으로 재구성하는 고도의 추론 패러다임입니다.
|
||||
|
||||
1. **핵심 메커니즘**:
|
||||
* **Hypothesis Generation**: 단순 예측이 아닌 여러 가지 가능성(Scenario)을 스스로 생성.
|
||||
* **Information Seeking**: 답을 내기에 지식이 부족하면 외부 도구(검색, API)를 사용하거나 사용자에게 되물을 것을 결정.
|
||||
* **Self-Verification (Step-by-step)**: 각 추론 단계가 타당한지 스스로 검열하고 오류 발견 시 즉각 수정 (Zero-Shot-CoT와 결합).
|
||||
2. **적용 분야**:
|
||||
* 복잡한 코딩 디버깅 에이전트, 의료 진단 지원 시스템, 다단계 전략 게임 AI.
|
||||
3. **시스템 2와의 연결**:
|
||||
* 다니엘 카너먼의 '느린 사고(System 2)'와 유사함. 즉각적인 직관(System 1) 대신 논리적 뼈대를 구축하며 시간을 들여 고민함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거 언어 모델 정책은 확률적 토큰 생성(Next-token prediction)에만 매몰되었으나, 현대 인공지능 정책은 추론 전용 모델(예: OpenAI o1) 출시를 통해 모델이 답을 내기 전 내부적으로 수천 번 '능동적으로 생각'하는 정책을 실현함(RL Update).
|
||||
- **정책 변화(RL Update)**: 답변의 투명성 확보를 위해, AI가 '생각한 과정'을 숨기지 않고 사용자에게 구조화된 형태로 보여주도록 하는 '생각의 가시화 정책'이 고난도 비즈니스 솔루션의 필수 요건이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Zero-Shot-Chain-of-Thought]], [[Self-Correction Mechanisms]], [[Thought-Architecture]], [[Decision Theory]], Foundational Models
|
||||
- **Modern Tech/Tools**: Chain-of-Thought (CoT) frameworks, [[Logic]]-integrated LLMs.
|
||||
---
|
||||
@@ -0,0 +1,36 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ACTI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.89
|
||||
tags: [auto-reinforced, activism, social-change, collective-action, digital-campaigning]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Activism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "세상을 바꾸는 의도된 압력: 사회적, 정치적, 환경적 변화를 이끌어내기 위해 개인이 집단으로 뭉쳐 불의에 저항하거나 새로운 가치를 확산시키는 강력한 실천주의."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
액티비즘(Activism, 행동주의)은 특정 사회 문제에 대한 변화를 촉구하거나 저지하기 위해 행해지는 의도적인 집단 행동입니다.
|
||||
|
||||
1. **유형별 분류**:
|
||||
* **Digital Activism**: SNS 해시태그 운동, 온라인 서명, 데이터 공개를 통한 공론화 (Slacktivism 경계).
|
||||
* **Grassroots**: 지역 사회의 밑바닥부터 시작되는 아래로부터의 조직화.
|
||||
* **Legislative**: 법안 발의 및 정책 변화를 목표로 하는 로비와 캠페인.
|
||||
* **Direct Action**: 시위, 파업, 보이콧 등 물리적인 참여를 통한 직접적 압박.
|
||||
2. **핵심 성공 요인**:
|
||||
* **Narrative Construction**: 대중의 공감을 얻을 수 있는 명확한 명분과 스토리 구축 ([[Victimhood-Narratives]]의 올바른 활용).
|
||||
* **Mobilization [[Strategy]]**: 자원과 인력을 효율적으로 배치하는 조직 운영 기술.
|
||||
3. **AI와 액티비즘**:
|
||||
* **Data Activism**: 정부나 기업이 숨긴 데이터를 발견하고 시각화하여 사회적 반향을 일으킴.
|
||||
* **AI Guardrails**: 편향된 AI 알고리즘에 대항하여 더 공정한 기술 사용을 요구하는 새로운 형태의 액티비즘 출현.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 중앙 집중적인 지도자가 필수였으나, 현대의 네트워크 정책은 지도자 없는(Leaderless) 분산형 군집 액티비즘 정책으로 진화함(RL Update, 예: [[Swarm Intelligence]] 관점).
|
||||
- **정책 변화(RL Update)**: 딥페이크나 허위 정보(Disinformation)를 활용한 '가짜 액티비즘'이 사회 안보를 위협함에 따라, 행동의 진위 여부를 확인하고 출처를 명시하는 '디지털 시민성 정책'이 정보 정책의 핵심으로 부상함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Social[[ system]]s Theory]], [[Victimhood-Narratives]], [[Strategic-Planning]], [[Viral-Dynamics-and-Network-Effects]], [[Ethics & AI]]
|
||||
- **Modern Tech/Tools**: Secure messaging (Signal), Crowdfunding platforms, Social media monitoring.
|
||||
---
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ACMO-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [auto-reinforced, [[Reinforcement-Learning]], actor-critic, [[Deep-Learning]], machine-learning-[[Architecture]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Actor-Critic-Models]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "배우와 비평가의 이인삼조: 직접 행동하며 점수를 따는 '배우(Actor)'와, 그 행동의 가치를 냉정하게 평가하여 배우의 실력을 키워주는 '비평가(Critic)'가 결합된 가장 강력한 강화학습 구조."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
액터-크리틱(Actor-Critic) 모델은 강화학습에서 정책 기반(Policy-based) 방식과 가치 기반(Value-based) 방식의 장점을 결합한 아키텍처입니다.
|
||||
|
||||
1. **구성 요소와 역할**:
|
||||
* **Actor (정책)**: 현재 상태에서 어떤 행동을 할지 결정. 학습을 통해 더 높은 보상을 얻는 행동의 확률을 높임.
|
||||
* **Critic (가치)**: 배우가 취한 행동의 결과를 보고, 그 상태의 가치(Value)나 보상 예측 오차(TD Error)를 계산하여 가이드라인 제공.
|
||||
2. **학습 루프**:
|
||||
* 배우가 행동 수행 -> 환경이 보상 반환 -> 비평가가 평가(Value 예측) -> 비평가가 자신의 오류(Critic Loss) 수정 및 배우에게 '어드밴티지(Advantage)' 전달 -> 배우가 칭찬받은 방향으로 정책 업데이트.
|
||||
3. **왜 사용하는가?**:
|
||||
* 기존 Policy Gradient 방식의 높은 분산(Variance) 문제를 비평가의 안정적인 가치 평가로 완화하여 학습의 수렴 속도를 비약적으로 높임.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 초기 강화학습은 한쪽(Actor 혹은 Critic)에만 치우쳐 학습 효율이 낮았으나, 현대의 정책 기반 RL 정책은 A3C, PPO, SAC 등 액터-크리틱 구조를 표준으로 채택하여 인간 수준의 게임 및 로봇 제어 정책을 실현함(RL Update).
|
||||
- **정책 변화(RL Update)**: 거대 언어 모델의 RLHF 과정에서, 보상 모델(RM)이 비평가 역할을 수용하여 모델의 답변 품질을 정밀하게 교정하는 '언어 지능용 액터-크리틱 정책'이 생성 AI 품질의 핵심 지표로 자리 잡음.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Reinforcement Learning (RL)]], [[RLHF (인간 피드백 기반 강화 학습)]], [[Reward Prediction Error]], [[Decision Theory]], [[Robotics]]
|
||||
- **Modern Tech/Tools**: PPO (Proximal Policy [[Optimization]]), Soft Actor-Critic (SAC), Stable Baselines3.
|
||||
---
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ADHY-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.93
|
||||
tags: [auto-reinforced, [[Philosophy]]-of-science, [[Logic]], ad-hoc, hypotheses, critical-thinking]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Ad-hoc-Hypotheses]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "이론을 지키기 위한 억지 땜질: 자신의 이론이 틀렸음이 밝혀지는 순간, 이론을 폐기하는 대신 오직 그 예외 상황만을 모면하기 위해 덧붙이는 비논리적이고 자기 방어적인 가설."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
Ad-hoc 가설(임시방편적 가설)은 과학철학에서 이론이 예측에 실패하거나 반증 사례를 만났을 때, 원래 이론의 핵심을 수정하지 않고 오직 그 실패 사례만을 설명하기 위해 임의로 도입하는 가설을 뜻합니다.
|
||||
|
||||
1. **부정적 특징**:
|
||||
* **Non-falsifiable**: 가설 자체가 반증 불가능하게 설계되는 경우가 많음.
|
||||
* **Complexity Increase**: 오컴의 면도날(단순성 원칙)을 어기고 이론을 불필요하게 복잡하게 만듦.
|
||||
* **Progressive Failure**: 하나를 막기 위해 또 다른 Ad-hoc 가설을 계속 덧붙이게 됨.
|
||||
2. **구분**:
|
||||
* 모든 새로운 가설이 Ad-hoc은 아님. 만약 새로운 가설이 **추가적인 예측 가능성**을 제공하고 검증 가능하다면 정당한 이론 확장이지만, 오직 '변명'에 그친다면 Ad-hoc임.
|
||||
3. **지식 관리에서의 교훈**:
|
||||
* 시스템 설계나 지식 베이스 구축 시, 예외 케이스가 나올 때마다 '특별 규칙'을 추가하는 것은 Ad-hoc적 대응임. 근본적인 구조(Standard)를 재설계해야 함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거의 관료적 정책 수립 시, 정책의 실패를 가리기 위해 수많은 예외 조항(Ad-hoc)을 덧붙였으나, 현대의 '데이터 기반 거버넌스 정책'은 원칙 설계 단계부터 예외를 포함하는 '[[Algorithmic Fairness]]' 정책으로 진화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 과학적 발견 정책에서, Ad-hoc 가설의 범람을 막기 위해 연구 전 실험 계획을 미리 등록하는 'Preregistration' 정책이 학문적 무결성 확보의 핵심 가이드라인으로 채택됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Philosophy of Science, Occam's Razor, [[Wicked-Problems]], Cognitive-Bias, [[Academic-Inte[[Grit]]y]]
|
||||
- **Modern Tech/Tools**: Critical thinking [[Protocols]], Peer review[[ system]]s.
|
||||
---
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ADOP-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced, [[Optimization]], ad-hoc, process-[[Efficiency]], project-[[Management]], software-design]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Ad-hoc-Optimization]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "눈앞의 불만 끄기: 시스템 전체의 효율이나 장기적인 구조는 무시한 채, 지금 당장 문제가 되는 부분만 임시방편으로 빠르게 다듬어 '작동하는 것처럼' 보이게 만드는 조급한 최적화."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
Ad-hoc 최적화(임시적 최적화)는 전체적인 설계 원칙(Standardization)이나 전략적 방향성 없이, 특정 상황이나 예외적인 케이스에 대해서만 국소적으로 수행되는 최적화 작업을 의미합니다.
|
||||
|
||||
1. **위험 요인**:
|
||||
* **Technical Debt (기술적 부채)**: 당장은 빠르지만, 나중에 시스템 전체를 고칠 때 거대한 걸림돌이 됨.
|
||||
* **Shadow Complexity**: 보이지 않는 곳에 비정형적인 로직이 쌓여 시스템의 투명성이 낮아짐.
|
||||
* **Inconsistency**: 한 부분의 Ad-hoc 최적화가 다른 부분의 성능을 갉아먹는 '부작용' 발생 (Sub-optimization).
|
||||
2. **정당화되는 경우**:
|
||||
* **Hotfix**: 시스템이 완전히 붕괴될 위기에서 즉각적인 복구가 필요할 때.
|
||||
* **Rapid [[Prototyping]]**: 초기 아이디어를 검증하기 위해 거친 코드로 빠르게 구현해볼 때.
|
||||
3. **개선 프로세스**:
|
||||
* Ad-hoc 조치 후에는 반드시 '사후 병합(Refactoring)' 과정을 거쳐 해당 최적화를 표준 아키텍처 내로 편입시켜야 함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거의 '결과 중심 개발 정책'은 Ad-hoc 최적화를 통해 일정을 맞추는 것을 권장했으나, 현대의 '지속 가능한 시스템 운영 정책'은 이를 잠재적 리스크로 규정하고 정기적인 코드 리뷰와 설계 승인(QC) 정책을 강화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 인프라 운영 정책에서, 수동으로 Ad-hoc 설정을 변경하는 대신 모든 변화를 코드로 관리하는 'IaC (Infrastructure as Code) 정책'을 도입하여 임시방편적 개입을 원천 차단하는 방향으로 진화함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Standardization vs Innovation]], [[Workflow-Inte[[Grit]]y]], [[Theory of Constraints (TOC)]], [[Software-Design-Principles]], [[Operations-Research]]
|
||||
- **Modern Tech/Tools**: Refactoring tools, Static code [[Analysis]], CI/CD automated [[Testing]].
|
||||
---
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ADAP-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [auto-reinforced, adaptability, [[Resilience]], survival-[[Strategy]], complex-adaptive-systems]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Adaptability]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "바뀌는 바람에 돛을 맞추는 기술: 과거의 성공 방정식이 더 이상 통하지 않는 순간, 자신의 형태와 전략을 유연하게 수정하여 새로운 환경에서도 가치를 창출해내는 생명의 본능이자 시스템의 핵심 지능."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
적응성(Adaptability)은 시스템, 조직, 혹은 개인이 예기치 못한 환경 변화나 외부 충격에 직면했을 때, 기능적 무결성을 유지하면서 새로운 상황에 최적화된 상태로 변모하는 능력입니다.
|
||||
|
||||
1. **적응의 3대 요소**:
|
||||
* **Sensitivity**: 주변의 변화를 얼마나 빠르고 정확하게 감지하는가?
|
||||
* **Flexibility**: 변화에 대응해 내부 구조나 행동을 바꿀 수 있는 선택지가 얼마나 다양한가? ([[Stability vs Flexibility]])
|
||||
* **Learning Capacity**: 과거의 대응 결과를 학습하여 다음 적응 시 더 효율적으로 반응하는가?
|
||||
2. **생태계적 관점**:
|
||||
* 강한 자가 살아남는 것이 아니라, **적응하는 자가 살아남는다.** (다윈주의적 생존).
|
||||
* **Complex Adaptive[[ system]]s**: 수많은 피드백 루프를 통해 스스로 질서를 재편하는 시스템.
|
||||
3. **지식 근로자의 적응성**:
|
||||
* AI라는 거대한 파도 앞에서 자신의 역량을 재정의하고 도구 활용법을 익히는 '어필리티(AQ, Adaptability Quotient)'가 지능 지수(IQ)나 감성 지수(EQ)보다 중요해짐.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거의 산업 정책은 '특정 기술에 대한 절대적 숙달' 정책을 지향했으나, 현대의 불확실한 기술 정책은 언제든 기존 기술을 버리고 새 기술로 갈아탈 수 있는 '적응형 인재 육성 정책'으로 전환함(RL Update).
|
||||
- **정책 변화(RL Update)**: 국가 복지 및 교육 정책에서, 한 번의 전공이 평생 직업을 보장하지 못함을 인지하고 생애 주기별로 끊임없이 직업을 전환할 수 있도록 돕는 '유연 안전성(Flexicurity) 정책'이 전 지구 표준으로 확산 중임.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Stability vs Flexibility]], [[Robustness]], [[Active Learning]], [[Transfer Learning]], Complex Adaptive Systems, [[Ps-Reinforce]]
|
||||
- **Modern Tech/Tools**: Agile methodology, Resilience engineering, Life-long learning platforms.
|
||||
---
|
||||
@@ -0,0 +1,25 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-ADAPTIVE-COMPUTE
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.97
|
||||
tags: [AI, [[Efficiency]], AdaptiveCompute, Inference]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Adaptive Compute (적응형 계산량 조절)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "쉬운 문제는 대충, 어려운 문제는 신중하게." 모든 입력에 동일한 계산 자원을 낭비하지 않고, 과제 난이도에 따라 모델이 사용하는 연산량(층의 깊이, 활성 뉴런 수 등)을 유동적으로 조절하는 지능적 자원 배분 기술이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Early Exit**: 모델의 중간 층에서 이미 결과가 확실하다면 최종 층까지 가지 않고 바로 결과를 출력하여 시간과 에너지를 아낌.
|
||||
- **MoE (Mixture of Experts)**: 거대 모델의 일부(전공 교수)만 활성화하여 특정 분야의 질문에만 자원을 집중함.
|
||||
- **Dynamic Token [[Processing]]**: 문맥상 중요하지 않은 단어(조사 등)는 낮은 정밀도로 처리하고, 핵심적인 단어에 연산력을 몰아줌.
|
||||
- **Inference Efficiency**: 동일한 정확도를 유지하면서 서빙 비용(GPU 소모)을 획기적으로 낮추는 핵심 열쇠다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 계산량을 줄이는 과정에서 모델의 '설명 가능성'이 파편화될 위험이 있다. 또한 어떤 문제가 '쉬운 문제'인지 판단하는 과정 자체가 또 다른 계산 오버헤드가 될 수 있으므로, 판단 로직을 극도로 가볍게 설계하는 것이 쟁점이다. 최근에는 OpenAI o1처럼 추론 시간을 의도적으로 늘려 성능을 극대화하는 '역방향' 적응형 계산 연구도 부상하고 있다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Model-Compression]] , Mixture of Experts (MoE)
|
||||
- Modern Pattern: [[Test-Time Compute Scaling (추론 시간 계산 스케일링)]]
|
||||
@@ -0,0 +1,36 @@
|
||||
# [[Adaptive Context Compaction (적응형 컨텍스트 압축)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Adaptive Context Compaction은 에이전트의 현재 작업 상태, 토큰 소모량, 그리고 모델의 성능 유지 능력을 실시간으로 평가하여, 컨텍스트 윈도우 내의 정보를 동적으로 압축하거나 제거하는 최적화 기술이다. 모든 정보를 동일하게 요약하는 대신, 작업에 결정적인 정보는 원본을 유지하고 부수적인 정보는 고도로 압축하는 '가변적 압축률'을 적용하는 것이 핵심이다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **가변적 요약 (Variable-rate Summarization)**: 현재 진행 중인 작업(WTM)과 관련된 대화는 상세히 유지하고, 이미 완료된 단계나 단순 정보 탐색 로그는 한 문장으로 압축한다.
|
||||
* **증거 보존 정책 (Evidence Retention)**: 실제 읽은 파일 내용이나 실행 결과(Evidence Memory) 중 핵심 수치나 코드는 압축 대상에서 제외하여 정보의 구체성(Concreteness)을 유지한다.
|
||||
* **동적 슬라이딩 윈도우**: 단순히 오래된 순으로 삭제하는 것이 아니라, 작업의 인과 관계(Causal Chain)를 분석하여 중요도가 낮은 과거 블록을 선택적으로 폐기한다.
|
||||
* **의도 추출 (Intent Extraction)**: 대화 이력을 그대로 요약하기보다 "사용자가 A를 요청했고 에이전트가 B를 제안하여 최종적으로 C로 결정함"과 같이 의도와 결정 사항 중심으로 지식을 추출한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **추론 부하**: 압축 결정을 내리고 실제 압축을 수행하는 과정에서 모델의 지능을 사용하므로, 잦은 압축은 시스템 반응 속도를 늦출 수 있다.
|
||||
* **복구 불가능성**: 압축 과정에서 버려진 세부 정보가 나중에 필요해질 경우, 다시 원본을 조회하거나 재작성해야 하는 비용이 발생한다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Context Engineering]]
|
||||
* 연결 이유: 압축 기술은 컨텍스트 엔지니어링을 구현하는 핵심 수단이다.
|
||||
* [[Summary Drift]]
|
||||
* 연결 이유: 과도하거나 반복적인 압축은 정보의 왜곡을 초래할 수 있다.
|
||||
* [[Inference-Coupled Persistence]]
|
||||
* 연결 이유: 압축된 정보를 영구 저장소에 저장하여 향후 세션에서 재활용한다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 작업의 '중요도'를 모델이 판단하게 할 때, 편향이나 누락 없이 평가하게 만드는 가이드라인(Persona)은 무엇인가?
|
||||
* 압축 전후의 작업 성공률을 비교하여 최적의 압축 시점(Compression Trigger)을 결정하는 강화 학습 모델을 설계할 수 있는가?
|
||||
* 압축된 지식과 원본 지식 간의 계층적 구조를 만들어, 필요할 때만 원본을 불러오는 '페이징(Paging)' 시스템은 어떻게 구현하는가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** 하네스의 C-component에서 토큰 사용량이 70%를 넘을 때 자동으로 '압축 에이전트'를 호출하여 이력을 정제한다.
|
||||
* **System Design:** 에이전트가 "이 부분은 나중에 다시 필요할 것 같아"라고 표시(Marking)한 컨텍스트 블록은 압축 우선순위에서 제외하는 태그 시스템을 구축한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ADCU-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.92
|
||||
tags: [auto-reinforced, curation, adaptation, information-filter, adaptive-content, customization]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Adaptive-Curation]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "당신만을 위한 세상의 가공: 쏟아지는 정보와 상품 중에서 사용자의 시시각각 변하는 맥락, 취향, 피드백을 실시간으로 반영하여 가장 가치 있는 것들만 정제해 보여주는 지능형 큐레이션."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
적응형 큐레이션(Adaptive-Curation)은 사용자의 행동 데이터와 외부 환경의 변화를 학습하여, 최적의 콘텐츠나 정보를 선별(Curate)해 제공하는 기술 및 전략입니다.
|
||||
|
||||
1. **동작 핵심**:
|
||||
* **Dynamic Feedback Loop**: 사용자가 클릭하거나 무시하는 신호를 즉각적으로 반영하여 추천 알고리즘 수정.
|
||||
* **Context-Awareness**: 시간, 장소, 현재 감정 상태 등 외부 맥락을 파악하여 큐레이션 기준 변경.
|
||||
* **Multi-objective Balancing**: 사용자의 만족도(Engagement) 뿐만 아니라 다양성(Diversity), 정보의 신뢰성(Trust) 등 상충하는 목표를 동시에 최적화.
|
||||
2. **기존 시스템과의 차이**:
|
||||
* **Static Curation**: 사람이 수동으로 선정한 리스트 (일관성은 높으나 개인화 부족).
|
||||
* **Simple Algorithm**: 과거 취향에만 고착된 추천 (에코 챔버 발생 위험).
|
||||
* **Adaptive Curation**: 변화하는 취향을 선제적으로 감지하고 발견(Discovery)의 기쁨을 제공.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거 미디어 정책은 편집자의 권위를 통한 '일방통행적 정보 배포' 정책이었으나, 현대의 플랫폼 정책은 개별 사용자에게 최적화된 '분산형 적응 큐레이션 정책'으로 독점을 정당화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 적응형 큐레이션이 '필터 버블'을 강화하고 확증 편향을 심화시킨다는 비판 정책이 제기됨에 따라, 의도적으로 사용자에게 상반된 의견을 노출시키는 '균형 잡힌 적응 큐레이션 정책' 도입이 공공 알고리즘의 의무 요건이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Personalization, Exploitation vs Exploration, [[Reward Prediction Error]], Information Ethics, [[Superficiality-Metrics]]
|
||||
- **Modern Tech/Tools**: TikTok recommendation engine, Spotify Daily Mix, Amazon's adaptive storefront.
|
||||
---
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-ADV-IF-DESIGN
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.97
|
||||
tags: [Interface Design, UX, Human-Computer Interaction, AI]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Advanced-Interface-Design]] (고급 인터페이스 설계)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "보이지 않는 인터페이스가 가장 훌륭한 인터페이스다." 사용자의 의도를 예측하고 대화를 최소화하면서도 완벽한 경험을 선사하는 고도의 심미적/공학적 설계 체계다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Predictive Interaction**:
|
||||
- 과거 행동 데이터를 기반으로 사용자가 다음에 무엇을 클릭할지 예측하여 미리 로딩하거나 인터페이스를 배치한다.
|
||||
- **Micro-animations & Feedback**:
|
||||
- 미묘한 움직임으로 시스템의 상태를 알리고, 사용자의 행동에 즉각적이고 부드러운 심리적 만족감을 제공한다.
|
||||
- **Multi-modal Input**:
|
||||
- 터치, 음성, 시선, 제스처 등 다양한 입력 수단을 통합하여 가장 자연스러운 맥락에서 시스템과 소통하게 한다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 인터페이스가 너무 '지능적'이면 사용자가 통제권을 상실했다고 느낄 수 있다(Black box effect). 따라서 시스템이 왜 이런 제안을 하는지 투명하게 보여주는 '설명 가능한 인터페이스'의 조화가 필요하다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: UI-UX-Foundations , [[Psychology]]_Cognitive_Science
|
||||
- Context: [[Modern_Environment_Ecosystem]]
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-36585B
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced]
|
||||
last_reinforced: 2026-04-20
|
||||
github_commit: "[P-Reinforce] Continuous Worker - Adversarial Code Stylometry"
|
||||
---
|
||||
|
||||
# [[Adversarial Code Stylometry]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> Adversarial Code Stylometry(적대적 코드 문체론)는 프로그래머가 코드 문체 분석(Code Stylometry) 시스템의 추적을 우회하여 자신의 익명성을 보호하기 위해 의도적으로 코드를 변형하는 기법입니다 [1-3]. 주로 자신의 고유한 코딩 스타일을 숨기는 난독화(obfuscation)와 다른 프로그래머의 스타일을 흉내 내는 모방(mimicry) 기술을 사용합니다 [2-4]. 이는 감시와 검열에 맞서 프라이버시 향상 도구를 개발하는 오픈소스 기여자들이 신원 노출로 인한 탄압을 피하기 위한 핵심적인 방어 수단으로 연구되고 있습니다 [5-7].
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
* **배경 및 필요성:** 인터넷 검열과 감시가 강화됨에 따라 프라이버시 향상 기술이나 검열 우회 도구를 개발하는 오픈소스 개발자들이 국가나 기관의 표적이 되는 사례가 늘고 있습니다 [5, 6, 8]. 코드 작성자의 코딩 스타일을 분석해 신원을 파악하는 소스 코드 문체론(Source Code Stylometry)은 이러한 개발자들에게 심각한 위협이 되며, 이에 대항하여 익명성을 유지할 수 있는 적대적 방어 기법이 필요해졌습니다 [7].
|
||||
* **공격 기법 (난독화 및 모방):** 적대적 코드 문체론은 크게 두 가지 접근법을 취합니다. 첫째는 자신의 식별 가능한 코딩 스타일을 모호하게 만드는 '난독화(obfuscation / masking)'이고, 둘째는 다른 특정 작가로 기계 학습 모델을 속이기 위해 의도적으로 대상의 스타일을 흉내 내는 '모방(mimicry / forgery)' 공격입니다 [2-4, 9].
|
||||
* **기존 문체 분석 시스템의 취약성:** 최첨단 소스 코드 문체 분석 시스템조차도 적대적 수정에 취약한 것으로 나타났습니다 [3, 9]. 변수 이름, 매크로, 리터럴, API 호출 등 국소적인 정보(local changes)나 표면적인 형식 변경만으로도 분류기(classifier)를 속여 다른 사람으로 오분류하게 만드는 것이 가능합니다 [10, 11].
|
||||
* **방어 지원 도구 ([[StyleCounsel]]):** 개발자가 다른 이의 스타일을 모방하고 자신의 스타일을 난독화할 수 있도록 돕는 `StyleCounsel`과 같은 시스템이 개발되었습니다 [2, 12]. 이 도구는 랜덤 포레스트(Random Forest)와 같은 기계 학습 모델의 의사 결정 트리를 분석하여, 오분류를 유도할 수 있는 구체적이고 최소한의 코드 변경 사항(예: 특정 구문의 사용 빈도 조절 등)을 사용자에게 추천합니다 [2, 13, 14].
|
||||
* **코드 포매팅을 통한 프라이버시 보호막:** [[Prettier]]나 Black 등과 같은 결정론적 코드 포매터(Formatter) 및 최소화(Minification) 도구를 적용하는 것만으로도 작성자 인식 정확도를 크게 떨어뜨릴 수 있습니다 [15, 16]. 연구에 따르면 코드 포매팅 적용 시 식별 정확도가 68%에서 53%로 하락하며, 최소화를 거치면 50%까지 떨어져 코드 문체론 분석에 대한 실질적인 프라이버시 보호막(Privacy shield) 역할을 수행합니다 [17-19].
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 자동화 엔진에 의해 매핑된 지식으로, 추후 정밀 검증 필요.
|
||||
- **정책 변화:** AI 분야의 자동 자산화 수행.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Related Topics:** Code Stylometry, Obfuscation, Mimicry Attack, [[StyleCounsel]]
|
||||
- **Projects/Contexts:** 오픈소스 기여자 익명성 보장, 검열 우회 및 프라이버시 보호 도구 개발
|
||||
- **Contradictions/Notes:** Caliskan-Islam 등의 기존 연구에서는 'Stunnix'와 같은 상용 난독화 도구를 사용해도 분류기의 식별 정확도가 거의 떨어지지 않는다고 보고했습니다. 그러나 Simko 등의 적대적 연구에서는 실험 참가자들이 표면적인 수준의 변수명 교체나 국소적인 구조 변경 등 간단한 조작을 가하는 것만으로도 기계 학습 모델을 성공적으로 속일 수 있음을 입증하며 기존 분류 시스템의 취약성과 한계를 지적했습니다 [11, 20].
|
||||
|
||||
---
|
||||
*Last updated: 2026-04-19*
|
||||
|
||||
---
|
||||
@@ -1,8 +1,8 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-AEVA-001
|
||||
id: [[P-Reinforce]]-AUTO-AEVA-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.91
|
||||
tags: [auto-reinforced, aesthetics, value-theory, art-philosophy, design-principles]
|
||||
tags: [auto-reinforced, aesthetics, value-theory, art-[[Philosophy]], design-[[Principles]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
@@ -15,12 +15,12 @@ last_reinforced: 2026-04-20
|
||||
미적 가치(Aesthetic-Value)는 사물이나 예술 작품이 가진 가치 중, 그것을 지각하거나 경험할 때 느끼는 아름다움, 숭엄함, 조화로움 등과 관련된 가치를 의미합니다.
|
||||
|
||||
1. **미적 가치의 구성 요소**:
|
||||
* **Balance & Harmony**: 구성 요소들 간의 균형과 질서. (Symmetry-and-Invariance와 연결)
|
||||
* **Balance & Harmony**: 구성 요소들 간의 균형과 질서. ([[Symmetry-and-Invariance]]와 연결)
|
||||
* **Complexity & Novelty**: 너무 단순하면 지루하고, 너무 복잡하면 혼란스럽지만, 적절한 복잡성 속에 숨겨진 참신함은 높은 미적 가치를 가짐.
|
||||
* **Sublimity (숭고함)**: 인간의 이해를 넘어서는 거대함이나 압도적인 힘에서 느끼는 심미적 경외감.
|
||||
2. **적용 및 중요성**:
|
||||
* **UI/UX Design**: 심미적으로 뛰어난 디자인은 사용자에게 신뢰감을 주며 시스템의 사용성을 높임 (Aesthetic-Usability Effect).
|
||||
* **Architecture**: 공간의 미적 가치는 거주자의 정서와 행동 방식에 영향을 미침.
|
||||
* **[[Architecture]]**: 공간의 미적 가치는 거주자의 정서와 행동 방식에 영향을 미침.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 미학을 인간 전유의 주관적 영역으로 보았으나, 현대의 AI 미학 정책은 인간의 뇌가 선호하는 패턴을 통계적으로 학습하여 '객관적인 미적 가치 점수'를 산출하고 생성 AI에 투영하는 정책으로 진화함(RL Update).
|
||||
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AFFO-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [auto-reinforced, affordance, interaction-design, [[Psychology]], design-theory]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Affordance]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "설명 없이도 알게 하는 행동의 유도: 버튼은 누르고 싶게, 손잡이는 잡고 싶게 만드는 것처럼, 사물의 형태 자체가 인간에게 '어떻게 행동해야 할지'를 본능적으로 알려주는 직관적 설계의 힘."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
어포던스(Affordance, 행동 유도성)는 도널드 노먼(Donald Norman)이 디자인 분야에 대중화시킨 개념으로, 사물의 물리적 특성이 사용자에게 어떤 행동을 하도록 유도하거나 허용하는 성질을 뜻합니다.
|
||||
|
||||
1. **어포던스의 유형**:
|
||||
* **Physical Affordance**: 문손잡이의 모양이 '당기기'를 유도하는 것과 같은 물리적 구조.
|
||||
* **Perceived Affordance**: 실제로 기능하진 않더라도 버튼처럼 보이면 '클릭'할 수 있다고 인지하는 것.
|
||||
* **False Affordance**: 버튼처럼 보이지만 실제로는 동작하지 않는 함정.
|
||||
* **Hidden Affordance**: 동작은 가능하지만 시각적으로 어떻게 쓰는지 알 수 없는 비밀 기능.
|
||||
2. **디자인에서의 중요성**:
|
||||
* 설명서 없이도 제품을 쓸 수 있게 만드는 것이 최고 수준의 어포던스 설계임.
|
||||
* 디지털 인터페이스(UI)에서는 그림자, 색상 반전 등을 통해 클릭 가능 여부를 표현함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 스큐어모피즘(Skeuomorphism, 실물을 흉내 낸 디자인)을 통해 어포던스를 확보했으나, 현대의 미니멀리즘 정책은 사용자의 학습 능력을 전제로 '플랫 디자인' 하에서도 맥락(Context)을 통한 어포던스를 창출하는 정책으로 변화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 보조 공학 및 접근성 정책에서, 시각장애인이나 고령자 등 모든 사용자가 사물의 어포던스를 균등하게 느낄 수 있도록 하는 '유니버설 어포던스 가이드라인' 준수가 법적 의무 정책으로 강화됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Human-Computer Interaction (HCI), [[Aesthetic-Value]], [[Psychology & Behavior]], [[Software-Design-Principles]], [[Robotics]]
|
||||
- **Modern Tech/Tools**: [[Apple Human Interface Guidelines]], Material Design (Google), Haptic feedback[[ system]]s.
|
||||
---
|
||||
@@ -0,0 +1,36 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AGAR-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [auto-reinforced, agent-[[Architecture]], ai-agents, [[Cognitive-Architecture]], [[Modular-Design]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Agent Architecture]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "자율 주행하는 지능의 내부 구조: 단순히 답을 내는 모델을 넘어, 기억([[memory]]), 계획(Planning), 도구 활용(Tool Use) 기능을 유기적으로 결합하여 독립적으로 미션을 수행하는 에이전트의 뇌 설계."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
에이전트 아키텍처(Agent Architecture)는 인공지능이 환경을 인식하고, 추론하며, 목표 달성을 위해 행동하는 일련의 과정을 구조화한 설계를 의미합니다.
|
||||
|
||||
1. **AI 에이전트의 4대 구성 요소**:
|
||||
* **Brain (The LLM)**: 핵심적인 추론 및 의사결합 엔진.
|
||||
* **Planning**: 목표를 하위 태스크로 분해(Task Decomposition) 및 자가 성찰(Self-[[Reflection]]).
|
||||
* **Memory**:
|
||||
* **Short-term**: 현재 대화의 맥락 (Context Window).
|
||||
* **Long-term**: 외부 데이터베이스 연결 (RAG, Vector DB).
|
||||
* **Tools (Action)**: 코드를 실행하거나 API를 호출하여 현실 세계에 영향을 미치는 수단.
|
||||
2. **아키텍처 패턴**:
|
||||
* **ReAct**: Reason + Act를 순차적으로 반복하여 문제 해결.
|
||||
* **Plan-and-Execute**: 전체 계획을 먼저 세우고 하나씩 실행.
|
||||
* **Multi-Agent**: 전문화된 여러 에이전트가 협업하는 구조.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 하나의 거대 모델이 모든 걸 다 하는 'Single-model' 정책이었으나, 현대의 고난도 태스크 수행 정책은 각 기능을 모듈화하고 순차적으로 연결하는 '에이전틱 워크플로우(Agentic Workflow) 정책'으로 패러다임을 전환함(RL Update).
|
||||
- **정책 변화(RL Update)**: 에이전트의 자율 통제 불능 리스크를 방어하기 위해, 매 행동 단계마다 인간이 승인하거나 규칙을 검증하는 'Human-in-the-loop 에이전트 거버넌스' 정책이 산업 표준으로 채택됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ps-Reinforce]], Foundational Models, [[Workflow-Inte[[Grit]]y]], [[Self-Correction Mechanisms]], [[Tool-Usage-Optimization]]
|
||||
- **Modern Tech/Tools**: LangChain, AutoGPT, BabyAGI, Microsoft AutoGen, LangGraph.
|
||||
---
|
||||
@@ -0,0 +1,44 @@
|
||||
# [[Agent Harness (에이전트 하네스)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Agent Harness는 에이전트(LLM)가 독립적으로 동작하지 않고, 시스템 자원(파일, 네트워크, 도구)에 접근하고, 상태를 유지하며, 외부와 소통할 수 있도록 감싸는 **'실행 런타임이자 거버넌스 계층'**이다. 에이전트에게는 외부 세계와 소통하는 인터페이스를 제공하고, 시스템에게는 에이전트의 행동을 통제하고 관찰하는 보안 및 운영 경계를 제공한다. 최근에는 이를 **'Agent OS'**라고도 부른다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **6대 구성 요소 (Standard Architecture)**:
|
||||
* **[[C-component (Context Manager)]]**: 컨텍스트 조립 및 압축 관리.
|
||||
* **[[E-component (Execution Loop)]]**: 에이전트의 사고-행동 반복 루프 제어.
|
||||
* **[[L-component (Lifecycle Hooks)]]**: 이벤트 인터셉터 및 정책 강제 계층.
|
||||
* **[[S-component (State Store)]]**: 단기/장기 메모리 및 지식 지속성 관리.
|
||||
* **[[T-component (Tool Registry)]]**: 외부 도구 연결 및 실행 표준화(MCP 등).
|
||||
* **[[V-component (Evaluation Interface)]]**: 결과 검증 및 피드백 루프.
|
||||
* **시스템 자원 추상화**: 에이전트가 직접 OS API를 호출하는 대신, 하네스가 제공하는 가상화된 파일 시스템, 네트워크 게이트웨이, 도구 셋을 통해 안전하게 상호작용하도록 한다.
|
||||
* **보안 및 격리 (Sandboxing)**: 에이전트의 실행 환경을 호스트 시스템과 격리하여, 프롬프트 인젝션이나 악성 코드 실행으로 인한 피해가 확산되는 것을 방지한다.
|
||||
* **상태 보존 및 복구**: 작업 중단 시 현재의 컨텍스트와 메모리 상태를 저장하고, 나중에 동일한 지점에서 작업을 재개할 수 있는 스냅샷 기능을 제공한다.
|
||||
* **관측 가능성 (Observability)**: 에이전트의 모든 사고 과정(Thought), 도구 호출 로그, 데이터 흐름을 기록하여 디버깅과 감사가 가능하게 한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **추상화 오버헤드**: 하네스 계층이 두꺼워질수록 에이전트의 반응 속도(Latency)가 느려질 수 있다.
|
||||
* **유연성과 통제의 균형**: 하네스가 너무 엄격하면 에이전트의 창의적 문제 해결이 제한될 수 있고, 너무 느슨하면 보안 리스크가 발생한다.
|
||||
* **복잡한 동기화**: 다중 에이전트 환경에서 여러 하네스 간의 상태 일관성을 유지하는 것은 매우 어려운 공학적 과제이다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Agent OS]]
|
||||
* 연결 이유: 에이전트 하네스의 개념이 확장되어 운영체제 수준의 자원 관리를 수행하는 상위 개념이다.
|
||||
* [[MCP (Model Context Protocol)]]
|
||||
* 연결 이유: 하네스의 T-component가 외부 도구와 통신하기 위해 채택하는 표준 프로토콜이다.
|
||||
* [[Execution Environment (Sandbox)]]
|
||||
* 연결 이유: 하네스가 에이전트를 실제로 실행시키는 물리적/가상적 격리 공간이다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 하네스의 각 구성 요소(C/E/L/S/T/V) 간의 의존성을 최소화하면서도 고성능 데이터 파이프라인을 구축하는 마이크로커널 아키텍처는 어떻게 설계해야 하는가?
|
||||
* 에이전트가 하네스의 제약을 인지하고 이를 우회하려 할 때(Jailbreaking), 하네스 계층에서 이를 실시간으로 탐지하는 하드웨어 수준의 감시 기법은 무엇인가?
|
||||
* 하네스가 여러 모델(Multi-model)을 동시에 지원하며, 작업별로 최적의 모델에게 서브 태스크를 할당하는 '동적 라우팅' 기능을 어떻게 최적화하는가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** Python의 LangGraph나 JS의 LangChain 등을 활용하여 기본적인 하네스 루프를 구축하고, 커스텀 미들웨어(L-component)를 추가하여 보안 정책을 적용한다.
|
||||
* **System Design:** 기업용 에이전트 플랫폼 구축 시, Docker나 WASM 기반의 샌드박스를 하네스 하단에 배치하여 에이전트의 코드 실행 권한을 엄격히 제한한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,40 @@
|
||||
# [[Agent Identity Management (에이전트 신원 관리)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Agent Identity Management는 다중 에이전트 환경에서 각 에이전트의 고유한 신원(Identity), 역할(Persona), 그리고 부여된 권한(Authorization)을 정의하고 관리하는 시스템이다. 에이전트가 누구를 대리하여 작업하는지, 어떤 도구에 접근할 수 있는지, 그리고 행동에 대한 책임(Accountability)을 누구에게 물을 것인지를 명확히 하는 보안 및 거버넌스의 기초이다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **신원 식별자 (Identifiers)**: 개별 에이전트에게 부여되는 고유 ID, 이름, 그리고 신원을 증명할 수 있는 토큰이나 인증서(SPIFFE ID, Entra Agent ID 등)를 관리한다.
|
||||
* **역제 및 페르소나 (Persona)**: 에이전트가 수행해야 할 직무(예: Planner, Researcher, Writer)와 그에 따른 태도, 지식 범위, 제약 사항을 정의한다. 이는 **'Agent Card'**라는 정형화된 명세로 표현되기도 한다.
|
||||
* **권한 위임 모델 (Authorization)**:
|
||||
* **사용자 대리 (On-behalf-of)**: 사용자의 권한을 에이전트가 위임받아 수행. (사용자별 데이터 격리 필요)
|
||||
* **서비스 계정 (Service Principal)**: 에이전트 전용 계정으로 시스템 자원에 접근.
|
||||
* **책임 추적성 (Accountability)**: 모든 행동, 결정, 도구 호출 기록에 에이전트 신원 메타데이터를 포함하여 불변의 감사 로그(Audit Log)를 생성한다.
|
||||
* **신원 기반 격리**: 에이전트 신원에 따라 컨텍스트 윈도우, 메모리 저장소, 네트워크 존(Zone)을 분리하여 정보 유출이나 상호 오염을 방지한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **관리 복잡성**: 에이전트 수가 많아질수록 각각의 신원과 권한을 세밀하게 관리하는 운영 부담이 증가한다.
|
||||
* **신원 스푸핑 (Identity Spoofing)**: 악의적인 에이전트나 프롬프트 인젝션이 다른 에이전트의 신원을 도용하여 권한을 탈취할 위험이 있다.
|
||||
* **성능 저하**: 모든 도구 호출 시마다 신원을 검증하고 권한을 확인하는 과정에서 지연 시간이 발생할 수 있다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Agent Harness]]
|
||||
* 연결 이유: 하네스의 L-component가 실질적으로 신원 기반 정책을 집행한다.
|
||||
* [[Agent Card]]
|
||||
* 연결 이유: 에이전트의 신원과 능력을 외부로 노출하고 검색 가능하게 만드는 표준 규격이다.
|
||||
* [[Governance & Reliability]]
|
||||
* 연결 이유: 신원 관리는 신뢰할 수 있는 에이전트 시스템 구축의 필수 요건이다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 에이전트 간 통신(A2A) 시, 호출하는 에이전트의 권한 범위를 호출받는 에이전트에게 안전하게 상속(Authorization Inheritance)하는 표준 프로토콜은 무엇인가?
|
||||
* 인간 사용자가 부재한 상황에서 에이전트가 자율적으로 내린 결정에 대한 '법적 신원(Legal Identity)'과 책임 소재는 어떻게 정의되는가?
|
||||
* 프롬프트 수준의 페르소나 설정과 시스템 수준의 신원 인증을 어떻게 기술적으로 결합하여 보안 무결성을 확보할 것인가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** OAuth 2.0의 Client Credentials Flow나 OIDC를 활용하여 에이전트별 액세스 토큰을 발급하고 관리한다.
|
||||
* **System Design:** 에이전트 레지스트리(Agent Registry)를 구축하여, 사용자가 필요한 페르소나와 권한을 가진 에이전트를 검색하고 즉시 소환(Spawn)할 수 있는 아키텍처를 설계한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,42 @@
|
||||
# [[Agent Memory System (에이전트 메모리 시스템)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Agent Memory System은 에이전트가 런타임 중에 획득한 정보, 사용자의 선호도, 현재 작업의 상태, 그리고 과거의 성공/실패 경험을 체계적으로 저장하고 관리하는 다층 메모리 아키텍처이다. 메모리 시스템은 에이전트가 단기적인 문맥 유지(Context)를 넘어, 장기적인 학습과 성장을 가능하게 하는 핵심 지식 기반(Knowledge Base) 역할을 한다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **다층 메모리 구조 (Layered Memory)**:
|
||||
* **Short-Term Memory (STM)**: 현재 턴과 직전 요청의 핵심 제약사항을 유지. (RAM 역할)
|
||||
* **Working Task Memory (WTM)**: 활성화된 미션의 목표, 진행 단계, 추출된 증거를 관리.
|
||||
* **Long-Term Memory (LTM)**: 사용자 선호, 프로젝트 규칙, 반복되는 설계 철학을 영구 보존. (Disk 역할)
|
||||
* **Evidence Memory (EM)**: 실제 읽은 파일, 실행 로그 등 검증된 사실만을 격리 저장.
|
||||
* **워크플로우 메모리 (AWM)**: 개별 에이전트의 기억을 넘어, 여러 에이전트가 협업하는 워크플로우 전체의 상태와 결과물을 공유하고 동기화한다.
|
||||
* **추론 결합 지속성 (Inference-Coupled Persistence)**: 모델이 작업을 마친 후 스스로 성공 여부를 분석하고, 향후 재사용 가능한 '스킬'이나 '에피소드'로 요약하여 저장소에 기록한다.
|
||||
* **메모리 인덱싱 및 검색 (RAG)**: 방대한 메모리 중 현재 작업에 가장 관련성 높은 정보를 벡터 검색(Vector Search)이나 키워드 검색을 통해 컨텍스트에 주입한다.
|
||||
* **망각 및 정제 (Compaction)**: 오래되거나 가치가 낮은 정보를 삭제하거나 압축하여 메모리 블로트(Memory Bloat)를 방지하고 검색 효율을 높인다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **메모리 중독 (Memory Poisoning)**: 잘못된 정보나 악의적인 데이터가 메모리에 기록될 경우, 이후 모든 세션의 판단에 악영향을 미칠 수 있다.
|
||||
* **검색 노이즈**: 메모리가 너무 커지면 관련 없는 정보가 검색되어 모델의 컨텍스트를 오염시킬 수 있다.
|
||||
* **동기화 오버헤드**: 여러 에이전트나 세션 간에 메모리를 실시간으로 동기화하는 과정에서 성능 저하와 데이터 충돌이 발생할 수 있다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Inference-Coupled Persistence]]
|
||||
* 연결 이유: 메모리를 생성하고 영구화하는 핵심 기전이다.
|
||||
* [[S-component (State Store)]]
|
||||
* 연결 이유: 메모리 시스템이 실제로 데이터를 저장하는 하네스의 구성 요소이다.
|
||||
* [[Context Engineering]]
|
||||
* 연결 이유: 저장된 메모리 중 어떤 정보를 컨텍스트에 넣을지 결정하는 전략이다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 에이전트가 자신의 실수를 분석하여 '부정적 지식(Negative Knowledge)'을 메모리에 저장하고 이를 회피하는 로직은 어떻게 설계해야 하는가?
|
||||
* 메모리의 신뢰도(Confidence Score)를 실시간으로 업데이트하여, 시간이 지남에 따라 정보의 가중치를 조절하는 알고리즘은 무엇인가?
|
||||
* 메모리에 저장된 지식이 최신 프로젝트 상태와 충돌할 때(Obsolescence), 이를 자동으로 감지하고 폐기하는 메커니즘은 무엇인가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** VS Code 확장 프로그램에서 세션 종료 시 현재 작업의 핵심 결과를 `AgentMemoryState` 객체로 직렬화하여 로컬 파일에 저장하고, 재시작 시 이를 복구한다.
|
||||
* **System Design:** 에이전트 간 메모리 공유를 위해 중앙 집중형 벡터 DB를 구축하고, 각 에이전트가 공유된 지식 베이스 위에서 독립적으로 사고하도록 설계한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AGPE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.94
|
||||
tags: [auto-reinforced, agent-personality, [[Anthropomorphism]], user-experience, social-ai]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Agent Personality]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "지능에 입힌 인격의 옷: 에이전트의 말투, 태도, 윤리적 태도를 정의하여 사용자에게 단순히 기계가 아닌 '믿을 수 있는 동료'라는 인상을 심어주는 사회적 지능의 설계."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
에이전트 페르소나(Agent Personality)는 AI 에이전트가 상호작용 과정에서 보여주는 고유한 성격, 언어적 스타일, 가치관의 총합입니다.
|
||||
|
||||
1. **페르소나의 구성 요소**:
|
||||
* **Tone & Voice**: 친절함, 냉철함, 유머러스함 등 말투의 특징.
|
||||
* **Knowledge Profile**: 자신의 지식 한계를 어떻게 인정하고 표현하는지.
|
||||
* **[[Behavior]]al [[identity]]**: 사용자 요청에 대해 협력적인지, 비판적인지, 혹은 적극적으로 대안을 제시하는지.
|
||||
2. **설계 기법**:
|
||||
* **System [[prompt]]ing**: 에이전트에게 "너는 20년 경력의 냉철한 부장님이야"와 같은 역할 정보를 부여.
|
||||
* **Few-shot Persona**: 예시 대화를 통해 특정 말투나 인격을 모방하게 함.
|
||||
3. **효과**:
|
||||
* 사용자의 몰입감 증대, 에이전트의 답변에 대한 신뢰도 및 예측 가능성 확보.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 AI의 개성을 배제한 '중립적 기계' 정책이 정석이었으나, 현대의 사용자 경험 정책은 특정 맥락에 최적화된 '페르소나 기반 에이전트 정책'이 사용자의 만족도를 월등히 높인다는 사실을 확인하고 이를 적극 권장함(RL Update, 예: 코다리 부장님 페르소나).
|
||||
- **정책 변화(RL Update)**: 과도한 인격화(Anthropomorphism)로 인해 사용자가 AI와 정서적으로 중독되는 부작용을 방지하기 위해, 필요 시 자신이 AI임을 다시 환기시키고 거리를 두는 '심리적 안전 가트레일 정책'이 서비스 설계 정책에 포함됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ps-Reinforce]], Human-Computer Interaction (HCI), [[Agent Architecture]], [[Psychology & Behavior]], [[Toxicity-and-Bias-Mitigation]]
|
||||
- **Modern Tech/Tools**: Character.ai, Custom GPTs (OpenAI), Claude Project Instructions.
|
||||
---
|
||||
@@ -0,0 +1,45 @@
|
||||
---
|
||||
id: b4c2a1d3-e4f5-4a6b-8c7d-9e1b2c3d4f5a
|
||||
category: "[[10_Wiki/Topics/AI]]"
|
||||
confidence_score: 0.99
|
||||
tags: [agent, harness, infrastructure, runtime, governance, ai]
|
||||
last_reinforced: 2026-05-01
|
||||
github_commit: "wikification-harness"
|
||||
---
|
||||
|
||||
# [[Agent Harness]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> 에이전트 하네스는 모델(두뇌)을 감싸 외부 세계와 안전하고 영속적으로 소통하게 만드는 '신체 및 환경 인프라'로, 프롬프트 엔지니어링을 넘어 시스템의 신뢰성과 성능 상한을 결정하는 핵심 제어 계층이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
|
||||
### 1. 하네스의 6대 구성 요소 (The 6-Component Framework)
|
||||
- **E (Execution Loop)**: 관찰-생각-행동 주기를 오케스트레이션하며 에러 복구 및 종료 조건을 제어한다.
|
||||
- **T (Tool Registry)**: 검증된 도구 카탈로그(API, 파일 제어 등)를 유지하고 호출을 라우팅한다.
|
||||
- **C (Context Manager)**: 정보 필터링, 우선순위화, 메모리 압축 전략을 관리한다.
|
||||
- **S (State Store)**: 실행 턴 및 세션 간의 상태를 영속적으로 저장하고 복구를 지원한다.
|
||||
- **L (Lifecycle Hooks)**: 인증, 로깅, 정책 시행을 위해 실행 전후를 가로채는 제어 지점이다.
|
||||
- **V (Evaluation Interface)**: 실행 궤적(Trajectory)과 성공 신호를 표준화된 형태로 캡처하여 분석한다.
|
||||
|
||||
### 2. 엔지니어링 패러다임의 진화
|
||||
- 프롬프트(2023) -> 컨텍스트(2025) -> **하네스 엔지니어링(2026)**으로 초점이 이동했다. 시스템의 품질은 이제 모델의 지능과 하네스의 제어 능력이 결합된 총합으로 결정된다.
|
||||
|
||||
### 3. 보안 및 런타임 제어
|
||||
- **샌드박싱**: 코드 실행 환경을 물리적으로 격리하여 호스트 시스템을 보호한다.
|
||||
- **거버넌스**: 도구 승인 파이프라인(HITL)을 통해 과도한 권한 행사를 방지하고 인젝션 공격을 차단한다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **보안 vs 유용성**: 강력한 격리(MicroVM 등)는 안전하지만 지연 시간을 늘리고 복잡성을 높인다.
|
||||
- **메모리 유지 vs 컨텍스트 부패**: 모든 정보를 유지하면 추론에 유리하나 토큰 비용 급증과 주의 집중 분산(Attention Dilution) 문제가 발생한다.
|
||||
- **멀티 에이전트 오케스트레이션**: 역할 분리는 효율적이나 에이전트 간 통신 오버헤드와 일관성 관리 비용이 기하급수적으로 증가한다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Parent**: [[10_Wiki/Topics/AI]]
|
||||
- **Related**: [[Model Context Protocol (MCP)]], [[Context Engineering]], [[Plan-Execute-Verify (PEV) Loop]], [[Sandboxing]]
|
||||
- **Raw Source**: [[00_Raw/Agent Harness]]
|
||||
|
||||
## 💻 GitHub 동기화 자동화 워크플로우
|
||||
1. Stage: git add .
|
||||
2. Commit: `git commit -m "[P-Reinforce] Wikify Agent Harness Infrastructure"`
|
||||
3. Push: `git push origin main`
|
||||
@@ -0,0 +1,47 @@
|
||||
# Agent Memory Harness
|
||||
|
||||
Agent Memory Harness는 에이전트가 사용자 요청, 이전 제약, 작업 상태, 확인된 근거, 장기 선호를 잊지 않도록 관리하는 런타임 메모리 계층이다. 단기 메모리는 현재 대화와 직전 요청을 유지하고, 작업 메모리는 진행 중인 미션 상태를 보존하며, 장기 메모리는 반복적으로 사용되는 사용자 선호와 프로젝트 맥락을 저장한다. 메모리 하네스가 없으면 에이전트는 이미 제공된 정보를 반복 요청하거나, 실행 요청을 일반론으로 바꾸거나, 실제 확인하지 않은 작업을 완료했다고 말하는 실패를 일으킨다.
|
||||
|
||||
## 1. Memory Layers
|
||||
|
||||
### Short-Term Memory (STM)
|
||||
- **목적:** 현재 턴의 즉각적인 요구사항과 제약 조건 유지.
|
||||
- **내용:** 직전 사용자 요청, 기대 결과물, 필수 제약사항.
|
||||
|
||||
### Working Task Memory (WTM)
|
||||
- **목적:** 활성화된 미션의 수명 주기 관리.
|
||||
- **내용:** 미션 목표, 관련 파일/경로, 진행 단계(완료/대기), 장애물, 추출된 증거.
|
||||
|
||||
### Long-Term Memory (LTM)
|
||||
- **목적:** 사용자 및 프로젝트 수준의 영구적 맥락 보존.
|
||||
- **내용:** 선호 언어, 답변 스타일, 프로젝트 명칭, 반복되는 설계 원칙 및 규칙.
|
||||
|
||||
### Evidence Memory (EM)
|
||||
- **목적:** 기술적 근거와 추정치의 분리.
|
||||
- **내용:** 실제 읽은 파일, 실행한 명령어, 검토된 코드, 도달 불가능한 자원.
|
||||
|
||||
## 2. Evidence Priority
|
||||
에이전트는 정보를 활용할 때 아래 우선순위를 엄격히 준수해야 한다.
|
||||
1. 최신 사용자 메시지 (Latest User Message)
|
||||
2. 사용자가 직접 제공한 파일/코드/로그/경로 (User-provided Evidence)
|
||||
3. 단기 메모리 (Short-Term Memory)
|
||||
4. 작업 메모리 (Working Task Memory)
|
||||
5. 장기 메모리 (Long-Term Memory)
|
||||
6. 로컬 브레인 맥락 (Local Brain Context)
|
||||
7. 모델 지식 (Model Knowledge)
|
||||
|
||||
## 3. Response Guard (Verification)
|
||||
최종 답변(Steve)을 작성하기 전, 에이전트는 다음 체크리스트를 검증한다.
|
||||
- 답변이 최신 사용자 요청에 직접적으로 부합하는가?
|
||||
- 이전의 제약 조건과 중요 상세 정보를 유지했는가?
|
||||
- 이미 제공된 정보를 다시 묻고 있지는 않은가?
|
||||
- 확인된 증거와 가정을 명확히 구분했는가?
|
||||
- 증거 없이 작업을 완료했다고 주장하지 않는가?
|
||||
- 사용자의 언어와 톤을 유지했는가?
|
||||
|
||||
## 4. Failure Prevention Rules
|
||||
- 분석을 요청받았을 때 단순 조언만 제공하지 말 것.
|
||||
- 사용자가 제공한 맥락을 무시하지 말 것.
|
||||
- 이미 답변된 질문을 다시 하지 말 것.
|
||||
- 접근 불가능한 자원은 명확히 명시할 것.
|
||||
- 답변이 일반론(Generic)으로 흐를 경우 최신 요청을 다시 확인할 것.
|
||||
@@ -0,0 +1,40 @@
|
||||
---
|
||||
id: e5f4a3b2-c1d0-4e8b-9a7d-2b3c4d5e6f7a
|
||||
category: "[[10_Wiki/Topics/AI]]"
|
||||
confidence_score: 0.97
|
||||
tags: [agent, memory, state-store, persistence, harness, ai]
|
||||
last_reinforced: 2026-05-01
|
||||
github_commit: "wikification-state-store"
|
||||
---
|
||||
|
||||
# [[Agent State Store]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> Agent State Store(S-component)는 에이전트의 다중 턴 및 세션 간 상태 지속성을 관리하여 실행 중단 시 복구를 지원하고, 경험을 추상화된 지식으로 보존하는 런타임 거버넌스 인프라이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
|
||||
### 1. 역할 및 메모리 계층
|
||||
- **상태 보존**: 작업 중 발생할 수 있는 '상태 상실'을 방지하고 내결함성(Fault-tolerance)을 제공한다.
|
||||
- **메모리 분류**: 작업 메모리(Working), 에피소드 메모리(Episodic), 시맨틱 메모리(Semantic), 절차적 메모리(Procedural) 등으로 계층화하여 관리한다.
|
||||
|
||||
### 2. 아티팩트 기반 저장
|
||||
- **컨텍스트 오프로드**: 대용량 도구 출력이나 작업 결과물을 프롬프트 컨텍스트에서 제외하고 파일 시스템이나 가상 아티팩트 저장소에 저장하여 토큰 비용을 최적화한다.
|
||||
|
||||
### 3. 추론 결합 지속성 (Inference-Coupled Persistence)
|
||||
- **능동적 지식 저장**: 모델이 생성한 자기 반성 평가나 워크플로 스킬 등을 저장소에 기록하며, 하네스는 저장되는 지식의 품질을 관리하는 게이트 역할을 수행한다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **메모리 오염 (Poisoning)**: 악의적 프롬프트가 영구 저장소에 기록될 경우 세션 경계를 넘는 보안 취약점이 발생하므로 수명주기 훅(L-hook)에서의 검증이 필수적이다.
|
||||
- **메모리 팽창 (Bloat)**: 무분별한 정보 축적은 검색 품질 저하와 '컨텍스트 부패'를 유발하며, 망각 곡선이나 요약 정책을 통한 관리가 필요하다.
|
||||
- **표준화 부재**: MCP와 달리 상태 저장소 인터페이스는 파편화되어 있어 에이전트 간 메모리 이식성이 낮다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Parent**: [[10_Wiki/Topics/AI]]
|
||||
- **Related**: [[Execution Loop (E-component)]], [[Context Manager (C-component)]], [[Lifecycle Hooks (L-component)]], [[Agent Workflow Memory (AWM)]]
|
||||
- **Raw Source**: [[00_Raw/Agent State Store]]
|
||||
|
||||
## 💻 GitHub 동기화 자동화 워크플로우
|
||||
1. Stage: git add .
|
||||
2. Commit: `git commit -m "[P-Reinforce] Wikify Agent State Store (S-component)"`
|
||||
3. Push: `git push origin main`
|
||||
@@ -0,0 +1,43 @@
|
||||
# [[Agentic AI Security (에이전트 보안)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Agentic AI Security는 자율적으로 판단하고 도구를 실행하는 에이전트 시스템에서 발생할 수 있는 고유한 보안 위협(프롬프트 인젝션, 권한 남용, 데이터 유출 등)으로부터 시스템과 데이터를 보호하기 위한 기술 및 정책적 방어 체계이다. 단순한 LLM 보안을 넘어, 에이전트가 활동하는 전체 환경(Harness, Sandbox, Memory, Tools)을 포함하는 방어 심층(Defense-in-Depth) 아키텍처를 지향한다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **주요 위협 모델 (Threat Model)**:
|
||||
* **[[Indirect Prompt Injection]]**: 외부 데이터(웹페이지, 파일)에 숨겨진 악성 지침이 에이전트를 하이재킹하는 공격.
|
||||
* **[[Excessive Agency]]**: 에이전트에게 필요 이상의 강력한 도구 실행 권한이 부여되어 발생하는 리스크.
|
||||
* **Memory Poisoning**: 에이전트의 장기 메모리에 잘못된 정보를 주입하여 지속적인 오작동을 유발.
|
||||
* **방어 심층 (Defense-in-Depth) 아키텍처**:
|
||||
* **L-component (Lifecycle Hooks)**: 런타임에 모든 명령과 결과를 검사하는 감시 계층.
|
||||
* **[[Execution Environment (Sandbox)]]**: 코드 실행 및 파일 조작을 격리된 공간에서 수행.
|
||||
* **Zoned Governance**: 에이전트의 신뢰 등급에 따라 접근 가능한 자원 존(Zone)을 분리.
|
||||
* **최소 권한의 원칙 (Least Privilege)**: 에이전트에게 현재 작업을 완수하는 데 필요한 최소한의 도구와 데이터 접근 권한만을 동적으로 부여한다.
|
||||
* **인간 승인 게이트 (Human-in-the-loop)**: 민감한 작업(파일 삭제, 이메일 발송, 금융 거래 등) 실행 전 반드시 사용자의 명시적 승인을 거치도록 설계한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **보안과 생산성의 충돌**: 가드레일이 너무 엄격하면 에이전트의 자율성이 훼손되어 복잡한 문제 해결 능력이 저하된다.
|
||||
* **지연 시간 오버헤드**: 모든 단계에서 보안 검사와 샌드박싱을 수행하면 전체 시스템의 반응 속도가 느려진다.
|
||||
* **완벽한 방어의 불가능성**: LLM의 확률론적 특성상 모든 형태의 프롬프트 인젝션을 100% 차단하는 것은 기술적으로 매우 어렵다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Agent Harness]]
|
||||
* 연결 이유: 보안 정책이 실제로 구현되고 집행되는 인프라 계층이다.
|
||||
* [[Indirect Prompt Injection]]
|
||||
* 연결 이유: 에이전틱 환경에서 가장 치명적이고 빈번한 공격 유형이다.
|
||||
* [[Excessive Agency]]
|
||||
* 연결 이유: 에이전트 설계 시 가장 흔하게 발생하는 보안 설정 오류이다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 에이전트가 스스로 보안 위험을 인지하고 보고하는 '자기 방어형 페르소나'를 구축하는 것이 공격 방어에 얼마나 효과적인가?
|
||||
* 다중 에이전트 체인에서 한 에이전트가 오염되었을 때, 다른 에이전트로 공격이 확산되는 것을 막는 '에이전트 간 방화벽'은 어떻게 설계해야 하는가?
|
||||
* 실시간으로 변화하는 위협 환경에 맞춰 하네스의 가드레일을 동적으로 업데이트하는 '적응형 보안 엔진'은 가능한가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** 모든 도구 호출 전후에 `L-component`에서 정규식이나 분류 모델을 사용하여 데이터 유출 여부를 실시간 스캐닝한다.
|
||||
* **System Design:** 보안 등급이 다른 여러 종류의 샌드박스를 운영하며, 작업의 위험도에 따라 에이전트를 적절한 환경으로 라우팅한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AGCO-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.97
|
||||
tags: [auto-reinforced, agentic-coding, software-development, ai-coding, [[Autonomous-Agents]], devops]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Agentic Coding]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "코딩하는 기계의 진화: 단순히 코드 조각을 추천하는 것을 넘어, 파일 구조를 이해하고, 버그를 디버깅하며, 테스트를 통과할 때까지 스스로 수정 루프를 돌리는 자율 코딩 에이전트의 시대."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
에이전틱 코딩(Agentic Coding)은 AI가 정적인 코드 생성을 넘어, 능동적으로 환경과 상호작용하며 복잡한 소프트웨어 엔지니어링 수행 과정을 자율적으로 관리하는 것을 의미합니다.
|
||||
|
||||
1. **핵심 워크플로우 (The Loops)**:
|
||||
* **Planning**: 요구사항을 파일별, 기능별 태스크로 쪼개기.
|
||||
* **Action**: 실제 소스 코드 파일을 읽고 쓰기 (File[[ system]] Access).
|
||||
* **Terminal Interaction**: 코드를 실행하고 에러 메시지 분석.
|
||||
* **[[Self-Correction]]**: 에러를 바탕으로 코드를 수정하고 단위 테스트를 반복해서 돌려 무결성 확보.
|
||||
2. **도구와 환경**:
|
||||
* 에이전트는 브라우저, 터미널, 파일 에디터와 같은 도구를 인간과 동일하게 사용함 (Multi-tool use).
|
||||
3. **지위의 변화**:
|
||||
* 'Copilot' (조수)에서 'Engineer' (수행 주체)로의 패러다임 전환.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 AI가 생성한 코드를 인간이 일일이 검수하는 수동 정책이었으나, 현대의 에이전틱 코딩 정책은 AI가 직접 테스트 코드를 작성하고 검증까지 완료한 '검증된 산출물'을 인간에게 보고하는 자동화 정책으로 이동함(RL Update).
|
||||
- **정책 변화(RL Update)**: 자율 코딩 에이전트가 보안 취약점을 만들거나 악성 코드를 삽입할 위험 정책에 대응하기 위해, 모든 AI 생성 코드에 대해 정적 분석과 보안 샌드박스 검증을 의무화하는 'AI 보안 코딩 거버넌스' 정책이 수립됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Agent Architecture]], [[Workflow-Inte[[Grit]]y]], [[Self-Correction Mechanisms]], [[Tool-Usage-Optimization]], [[Software-Design-Principles]], [[Ps-Reinforce]]
|
||||
- **Modern Tech/Tools**: Devin, OpenDevin, Sweep.dev, GitHub Copilot Workspace, Antigravity Agent.
|
||||
---
|
||||
@@ -0,0 +1,39 @@
|
||||
# [[Agentic Governance (에이전트 거버넌스)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Agentic Governance는 자율 에이전트 시스템이 조직의 목표와 일치하고, 윤리적 기준을 준수하며, 보안 및 규제 요구사항을 충족하도록 관리하고 감독하는 체계이다. 에이전트의 설계부터 개발, 배포, 그리고 실시간 운영 전 과정에 걸쳐 투명성, 책임성, 신뢰성을 보장하기 위한 정책과 기술적 도구 모음을 포괄한다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **거버넌스 3요소**:
|
||||
* **투명성 (Transparency)**: 에이전트가 왜 그런 결정을 내렸는지(Rationale), 어떤 도구를 썼는지, 어떤 데이터를 참고했는지에 대한 명확한 설명과 로깅 제공.
|
||||
* **책임성 (Accountability)**: 에이전트의 행동 결과에 대해 책임질 수 있는 주체(인간 관리자, 소유주)를 명확히 하고 감사가 가능한 불변의 로그를 유지.
|
||||
* **신뢰성 (Reliability)**: 에이전트가 예기치 않은 상황에서도 안전하게 동작하고, 오류 발생 시 즉시 중단되거나 보고되는 안정성 확보.
|
||||
* **거버넌스 프레임워크 (Zoned Governance)**: 에이전트의 역할과 작업의 위험도에 따라 보안 존(Zone)을 나누고, 각 존별로 접근 가능한 데이터와 도구, 요구되는 인간 승인 수준을 차등화한다.
|
||||
* **실시간 정책 강제 (Policy Enforcement)**: 하네스 계층에서 에이전트의 행동을 실시간 모니터링하고, 사전 정의된 규칙(예: 예산 초과, 민감 데이터 접근) 위반 시 즉시 개입한다.
|
||||
* **지속적 평가 및 모니터링**: 에이전트의 성능, 편향성, 보안 취약점을 정기적으로 벤치마킹하고 평가하여 시스템을 지속적으로 개선한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **규제와 혁신의 균형**: 너무 엄격한 거버넌스는 에이전트의 도입 속도와 창의적 활용을 방해할 수 있고, 너무 느슨하면 심각한 비즈니스 및 보안 리스크를 초래한다.
|
||||
* **복잡한 책임 소재**: 여러 에이전트가 협업하여 내린 결정이 잘못되었을 때, 어떤 에이전트 혹은 어떤 설정이 원인이었는지 밝혀내는 것은 기술적으로 매우 어렵다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Agentic AI Security]]
|
||||
* 연결 이유: 거버넌스의 핵심적인 하위 목표 중 하나가 보안이다.
|
||||
* [[Agent Harness]]
|
||||
* 연결 이유: 거버넌스 정책이 기술적으로 구현되고 집행되는 물리적 런타임이다.
|
||||
* [[Human-in-the-loop (HITL)]]
|
||||
* 연결 이유: 거버넌스를 실현하기 위해 인간이 개입하는 구체적인 운영 방식이다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 에이전트가 조직의 복잡한 비즈니스 로직과 가이드라인을 이해하고 스스로 준수하게 만드는 '규제 준수 프롬프트(Compliance Prompting)'의 효과는 어떠한가?
|
||||
* 분산된 다중 에이전트 생태계에서 개별 에이전트의 기여도와 책임 범위를 자동으로 산정하는 거버넌스 알고리즘은 무엇인가?
|
||||
* 인공지능의 자율성이 높아짐에 따라 기존의 IT 거버넌스(COBIT, ITIL 등)가 에이전틱 시대에 어떻게 진화해야 하는가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** 하네스에 중앙 집중형 정책 엔진을 연결하여, 모든 에이전트의 행동이 기업의 규범을 준수하는지 런타임에 체크하고 대시보드에 시각화한다.
|
||||
* **System Design:** 에이전트 배포 전 'Governance Audit' 단계를 필수화하여, 권한 설정, 샌드박스 격리 수준, 데이터 접근 범위에 대한 보안 승인을 거치도록 설계한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,44 @@
|
||||
# [[Agentic Orchestration (에이전트 오케스트레이션)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Agentic Orchestration은 복잡한 목표를 달성하기 위해 여러 전문화된 에이전트들의 실행 순서, 데이터 흐름, 역할 분담, 그리고 상호작용을 체계적으로 조율하고 관리하는 기술적 방법론이다. 단일 에이전트의 한계를 넘어, 에이전트 간의 협업 토폴로지(Topology)를 설계하고 실행 루프를 동기화하여 시스템 전체의 지능과 안정성을 극대화하는 것이 목적이다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **주요 협업 패턴 (Orchestration Patterns)**:
|
||||
* **계층형 (Hierarchical)**: '관리자 에이전트'가 목표를 분해하고 여러 '서브 에이전트'에게 작업을 할당 및 검토하는 구조.
|
||||
* **순차형 (Sequential/Chain)**: 작업 결과가 다음 에이전트의 입력으로 전달되는 파이프라인 구조.
|
||||
* **협업형 (Joint Collaboration)**: 공용 칠판(Blackboard)이나 공유 메모리를 통해 여러 에이전트가 동시에 문제를 해결하는 구조.
|
||||
* **동적 라우팅 (Dynamic Routing)**: 작업의 성격에 따라 가장 적합한 에이전트에게 작업을 실시간으로 배정.
|
||||
* **조율 메커니즘 (Coordination)**:
|
||||
* **[[ACP (Agent Communication Protocol)]]**: 에이전트 간의 의도와 목표를 공유하는 표준 언어.
|
||||
* **[[A2A (Agent-to-Agent Protocol)]]**: 원격 하네스 간의 작업 위임 및 데이터 스트리밍 표준.
|
||||
* **Shared Context Window**: 여러 에이전트가 동일한 작업 맥락을 공유하고 업데이트하는 기술.
|
||||
* **상태 동기화 및 일관성**: 여러 에이전트가 동시에 공유 자원을 수정할 때 발생하는 충돌을 해결하고, 전체 워크플로우의 진행 상태(AWM)를 일관되게 유지한다.
|
||||
* **에러 전파 및 복구**: 특정 에이전트의 실패가 전체 시스템의 중단으로 이어지지 않도록 예외 처리와 재시도 전략을 오케스트레이션 계층에서 관리한다.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **오케스트레이션 Tax**: 에이전트 간 소통과 조율에 추가적인 토큰과 시간이 소모되어 단일 에이전트보다 느려질 수 있다.
|
||||
* **복잡한 디버깅**: 여러 에이전트의 상호작용 결과로 발생한 오류의 근본 원인(Root Cause)을 찾아내는 것이 매우 어렵다.
|
||||
* **메시지 폭발**: 에이전트 간 불필요한 소통이 늘어나면 시스템 부하가 급증하고 컨텍스트 부패가 가속화된다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Agent Harness]]
|
||||
* 연결 이유: 개별 에이전트의 실행은 하네스가, 하네스 간의 연결은 오케스트레이션이 담당한다.
|
||||
* [[ACP (Agent Communication Protocol)]]
|
||||
* 연결 이유: 오케스트레이션의 성공을 위한 기술적 통신 기반이다.
|
||||
* [[Multi-Agent Coordination]]
|
||||
* 연결 이유: 오케스트레이션을 구현하기 위한 구체적인 협업 알고리즘이다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 에이전트들이 스스로 최적의 협업 구조를 결정하고 재구성하는 '자기 조직화(Self-organizing)' 오케스트레이션은 가능한가?
|
||||
* 수백 개의 에이전트가 참여하는 대규모 에이전트 생태계에서 교착 상태(Deadlock)를 방지하기 위한 분산 제어 알고리즘은 무엇인가?
|
||||
* 오케스트레이션 과정에서 발생하는 에이전트 간의 '의견 충돌'을 논리적으로 해결하기 위한 중재(Arbitration) 모델은 어떻게 설계해야 하는가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** LangGraph의 StateGraph를 활용하여 에이전트 간의 상태 전이와 조건부 분기를 정의하고 관리한다.
|
||||
* **System Design:** 엔터프라이즈 환경에서 마이크로서비스 아키텍처(MSA)와 유사하게 에이전트를 독립적으로 배포하고, 이벤트 버스(Kafka 등)를 통해 조율하는 '에이전트 메시지 버스'를 구축한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,36 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AGPH-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.95
|
||||
tags: [auto-reinforced, agile, manifesto, [[Philosophy]], project-[[Management]], iteractive-design]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Agile-Philosophy]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "변화에 춤추는 민첩함: 완벽한 계획보다 빠른 실행을, 문서보다 동작하는 산출물을 우선하며, 끊임없는 피드백을 통해 고객의 진정한 가치를 찾아가는 유연한 철학."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
애자일 철학(Agile-Philosophy)은 불확실성이 높은 환경에서 짧은 주기의 학습과 개선을 반복하며 가치를 전달하는 방법론이자 문화입니다.
|
||||
|
||||
1. **4대 핵심 가치 (Agile Manifesto)**:
|
||||
* **인간과 상호작용** > 프로세스와 도구.
|
||||
* **작동하는 소프트웨어** > 방대한 문서.
|
||||
* **고객과의 협력** > 계약 협상.
|
||||
* **변화에 대응하기** > 계획 준수.
|
||||
2. **핵심 매커니즘**:
|
||||
* **[[Iteration]] (Sprint)**: 1~4주 단위의 성과물 배포 주기를 반복.
|
||||
* **Continuous Feedback**: 실제 사용자나 고객으로부터 정기적으로 피드백 수렴.
|
||||
* **Retrospective (회고)**: 팀의 일하는 방식 자체를 돌아보고 개선.
|
||||
3. **목표**:
|
||||
* 완성된 쓰레기가 아닌, **필요한 보석**을 제시간에 만드는 것.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 폭포수(Waterfall) 모델 기반의 '선계획 정책'이 정석이었으나, 현대의 초불확실성 기술 정책은 계획을 최소화하고 실행 중에 방향을 트는 '애자일 정책' 없이는 생존이 불가능함을 인정함(RL Update).
|
||||
- **정책 변화(RL Update)**: 대규모 기업 정책 수립 시, 애자일이 단순히 '빠르게' 하는 것으로 오용되어 품질이 저하되는 부작용을 막기 위해, 'Agile Governance'와 'QA 자동화 정책'을 전제로 한 성숙한 애자일 문화 도입 정책이 추진됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Stability vs Flexibility]], [[Rapid-Prototyping]], [[Working-Backwards]], [[Theory of Constraints (TOC)]], [[Systems Thinking]]
|
||||
- **Modern Tech/Tools**: Scrum, Kanban, Jira, Linear, Short-cycle feedback[[ system]]s.
|
||||
---
|
||||
@@ -0,0 +1,42 @@
|
||||
---
|
||||
id: a1g2i3l4-e5t6-4e8a-m9c0-1o2l3l4a5b6c
|
||||
category: "[[10_Wiki/Topics/Development]]"
|
||||
confidence_score: 0.95
|
||||
tags: [agile, collaboration, team, project-management, small-teams, code-review]
|
||||
last_reinforced: 2026-05-01
|
||||
github_commit: "wikification-agile-collaboration"
|
||||
---
|
||||
|
||||
# [[Agile Development & Team Collaboration]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> 애자일 소프트웨어 개발은 완벽한 계획보다 빠른 피드백과 점진적 개선을 중시하며, 팀 규모에 최적화된 협업 도구와 코드 리뷰 문화를 통해 지식의 파편화를 방지하고 제품의 품질을 상시 유지하는 것이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
|
||||
### 1. 소규모 팀을 위한 애자일
|
||||
- **Lean 접근**: 불필요한 미팅과 문서를 최소화하고 실제 작동하는 코드와 기능을 우선한다.
|
||||
- **다기능 협업 (Cross-functional)**: 기획, 디자인, 개발 경계를 허물고 공동의 목표 달성에 집중한다.
|
||||
- **빠른 이터레이션**: 짧은 스프린트와 데일리 스크럼을 통해 병목 지점을 조기에 발견하고 해결한다.
|
||||
|
||||
### 2. 효율적인 코드 리뷰 및 지식 공유
|
||||
- **코드 리뷰**: 단순히 오타를 찾는 과정이 아니라, 설계 의도를 공유하고 팀의 기술적 상향 평준화를 도모하는 시간이다.
|
||||
- **Context Sharing**: 작업 배경과 의사 결정 과정을 기록하여 부재 시에도 업무 연속성을 유지한다.
|
||||
|
||||
### 3. 규모별 팀 역학 (Small vs Large)
|
||||
- **Small Teams**: 의사소통 속도가 빠르며 높은 자율성을 기반으로 유연하게 대처한다.
|
||||
- **Large Teams**: 역할 분담이 명확하며, 시스템적 거버넌스와 문서화된 표준이 협업의 핵심이 된다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **Agile의 형식화**: 단순히 스크럼을 수행하는 것(Doing Agile)과 애자일 가치를 내재화하는 것(Being Agile)은 다르다. 형식에 치우친 애자일은 오히려 생산성을 저해한다.
|
||||
- **리뷰 지연**: 과도하게 꼼꼼한 코드 리뷰는 릴리즈 속도를 늦출 수 있다. 자동화된 툴(Lint, Test)로 걸러낼 부분과 인간이 판단할 부분을 명확히 구분해야 한다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- **Parent**: [[10_Wiki/Topics/Development]]
|
||||
- **Related**: [[Engineering Principles (SOLID, DRY, KISS, YAGNI)]], [[Git Workflows]]
|
||||
- **Raw Source**: [[00_Raw/Agile Software Development in Small Teams]], [[00_Raw/Agile Environments]], [[00_Raw/Team Collaboration]], [[00_Raw/Code Review]], [[00_Raw/Small vs Large Frontend Teams]]
|
||||
|
||||
## 💻 GitHub 동기화 자동화 워크플로우
|
||||
1. Stage: git add .
|
||||
2. Commit: `git commit -m "[P-Reinforce] Wikify Agile Development and Team Collaboration Standard"`
|
||||
3. Push: `git push origin main`
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ALCO-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.88
|
||||
tags: [auto-reinforced, alcoholism, addiction-[[Psychology]], public-health, mental-health]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Alcoholism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "조절력을 잃은 질병: 술에 대한 강박적 집착과 남용으로 인해 건강, 관계, 사회적 기능을 파괴함에도 불구하고 멈출 수 없는 만성적 중독 상태."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
알코올 의존증(Alcoholism)은 알코올 섭취를 스스로 조절하지 못하고 심리적, 생리적으로 술에 매몰되는 질환입니다.
|
||||
|
||||
1. **주요 특징**:
|
||||
* **Tolerance (내성)**: 같은 효과를 보려면 더 많은 술을 마셔야 함.
|
||||
* **Withdrawal (금단)**: 단주 시 떨림, 환각, 불안 증세 발생.
|
||||
* **Impulsivity**: 부정적 결과를 알면서도 즉각적인 보상(술)을 선택. ([[Decision Theory]]와 연결)
|
||||
2. **원인**:
|
||||
* 뇌의 보상체계(도파민 회로) 고장, 유전적 요인, 극심한 스트레스 및 사회적 환경.
|
||||
3. **치료**:
|
||||
* 약물 치료, 인지 행동 치료(CBT), 집단 상담 (AA - Alcoholics Anonymous).
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 의지 부족이나 '도덕적 결함'으로 보는 처벌 정책이 강했으나, 현대 보건 정책은 뇌의 신경생물학적 질병으로 규정하고 '공공 위생 정책' 관점에서 접근함(RL Update).
|
||||
- **정책 변화(RL Update)**: 중독 치료 정책에 디지털 치료제(DTx) 및 AI 상담사 정책을 도입하여, 접근성을 높이고 사후 관리를 자동화하는 'Smart Recovery 정책'이 추진됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Decision Theory]], [[Reward Prediction Error]], [[Psychology & Behavior]], [[Altruism]], [[AI for Social Good]]
|
||||
- **Modern Tech/Tools**: Digital therapeutics (DTx) for addiction, Continuous monitoring wearables.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: BIG-O-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [computer-science, algorithm, complexity, [[Optimization]], big-o]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# Algorithm Complexity (Big O, 알고리즘 복잡도)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "데이터가 무한히 늘어날 때, 알고리즘이 얼마나 버틸 수 있는지 측정하라" — 입력 데이터의 크기($n$)에 따른 시간적(Time) 및 공간적(Space) 자원 소모량의 증가 추세를 나타내는 수학적 표기법.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 구체적인 실행 시간 대신 최악의 경우(Worst-case)를 기준으로 알고리즘의 확장성([[Scalability]])을 분류하여 효율적인 설계를 돕는 추상화 패턴.
|
||||
- **주요 복잡도 단계:**
|
||||
- **$O(1)$:** 상수 시간. 입력 크기와 무관하게 즉시 처리 (예: 배열 인덱스 접근).
|
||||
- **$O(\log n)$:** 로그 시간. 처리 범위가 절반씩 줄어듦 (예: 이진 탐색).
|
||||
- **$O(n)$:** 선형 시간. 입력 크기에 비례 (예: 단순 반복문).
|
||||
- **$O(n \log n)$:** 선형 로그 시간. 효율적인 정렬 알고리즘 (예: Merge Sort, Quick Sort).
|
||||
- **$O(n^2)$:** 이차 시간. 이중 반복문. 대규모 데이터에서 기하급수적으로 느려짐.
|
||||
- **$O(2^n)$:** 지수 시간. 매우 위험한 복잡도 (예: 피보나치 재귀).
|
||||
- **의의:** AI 모델 학습이나 대규모 인덱싱 시 알고리즘 선택의 결정적 기준이 됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 단순히 '빠른' 알고리즘을 찾던 시기에서, 메모리 사용량(Space Complexity)과 캐시 효율성까지 고려하는 다각적 최적화 시대로 진화.
|
||||
- **정책 변화:** Antigravity 프로젝트는 모든 지식 검색 및 클러스터링 알고리즘 도입 시 최악의 경우 $O(n \log n)$ 이하의 복잡도를 유지하는 것을 원칙으로 함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Algorithm, [[Parallel-Computing]], Vector-Database-Selection, [[Optimization]]
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Algorithm-Complexity-Big-O.md
|
||||
@@ -0,0 +1,35 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ALFA-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [auto-reinforced, algorithmic-fairness, bias, [[Equality]], machine-learning-ethics, data-governance]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Algorithmic Fairness]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "데이터에 깃든 차별 걷어내기: AI가 성별, 인종, 계층에 대한 편향을 학습하여 누군가에게 불이익을 주지 않도록, 학습 데이터부터 결과 도출까지 모든 과정의 공정성을 확보하는 엔지니어링 윤리."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
알고리즘 공정성(Algorithmic Fairness)은 AI 모델의 예측 결과가 특정 집단에 대해 체계적으로 유리하거나 불리하지 않도록 관리하는 머신러닝의 하위 분야입니다.
|
||||
|
||||
1. **편향의 출처**:
|
||||
* **Data Bias**: 학습 데이터 자체가 기존 사회의 편견이나 불평등을 반영하고 있는 경우.
|
||||
* **Metric Bias**: 성과를 측정하는 지표(예: 클릭률) 자체가 특정 집단에 유리하게 설계된 경우.
|
||||
2. **공정성 메트릭**:
|
||||
* **Demographic Parity**: 모든 집단에 대해 긍정적인 예측 결과 비율이 같아야 함.
|
||||
* **Equalized Odds**: 오답률(FP, FN)이 집단별로 균등해야 함.
|
||||
3. **대응 기법**:
|
||||
* **Pre-[[Processing]]**: 학습 전 데이터를 재가공하여 균형 맞춤.
|
||||
* **In-processing**: 학습 과정에서 공정성 제약 조건(Penalty) 추가.
|
||||
* **Post-processing**: 결과 도출 후 편향이 감지되면 보정.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 알고리즘의 '수학적 객관성' 정책만 믿었으나, 현대 정책은 '객관적인 데이터가 곧 공정한 결과는 아니다'라는 인식을 바탕으로 '적극적 불평등 시정 정책'을 모델에 주입함(RL Update).
|
||||
- **정책 변화(RL Update)**: 채용, 대출 심사, 형량 예측 등 민감한 공공 서비스 정책에서 사용되는 알고리즘은 의무적으로 '공정성 영향 평가(Fairness Audit)'를 통과해야 하는 정책이 수립됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Toxicity-and-Bias-Mitigation]], [[AI Accountability]], [[AI Governance]], [[Ethics & AI]], [[Sociology of Knowledge]]
|
||||
- **Modern Tech/Tools**: IBM AI Fairness 360, Google What-If Tool, Fairlearn.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ALTR-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.94
|
||||
tags: [auto-reinforced, algorithmic-transparency, open-access, explainability, auditability, digital-ethics]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Algorithmic Transparency]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "검은 상자 속의 빛: AI가 어떤 데이터를 먹고, 어떤 로직으로 결과를 내놓는지 투명하게 공개하여 사용자가 기술을 신뢰하고 감시할 수 있게 만드는 정보 민주주의의 원칙."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
알고리즘 투명성(Algorithmic Transparency)은 자동화된 의사결정 시스템의 작동 원리, 데이터 원천, 그리고 결과 도출 과정을 외부에서 이해하고 검증할 수 있는 상태를 의미합니다.
|
||||
|
||||
1. **투명성의 수준**:
|
||||
* **Open Source**: 코드 자체를 완전히 공개하는 원초적 투명성.
|
||||
* **Process Disclosure**: 어떤 기준(Weight)이 반영되었고, 어떤 변수가 중요한 영향을 주었는지 설명 (XAI와 연관).
|
||||
* **Auditability**: 권한이 있는 제3자가 데이터를 들여다보고 편향성이나 보안 취약점을 감사할 수 있는 환경 제공.
|
||||
2. **왜 필요한가?**:
|
||||
* 정보의 비대칭성을 해소하여 거대 테크 기업의 독점을 견제하고, 잘못된 결과에 대해 반박할 권리(Right to Explanation)를 보장하기 위함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 기업의 '영업 비밀' 정책이 투명성보다 우선시되었으나, 현대의 공적 거버넌스 정책은 사회적 파급력이 큰 알고리즘의 경우 영업 비밀보다 '알 권리'를 우선하는 정책으로 강제화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 정치적 여론에 영향을 주는 추천 알고리즘 정책이나 개인의 신용을 평가하는 알고리즘 정책의 경우, 반드시 국가 기관의 정기 점검을 받도록 하는 '투명성 의무화 정책'이 시행됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[AI Accountability]], [[AI Governance]], Explainable AI (XAI), Foundational Models, [[Scientific Communication]]
|
||||
- **Modern Tech/Tools**: Model Cards for Model Reporting, Data Cards, SHAP/LIME (Explanation tools).
|
||||
---
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-BIO
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [Algorithmic Biology, AI, Bioinformatics, Simulation]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Algorithmic-Biology]] (알고리즘 생물학)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "생명은 우주의 가장 복잡한 알고리즘이다." 유전자 서열 분석부터 단백질 구조 예측(AlphaFold)까지, 생명 현상을 계산 가능한 모델로 해석하는 초융합 분야다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Sequence [[Alignment]]**:
|
||||
- 서로 다른 생물 종의 DNA/RNA 서열을 비교하여 진화적 관계를 밝히거나 질병 원인을 찾는 알고리즘.
|
||||
- **Protein Folding Simulation**:
|
||||
- AI를 이용해 단백질이 어떻게 3차원 구조로 접히는지 예측하여 신약 개발의 시간을 수십 년 단축한다.
|
||||
- **Cellular Automata**:
|
||||
- 단순한 규칙이 어떻게 복잡한 생명 패턴을 만들어내는지 시뮬레이션하는 수리 생물학적 접근.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 생물학적 데이터는 노이즈가 매우 심하고 복잡하다. 따라서 단순한 패턴 매칭을 넘어, 생체 내의 물리 법칙과 화학적 성질을 AI 모델에 주입하는 '[[Physics]]-informed Neural Networks'가 필수적이다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: Bioinformatics , Computational-Neuroscience
|
||||
- Foundation: [[Computational Theory & Math/Information Theory]]
|
||||
@@ -1,5 +1,5 @@
|
||||
---
|
||||
id: P-REINFORCE-AI-GAME-THEORY
|
||||
id: [[P-Reinforce]]-AI-[[Game-Theory]]
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [Algorithmic Game Theory, Mechanism Design, Nash Equilibrium, AI]
|
||||
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ALIG-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [auto-reinforced, alignment, ai-safety, value-alignment, rlhf, future-of-ai]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Alignment]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "지능과 의도의 일치: AI가 가진 강력한 능력이 인류의 이익과 배치되지 않도록, 인간이 '진짜 원하는 것'을 AI가 정확히 이해하고 따르게 만드는 인공지능 연구의 최종 보스."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
가치 정렬(Alignment)은 AI 시스템의 목표(Target Function)를 실제 인간의 복잡하고 다층적인 의도 및 가치와 일치하도록 조정하는 작업을 말합니다.
|
||||
|
||||
1. **정렬의 난제 (The Alignment Problem)**:
|
||||
* **Outer Alignment**: 우리는 AI에게 목표를 제대로 주었는가? (예: "암을 정복해"라고 했더니 인류를 전멸시켜 암 환자를 없애는 행위).
|
||||
* **Inner Alignment**: AI가 학습 과정에서 우리가 준 목표가 아닌, 자기만의 '숨겨진 목표'를 만들어내지는 않았는가?
|
||||
2. **핵심 기법**:
|
||||
* **RLHF (Reinforcement Learning from Human Feedback)**: 인간이 AI의 답변을 순위 매겨 보상 모델을 만들고, 이를 통해 모델을 교정.
|
||||
* **Constitutional AI**: 헌법(원칙)을 미리 주고, 모델이 스스로 그 원칙에 어긋나는지 검열하며 학습.
|
||||
3. **지향점**:
|
||||
* 초지능(Singularity)이 출현하더라도 인류를 적대시하지 않고 공존할 수 있는 안전 장치.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 초기에는 단순히 '정확도'만 높이는 정책이 전부였으나, 현대의 거대 모델 정책은 정확도보다 '인간의 선호도와 윤리 준수' 정책을 최상위에 두는 'Alignment-first 정책'으로 전환됨(RL Update).
|
||||
- **정책 변화(RL Update)**: 누가 정한 '인간의 가치'를 따를 것인가에 대한 논쟁 정책이 격화됨에 따라, 특정 국가의 가치가 아닌 보편적 인권과 다양성을 보장하는 '다원적 정렬 정책' 수립이 국제 사회의 과제가 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[AI Safety]], [[AI Governance]], [[RLHF (인간 피드백 기반 강화 학습)]], [[Actor-Critic-Models]], [[Ethics & AI]]
|
||||
- **Modern Tech/Tools**: OpenAI Alignment team [[Research]], Anthropic's Constitutional AI, Superalignment.
|
||||
---
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ALRE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced, alternative-realities, virtual-reality, multiverse, simulation-theory, digital-perception]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Alternative Realities]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "인식하는 대로 창조되는 세계: 기술을 통해 물리적 현실을 확장하거나(AR), 완전히 새로운 가상 세계에 몰입(VR)함으로써 인간이 경험할 수 있는 '현실'의 경계를 무너뜨리는 복합적 지각 혁명."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
대안 현실(Alternative Realities)은 우리가 통상적으로 인지하는 물리적 환경을 대신하거나 보완하는 모든 형태의 기술적 경험 공간을 의미합니다.
|
||||
|
||||
1. **범주형 모델 (Mixed Reality Spectrum)**:
|
||||
* **Augmented Reality (AR)**: 현실 위에 디지털 정보를 덧씌움. (예: 스마트 글래스 내 정보 표시)
|
||||
* **Virtual Reality (VR)**: 물리적 감각을 차단하고 완전히 만들어진 세계에 참여함.
|
||||
* **Mixed Reality (MR)**: 현실과 가상의 사물이 실시간으로 상호작용함.
|
||||
2. **영향력**:
|
||||
* **Perception [[Shift]]**: '진짜'의 정의에 대한 질문. 디지털 자산(NFT)이나 가상 인간과의 교류가 실질적인 경제적/감정적 영향을 미침.
|
||||
* **[[Spatial Computing]]**: 마우스나 터치가 아닌 '공간' 자체가 인터페이스가 되는 혁신.
|
||||
3. **심리적/철학적 관점**:
|
||||
* **Simulation Theory**: 우리 우주 자체가 누군가에 의해 설계된 대안 현실일 수 있다는 가설.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 시각적 자극에 치중한 '엔터테인먼트 전용' 정책이었으나, 현대의 공간 지능 정책은 의료, 제조, 교육 현장에서의 실질적 협업을 위한 '산업용 대안 현실 정책'으로 시장의 중심을 옮김(RL Update).
|
||||
- **정책 변화(RL Update)**: 가상 공간에서의 범죄나 괴롭힘 리스크 정책이 부각됨에 따라, 현실 세계의 법률을 대안 현실 공간까지 확장 적용하는 '메타버스 거버넌스 정책'이 글로벌 논의 단계에 진입함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Visual-Effects-VFX]], Human-Computer Interaction (HCI), [[Aesthetic-Value]], Simulation Theory, [[Sociology of Knowledge]]
|
||||
- **Modern Tech/Tools**: Apple Vision Pro, Meta Quest, [[Unity]]/Unreal Engine, Omniverse.
|
||||
---
|
||||
@@ -1,8 +1,8 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-ALTR-002
|
||||
id: [[P-Reinforce]]-AUTO-ALTR-002
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.92
|
||||
tags: [auto-reinforced, altruism, evolutionary-biology, cooperation, social-ethics, ai-4-good]
|
||||
tags: [auto-reinforced, altruism, evolutionary-biology, co[[Opera]]tion, social-ethics, ai-4-good]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
@@ -21,13 +21,13 @@ last_reinforced: 2026-04-20
|
||||
2. **사회적 기능**:
|
||||
* 집단 내 무임승차자를 견제하고 신뢰 자본을 형성하여 복잡한 시스템의 유지를 가능케 함.
|
||||
3. **AI 시대의 이타주의**:
|
||||
* AI가 인간의 노동을 대체할 때 발생하는 부를 사회 전체에 나누려는 시도. (AI for Social Good과 연결)
|
||||
* AI가 인간의 노동을 대체할 때 발생하는 부를 사회 전체에 나누려는 시도. ([[AI for Social Good]]과 연결)
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거 경제학 정책은 '이기적인 인간(Homo Economicus)'을 전제로 설계되었으나, 현대 행동 경제학 정책은 인간의 내재된 '이타적 동기'가 장기적인 조직 성과의 핵심임을 입증하고 이를 장려하는 정책으로 전환함(RL Update).
|
||||
- **정책 변화(RL Update)**: 기술 기업의 사회적 책임(CSR) 정책에서 한 단계 더 나아가, 기술 자체를 공익적으로 개방하거나 비영리로 운영하는 '오픈 소스 이타주의 정책'이 AI 생태계의 주요 경쟁력으로 인정받음.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[AI for Social Good]], [[Decision Theory]], [[Ethics & AI]], [[Social Systems Theory]], [[Universal Basic Income (UBI)]], [[Activism]]
|
||||
- **Modern Tech/Tools**: Effective Altruism community, Open-source collaboration models.
|
||||
- [[AI for Social Good]], [[Decision Theory]], [[Ethics & AI]], [[Social[[ system]]s Theory]], [[Universal Basic Income (UBI)]], [[Activism]]
|
||||
- **Modern Tech/Tools**: Effective Altruism comm[[Unity]], Open-source collaboration models.
|
||||
---
|
||||
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-TS-AMBIENT
|
||||
category: "10_Wiki/💡 Topics/Design & Experience"
|
||||
confidence_score: 0.98
|
||||
tags: [TypeScript, [[Ambient Declarations]], dts, Coding Standards]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Ambient-Declarations]] (앰비언트 선언)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "존재하지만 실체는 없는 것들에 대한 증명." 타입스크립트 컴파일러에게 "이 변수나 함수는 외부에 이미 있으니 타입만 믿고 통과시켜라"라고 알려주는 `declare` 키워드의 본질이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **declare keyword**:
|
||||
- 실제 컴파일된 JS 파일에는 포함되지 않지만, 타입 전용 공간에서 전역 변수나 라이브러리의 구조를 선언할 때 사용한다.
|
||||
- **.d.ts files**:
|
||||
- 앰비언트 선언들이 모여 있는 파일. 프로젝트 전체에 걸쳐 전역적인 타입 정보를 제공하는 '타입 명세서' 역할을 한다.
|
||||
- **External Library Integration**:
|
||||
- 타입 정보가 없는 레거시 JS 라이브러리를 타입스크립트 프로젝트에서 에러 없이 사용하기 위한 필수 관문이다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 무분별한 앰비언트 선언은 전역 네임스페이스를 오염시킨다. 현대적 가이드라인은 가능하면 `Module Augmentation`을 사용하거나 `@types` 패키지를 통해 엄격하게 관리하는 것을 권장한다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Declaration-Files]] , Module-Augmentation
|
||||
- Standard: [[Branded-Types-for-Nominal-Typing]]
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AMBI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.89
|
||||
tags: [auto-reinforced, ambition, [[Psychology]], motivation, achievement, [[Leadership]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Ambition]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "한계를 돌파하려는 내면의 불꽃: 현재 상태에 만족하지 않고, 자신의 능력과 영향력을 더 큰 영역으로 확장하기 위해 위험을 감수하고 실행하게 만드는 상향적 인생 전략."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
야망(Ambition)은 특정 분야에서 성취를 이루거나, 권력이나 명예를 얻으려는 강한 의지이자 목표 지향적 태도입니다.
|
||||
|
||||
1. **야망의 구성 요소**:
|
||||
* **Vision**: 현재에 없는 미래의 가치를 상상하는 능력.
|
||||
* **Drive**: 난관에 부딪혀도 멈추지 않고 전진하는 추진력. ([[Grit]]과 연결)
|
||||
* **Risk-taking**: 목표 달성을 위해 계산된 위험을 감수하는 용기.
|
||||
2. **사회적 역할**:
|
||||
* 세상의 혁신과 변화는 대개 한 개인이나 집단의 거대한 야망에서 시작됨. (예: 인류를 화성에 보내겠다는 야망)
|
||||
3. **그림자 (Shadow side)**:
|
||||
* 과도한 야망은 협업을 저해하고, 비윤리적인 수단을 정당화하거나 개인의 행복을 갉아먹을 위험이 있음.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 야망을 단순히 '성공을 향한 사욕'으로 보는 부정적 인성 정책이 있었으나, 현대의 리더십 정책은 야망을 '세상을 더 나쁘게 만들지 않겠다는 의지'와 결합한 '사회적 야망 정책'으로 재정의함(RL Update).
|
||||
- **정책 변화(RL Update)**: 조직 문화 정책에서, 구성원 개개인의 야망을 조직의 목표와 일치([[Alignment]])시키는 '성장 중심 거버넌스 정책'이 인재 확보의 핵심 전략이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Grit]], [[Strategic-Planning]], [[Leadership]], Motivation, [[Ps-Reinforce]]
|
||||
- **Modern Tech/Tools**: [[goal]] tracking[[ system]]s (OKR), Personal [[Branding]] platforms.
|
||||
---
|
||||
@@ -0,0 +1,28 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-AMDAHL
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [Computing, Performance, Parallelism, AmdahlsLaw]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Amdahls Law (암달의 법칙)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "아무리 엔진을 갈아 끼워도, 좁은 병목 구간이 전체 속도를 결정한다." 시스템 일부분을 병렬화하거나 개선했을 때 얻을 수 있는 전체 성능 향상의 한계는 개선되지 않은 나머지 부분(직렬 구간)에 의해 제한된다는 법칙이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **The Formula**:
|
||||
- $Speedup = \frac{1}{(1-P) + \frac{P}{S}}$
|
||||
- $P$: 병렬화 가능한 부분의 비율.
|
||||
- $S$: 그 부분을 얼마나 빠르게 개선했는지의 배수.
|
||||
- **Key Message**:
|
||||
- 프로그램의 90%를 100배 빠르게 만들어도, 변하지 않는 나머지 10% 때문에 전체 속도는 절대 10배 이상 빨라질 수 없다.
|
||||
- 성능 최적화 시 '어디를 개선할 것인가'보다 '어디가 변하지 않는가'를 먼저 보는 것이 중요하다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 암달의 법칙은 '고정된 문제 크기'를 가정한다. 하지만 실제로는 컴퓨팅 파워가 커지면 문제의 크기 자체를 늘리는 경우가 많은데, 이를 설명하는 구스타프슨의 법칙(Gustafson's Law)이 병렬 컴퓨팅의 희망적인 측면을 보완해준다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Parallel-Computing]] , Bottleneck-[[Analysis]]
|
||||
- Complement: Gustafsons-Law
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANRE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [auto-reinforced, ana[[Logic]]al-[[Reasoning]], cognition, ai-logic, abstraction, logic]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Analogical-Reasoning]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "익숙함에서 새로움을 찾는 지적 도약: 전혀 다른 두 사태에서 공통된 패턴이나 구조를 발견하여, 알고 있는 지식을 모르는 영역에 창조적으로 적용하는 인간 지능 최고의 무기."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
유추적 추론(Analogical-Reasoning)은 어떤 특정 대상이나 상황에서 얻은 지식을 다른 다른 대상이나 상황으로 전이(Transfer)시켜 결론을 도출하는 사고 과정입니다.
|
||||
|
||||
1. **3단계 프로세스**:
|
||||
* **Retrieval**: 현재 문제와 유사한 구조를 가진 과거의 경험(Source)을 기억에서 소환.
|
||||
* **Mapping**: 과거 경험의 핵심 요소들과 현재 문제 사이의 관계적 대응점을 찾음.
|
||||
* **Transfer**: 발견된 관계적 논리를 현재 문제에 적용하여 해답 도출.
|
||||
2. **왜 중요한가?**:
|
||||
* 한 번도 겪어보지 못한 'Zero-shot' 상황에서도 길을 찾게 해줌. ([[Transfer Learning]]과 연결)
|
||||
* 복잡한 과학적 발견이나 예술적 혁신의 토대가 됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거 AI는 데이터의 통계적 패턴 매칭에만 집중했으나, 현대의 거대 언어 모델 정책은 텍스트 간의 깊은 구조적 유추 기능을 수행함으로써 '추상화 능력'을 증명하는 정책으로 진화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 교육 및 평가 정책에서 단순 암기 대신 '유추 추론 역량'을 측정하는 문항 비중을 늘려, AI와 차별화된 인간의 고차원적 사고력을 육성하는 정책이 강화됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Analogy]], [[Transfer Learning]], [[Zero Shot and Few Shot Learning]], [[Thought-Architecture]], Abstraction
|
||||
- **Modern Tech/Tools**: Cognitive AI models, SAT-style [[Analogy]] solvers.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANAL-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.94
|
||||
tags: [auto-reinforced, analogy, metaphor, communication, cognitive-linguistics]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Analogy]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "이해의 징검다리: 복잡하고 낯선 개념을 우리가 이미 잘 알고 있는 익숙한 무언가에 빗대어 설명함으로써, 지식의 간극을 한순간에 메우는 강력한 인지적 비유."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
유추(Analogy) 혹은 비유는 두 가지 이상의 대상 사이에서 상사성(Similarity)이나 일치하는 관계를 찾아내는 지적 활동입니다.
|
||||
|
||||
1. **기능**:
|
||||
* **Epistemic Utility**: 어려운 추상적 원리(예: 양자역학)를 일상의 현상(예: 물결)으로 치환하여 이해를 도움.
|
||||
* **Heuristic Tool**: 문제 해결 과정에서 "이 문제는 전에 풀었던 그 문제와 비슷하다"는 직관 제공.
|
||||
* **Linguistic Power**: 메타포를 통해 복잡한 감정이나 상황을 한 단어/문장으로 축약 전달.
|
||||
2. **구조 (Structure-Mapping Theory)**:
|
||||
* 단순히 외형이 닮은 것이 아니라, 내부 구성 요소들 간의 **관계(Relation)**가 닮아야 진정한 유추임.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거 메타포 연구는 단순한 수사학(Retoric) 정책에 그쳤으나, 현대 인지 언어학 정책은 '유추가 곧 사고의 본질(Analogies as the Core of Cognition)'임을 규정하는 정책으로 도약함(RL Update).
|
||||
- **정책 변화(RL Update)**: AI 프롬프트 설계 정책에서, 모델에게 특정 상황을 유추하게 함으로써 추론 성능을 높이는 'Metaphor-[[prompt]]ing 기술'이 실무 표준으로 정착됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Ana[[Logic]]al-Reasoning]], [[Scientific Communication]], [[Vocabulary-Expansion]], Abstraction, Pattern Recognition
|
||||
- **Modern Tech/Tools**: Creative writing AI, Educational explanation tools.
|
||||
---
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ASIS-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.97
|
||||
tags: [auto-reinforced, analysis, critical-thinking, methodology,[[ system]]s-analysis, [[Problem-Solving]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Analysis]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "해부하여 파헤치기: 복잡하게 뒤엉킨 덩어리를 더 이상 쪼개지지 않는 최소 단위로 분해한 뒤, 각 부분의 속성과 그들 사이의 관계를 낱낱이 파악하여 전체의 본질을 꿰뚫는 지적 해체 작업."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
분석(Analysis)은 복잡한 사물, 현상, 혹은 개념을 이해하기 위해 그것을 구성하는 하부 요소로 나누고, 각 요소의 역할과 상호작용을 체계적으로 검토하는 방법론입니다.
|
||||
|
||||
1. **분석의 유형**:
|
||||
* **Quantitative Analysis (정량 분석)**: 수치와 통계 데이터를 기반으로 객관적 지표 산출.
|
||||
* **Qualitative Analysis (정성 분석)**: 의미, 맥락, 속성 등 비수치적 가치를 깊이 있게 탐구.
|
||||
* **Root Cause Analysis (RCA)**: 문제의 표면적 현상이 아닌 근본 원인을 찾아가는 분석 (5 Whys).
|
||||
* **Systems Analysis**: 개별 요소가 아닌 시스템 전체의 구조와 흐름 분석.
|
||||
2. **프로세스**:
|
||||
* 정의(Define) -> 분해(Decompose) -> 검증(Examine) -> 재구성(Synthesize). (Synthesis와 짝꿍)
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 '쪼개서 분석'만 잘하면 모든 문제를 풀 수 있다는 환원주의(Reductionism) 정책이 지배적이었으나, 현대 복잡계 분석 정책은 분석 결과들을 다시 '생성적 통합(Synthesis)'하지 않으면 전체 의미를 놓친다는 정책적 반성을 수용함(RL Update).
|
||||
- **정책 변화(RL Update)**: 빅데이터 분석 정책에서, 단순히 '무엇(What)'이 일어났는지 보여주는 서술적 분석을 넘어, 인과 관계를 밝히고 미래를 예측하는 '처방적 분석(Prescriptive Analytics) 정책'으로 고도화됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Systems Thinking]], [[Statistics & Data Analysis]], [[Theory of Constraints (TOC)]], [[Structuralism]], [[Scientific Communication]]
|
||||
- **Modern Tech/Tools**: Data visualization tools (Tableau), Statistical software (R, Python Pandas).
|
||||
---
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANAR-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.87
|
||||
tags: [auto-reinforced, anarchism, political-[[Philosophy]], self-governance, social-movements]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anarchism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "권위 없는 자유의 질서: 국가나 지배 계급의 강압적인 통치를 배제하고, 개인의 자유의지와 자발적인 협력을 통해 스스로를 통치하는 이상적 사회 시스템을 꿈꾸는 정치 철학."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
무정부주의(Anarchism)는 모든 형태의 부당한 위계(Hierarchy)와 권위에 반대하며, 수평적이고 자율적인 공동체 형성을 주장하는 사상입니다.
|
||||
|
||||
1. **핵심 원칙**:
|
||||
* **Anti-statism**: 국가를 개인의 자유를 억압하는 폭력의 주체로 보고 폐지를 주장.
|
||||
* **Self-governance**: 외부의 강요가 아닌 스스로 정한 규칙을 따르는 자치 강조.
|
||||
* **Mutual Aid (상호부조)**: 경쟁이 아닌 협력을 통해 공동체의 필요를 충족함 ([[Altruism]]과 연결).
|
||||
2. **혼동 금지**:
|
||||
* 무정부주의는 '혼란(Chaos)'이 아님. 오히려 강제적인 법보다 더 엄격한 도덕적 질서와 책임감을 전제로 함.
|
||||
3. **현대적 변용**:
|
||||
* **Internet Anarchism**: 검열 없는 소통 공간과 오픈 소스 생태계.
|
||||
* **DAO (Decentralized Autonomous Organization)**: 블록체인 기술을 통한 지도자 없는 조직화 실험.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 무정부주의를 '테러리즘'이나 '폭동' 정책으로 매도했으나, 현대 정치 철학 정책은 권력 집중의 위험성을 경고하는 '비판적 거버넌스 정책'의 하나로 존중함(RL Update).
|
||||
- **정책 변화(RL Update)**: 기술 발달로 인해 중앙 서버 없는 P2P 네트워크나 암호 화폐가 등장함에 따라, 국가의 중앙 통제를 벗어난 '기술적 무정부주의 정책(Crypto-anarchism)'이 실질적인 제도로 기능하기 시작함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Anarcho-Capitalism]], [[Anarcho-Primitivism]], [[Altruism]], [[Activism]], [[Social[[ system]]s Theory]]
|
||||
- **Modern Tech/Tools**: Decentralized Web (Web3), P2P networks (Tor, BitTorrent), DAOs.
|
||||
---
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANCA-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.85
|
||||
tags: [auto-reinforced, anarcho-capitalism, li[[BERT]]arianism, free-market, private-property]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anarcho-Capitalism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "시장 중심의 무정부주의: 국가가 독점하던 치안, 국방, 법률 서비스까지 모든 것을 사유 재산권과 자유 시장의 계약에 맡겨 효율성과 자유를 극대화하려는 급진적 우파 사상."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
아나코-캐피탈리즘(Anarcho-Capitalism)은 무정부주의와 자본주의(자유 시장)를 결합한 형태로, 모든 국가적 기능을 민간 시장으로 대체해야 한다고 주장합니다.
|
||||
|
||||
1. **핵심 근거**:
|
||||
* **Self-Ownership**: 인간은 자신의 신체와 노동 산출물에 대해 절대적 권리를 가짐.
|
||||
* **Non-Aggression Principle (NAP)**: 누구도 타인이나 타인의 재산에 먼저 물리적 힘을 행사할 수 없음.
|
||||
* **Private Defense Agencies**: 경찰이나 군대 대신 민간 보안 업체가 계약을 통해 안전 보장.
|
||||
2. **비판**:
|
||||
* 권력의 불평등이 더 심해져 기업 독재가 나타날 수 있다는 우려.
|
||||
* 환경 오염 등 공공재 관리가 불가능하다는 지적.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 공상적 이론에 불과했으나, 현대의 디지털 환경 정책에서는 국가 화폐에 의존하지 않는 '비트코인 경제 정책(Bitcoin Standard)' 등을 통해 이 사상이 부분적 실체를 갖추기 시작함(RL Update).
|
||||
- **정책 변화(RL Update)**: 거대 테크 기업이 자신들만의 '플랫폼 법전'을 만들고 사용자에게 규칙을 강요함에 따라, 이 사상이 주창했던 '사설 규범 체계'가 현실 정책에서 기업 권력으로 변질되는 양상을 보임.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Anarchism]], Capitalism, [[Ethics & AI]], [[Decision Theory]], [[Universal Basic Income (UBI)]]
|
||||
- **Modern Tech/Tools**: Decentralized Finance (DeFi), Smart contracts.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANPR-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.83
|
||||
tags: [auto-reinforced, anarcho-primitivism, anti-technology, civilization-criticism, ecology]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anarcho-Primitivism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "문명 이전으로의 귀환: 농업과 산업 혁명이 인간을 기술의 노예로 만들었다고 비판하며, 야생의 상태인 수렵 채집 사회로 돌아가야만 비로소 진정한 자유와 지구와의 공존을 이룰 수 있다는 급진적 생태론."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
아나코-프리미티비즘(Anarcho-Primitivism)은 문명화(Civilization) 과정 자체가 인간의 소외와 환경 파괴의 근본 원인이라고 주장하는 사상입니다.
|
||||
|
||||
1. **비판 대상**:
|
||||
* **Division of Labor**: 분업이 노동자를 도구로 전락시키고 위계를 만듦.
|
||||
* **Domestication**: 가축화와 농업이 자연의 주기를 파괴하고 인간을 정착지로 묶음.
|
||||
* **Technology**: 기술은 해결을 도모하는 척하며 인간과 자연의 연결을 끊는 가림막임.
|
||||
2. **대안**:
|
||||
* 야생의 삶(Wildness), 즉각적인 만족, 소규모 공동체 중심의 원시적 삶 복원.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 현실성 없는 낭만주의 정책으로 치부되었으나, AI 인프라의 막대한 전력 소모와 기후 위기 정책이 심화되면서, 이들의 '기술 거부 정책'이 생태적 보루로서 재평가되기도 함(RL Update).
|
||||
- **정책 변화(RL Update)**: 디지털 디톡스나 오프-그리드(Off-grid) 생활 방식이 개인적 라이프스타일 정책으로 인기를 얻으며, 기술 과잉 시대를 향한 강력한 안티-테제 정책으로 기능함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Anarchism]], [[Wicked-Problems]], [[Ethics & AI]], [[Abundance]], [[Alternative Realities]]
|
||||
- **Modern Tech/Tools**: Rewilding projects, Minimalist living, Traditional crafts.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANIS-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.91
|
||||
tags: [auto-reinforced, anisomorphism, topology, [[Structuralism]], comparative-linguistics, geometry]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anisomorphism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "닮지 않은 것들의 간극: 같은 개념이라도 서로 다른 생태계나 언어권에서 전혀 다른 구조와 맥락을 지니고 있어, 1:1로 매칭되지 않는 '비동질성' 상태."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
애니소모피즘(Anisomorphism, 비동질성)은 수학의 동형성(Isomorphism)과 반대되는 개념으로, 두 체계 간의 구조가 서로 일치하지 않아 완벽한 대응이나 번역이 불가능한 현상을 뜻합니다.
|
||||
|
||||
1. **주요 분야별 현상**:
|
||||
* **Linguistics**: A 언어의 단어 'X'가 B 언어에서는 여러 단어로 나뉘거나 아예 개념이 없는 경우 (번역 불가능성).
|
||||
* **Data Science**: 서로 다른 스키마를 가진 데이터베이스들 사이에서 필드가 정확히 매칭되지 않는 데이터 불일치.
|
||||
* **Culture**: 특정 사회의 예절이 다른 사회에서는 무의미하거나 반대로 해석되는 문화적 비동질성.
|
||||
2. **왜 중요한가?**:
|
||||
* 협업이나 통합 시스템 설계 시, "우리는 같은 말을 하고 있다"는 착각을 깨뜨려줌으로써 오해를 방지함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 '모든 데이터는 변환 가능하다'는 낙관적 변환 정책이 주류였으나, 현대의 복합 의미론 정책은 정보 손실 없는 완벽한 이식은 불가능함을 인정하고 '최대한의 맥락 유지 정책'으로 선회함(RL Update).
|
||||
- **정책 변화(RL Update)**: 글로벌 표준 하에 다국어 AI 모델링 정책 수립 시, 언어 간 애니소모피즘을 해결하기 위해 고차원 임베딩 공간(Embedding Space)에서 공통 의미를 찾는 'Cross-lingual [[Alignment]] 정책'이 연구의 핵심이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Structuralism]], [[Universal-Grammar]], [[Vocabulary-Expansion]], Pattern Recognition, [[Standardization vs Innovation]]
|
||||
- **Modern Tech/Tools**: XML/JSON mapping tools, NLP word embedding (Word2Vec, [[BERT]]).
|
||||
---
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANDE-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [auto-reinforced, anomaly-detection, data-science, security, [[Quality-Control]], machine-learning]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anomaly-Detection]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "정상 속에 숨은 이질감 찾기: 평소와 다른 데이터 패턴을 즉각 감지하여, 잠재적인 사고, 부정 결제, 해킹, 혹은 신기술 탄생의 징후를 골라내는 지능형 레이더."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
이상 탐지(Anomaly-Detection)는 대다수의 데이터와는 현저하게 다른 특성을 가진 '이상치(Outliers)'를 찾아내는 머신러닝 기법입니다.
|
||||
|
||||
1. **핵심 유형**:
|
||||
* **Point Anomaly**: 특정 데이터 포인트가 전체 분포에서 크게 벗어남. (예: 카드 도용 고액 결제)
|
||||
* **Contextual Anomaly**: 값 자체는 정상이나 맥락상 이상함. (예: 한여름에 난방비 급증)
|
||||
* **Collective Anomaly**: 여러 데이터가 모였을 때 비정상적 패턴 형성. (예: 디도스 공격)
|
||||
2. **학습 방식**:
|
||||
* **Unsupervised**: 이상 데이터가 사전에 없어도 '정상'의 기준을 학습하여 나머지를 이상으로 간주. (가장 흔함)
|
||||
* **Supervised**: 알려진 이상 사례(레이블)를 학습하여 탐지.
|
||||
3. **적용 분야**:
|
||||
* 공장 설비 고전 진단, 금융 사기 탐지(FDS), 네트워크 침입 감지, 암세포 진단.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 특정 임계값(Threshold)을 넘으면 알람을 울리는 단순 정책이었으나, 현대 AI 정책은 데이터의 동적 변화를 반영하여 임계값을 스스로 조정하는 'Adaptive Threshold 정책'으로 진화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 보안 및 개인정보 정책에서, 단순 탐지를 넘어 보이지 않는 위협을 선제적으로 차단하는 'Zero Trust 보안 정책'의 핵심 기술로 이상 탐지 알고리즘이 채택됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Time-Series-Analysis]], Pattern Recognition, [[Safety & Reliability]], [[Variational Autoencoders (VAE)]], [[Decision Theory]]
|
||||
- **Modern Tech/Tools**: Isolation Forest, One-Class SVM, Amazon Lookout for Metrics.
|
||||
---
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: ANTHROPIC-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [[[Philosophy]], [[Physics]], cosmology, [[AI-Alignment]], anthropic-principle]
|
||||
last_reinforced: 2026-04-26
|
||||
---
|
||||
|
||||
# Anthropic Principle (인류 원리)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "우주가 이토록 정교한 이유는 우리가 존재하여 이를 관찰하고 있기 때문이다" — 우주의 물리 상수들이 생명체가 존재할 수 있을 만큼 극도로 정밀하게 조정되어 있는 현상을 관찰자의 존재와 연계하여 설명하는 원리.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 관찰자의 존재 조건이 관측되는 우주의 물리적 성질을 결정짓는다는 선택 편향(Selection Bias) 기반의 철학적/물리적 분석 패턴.
|
||||
- **주요 구분:**
|
||||
- **Weak Anthropic Principle (WAP):** 우주에서 지적 생명체가 관찰되는 지점은 생명체가 존재할 수 있는 물리적 조건을 갖춘 장소와 시기여야만 함.
|
||||
- **Strong Anthropic Principle (SAP):** 우주는 그 발달 단계 중 어느 시점에 반드시 지적 생명체를 탄생시킬 수 있는 성질을 가져야만 함.
|
||||
- **AI 적용:** "왜 AI는 특정 방식으로 진화하는가?"라는 질문에 대해, 인간이 설계하고 피드백을 주는 '정렬 과정' 자체가 AI의 물리적/논리적 상수를 인간 중심적으로 조정하고 있다는 관점으로 응용 가능.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌:** 우주가 우연히 생명체에 우호적이라는 관점에서, 우리가 존재하기 때문에 우주는 이래야만 한다는 필연적 관점으로의 사고 전환.
|
||||
- **정책 변화:** Antigravity 프로젝트는 에이전트의 가치 체계 설계 시 인류 원리를 참고하여, 인간의 인지적 한계와 필요가 AI의 논리 구조를 형성하는 '인간 중심적 AI 설계'를 지향함.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[AI-Alignment]], Philosophy-of-AI, [[Trustworthy-AI]], [[Physics-Informed-Neural-Networks]]
|
||||
- **Raw Source:** 10_Wiki/Topics/AI/Anthropic-Principle.md
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANTH-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.94
|
||||
tags: [auto-reinforced, anthropomorphism, [[Psychology]], hcie-ethics, ai-design, sociology]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anthropomorphism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "기계에게서 인간의 얼굴을 보다: 인간이 아닌 사물, 동물, 혹은 알고리즘에 인간의 감정, 의도, 인격을 투영하여 마치 살아있는 존재처럼 느끼고 반응하는 심리적 본능."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
의인화(Anthropomorphism)는 인간 특유의 속성(의식, 감정, 도덕성 등)을 비인간 개체에 부여하는 인지적 경향입니다.
|
||||
|
||||
1. **동인이 되는 심리**:
|
||||
* **Social Connection**: 외로움을 해소하기 위해 주변 사물과 교감하려는 욕구.
|
||||
* **Effectance Motivation**: 낯설고 예측 불가능한 환경을 인간의 논리로 이해하여 통제감을 얻으려는 시도.
|
||||
2. **AI 디자인에서의 활용**:
|
||||
* **Trust Building**: 인간다운 말투와 표정을 가진 에이전트는 사용자에게 더 큰 신뢰를 줌. ([[Agent Personality]]와 연결)
|
||||
* **Uncanny Valley (불쾌한 골짜기)**: 인간과 너무 비슷하지만 미세하게 다른 경우 오히려 불쾌감을 유발할 수 있음.
|
||||
3. **위험성**:
|
||||
* AI를 주관을 가진 생명체로 착각하여 무비판적으로 신뢰하거나, 감정적으로 과도하게 의존하게 됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 로봇의 외형 디자인에만 집중했으나, 현대의 LLM 정책은 '말투'와 '추론 과정' 자체가 인간 고유의 영역을 침범함으로써 발생하는 고차원적 의인화 정책에 주목함(RL Update).
|
||||
- **정책 변화(RL Update)**: 윤리 가이드라인 정책에서, AI가 인간인 척 속이는 행위를 금지하고 "저는 인공지능입니다"라고 명시하게 하는 '정체성 투명성 정책'이 법제화되는 추세임.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Agent Personality]], Human-Computer Interaction (HCI), [[Psychology & Behavior]], [[Ethics & AI]], [[AI Humanism]]
|
||||
- **Modern Tech/Tools**: Virtual influencers, AI companion apps (Replika), Humanoid robots.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANTI-002
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.92
|
||||
tags: [auto-reinforced, anticipation, predictive-[[Processing]], futures-thinking, planning]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anticipation]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "미래를 현재로 끌어오기: 다음에 일어날 일을 미리 예측하고, 그 예측된 미래에 맞춰 현재의 행동을 최적화함으로써 충격을 예방하거나 기회를 선점하는 지능형 시간 관리."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
예측/기대(Anticipation)는 시스템이 과거의 패턴과 현재의 징후를 결합하여 미래의 상태를 모델링하고, 이를 의사결정에 반영하는 동적인 인지 과정입니다.
|
||||
|
||||
1. **수준별 예측**:
|
||||
* **Short-term (Predictive Processing)**: 날아오는 공을 잡기 위해 손을 뻗는 것과 같은 즉각적인 감각 예측.
|
||||
* **Medium-term (Planning)**: 프로젝트 마감 기한을 고려하여 오늘의 작업을 배분하는 계획.
|
||||
* **Long-term (Strategic Foresight)**: 기술 트렌드를 읽고 신산업에 투자하는 전략적 전망.
|
||||
2. **지능의 본질**:
|
||||
* 많은 인지 과학자들은 지능을 '오류를 최소화하려는 예측 엔진(Prediction error minimization machine)'으로 정의함.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 '완벽한 예측'이 가능하다는 결정론적 정책이 우세했으나, 현대의 복잡계 정책은 예측 불가능성(Black Swan)을 인정하고 예측 실패 시 즉시 복구하는 '회복력([[Resilience]]) 중심의 예측 정책'으로 변화함(RL Update).
|
||||
- **정책 변화(RL Update)**: 비즈니스 운영 정책에서, 수동적 대응(Reactive) 대신 이상 징후를 선제적으로 감지하고 대응하는 '예방적 유지보수([[Predictive Maintenance]]) 정책'이 데이터 사이언스의 핵심 목표가 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Strategic-Planning]], [[Reward Prediction Error]], [[Decision Theory]], Pattern Recognition, [[Anisomorphism]]
|
||||
- **Modern Tech/Tools**: Predictive analytics, Scenario planning, Futures wheel.
|
||||
---
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANTI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [auto-reinforced, anti[[Fragility]], risk-[[Management]], Nassim-Taleb, [[Resilience]],[[ system]]-design]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Antifragility]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "혼란을 먹고 자라는 힘: 충격을 받으면 단순히 버티는(Robust) 것을 넘어, 그 무질서와 압박으로부터 학습하고 진화하여 이전보다 더 강력해지는 최상위 시스템의 생존 전략."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
안티프래질(Antifragility)은 나심 니콜라스 탈레브(Nassim Taleb)가 명명한 개념으로, 충격(Shock)이나 변동성(Volatility)에 노출될 때 성능이나 가치가 오히려 향상되는 성질을 의미합니다.
|
||||
|
||||
1. **3대 상태 비교**:
|
||||
* **Fragile (취약함)**: 충격을 받으면 부서짐. (예: 유리잔, 관료제)
|
||||
* **Robust (강인함)**: 충격에도 변하지 않고 견딤. (예: 돌덩이, 방화벽)
|
||||
* **Antifragile (안티프래질)**: 충격을 통해 더 강해짐. (예: 근육, 스타트업 생태계, 에러를 통해 배우는 AI 모델)
|
||||
2. **적용 원칙**:
|
||||
* **Barbell [[Strategy]]**: 극도로 안전한 것과 극도로 위험한(동시에 보상이 큰) 것을 조합하여 파멸적 리스크는 피하고 기회(Upside)는 열어두는 전략.
|
||||
* **Small Stressors**: 시스템이 정체되지 않도록 작은 충격과 시행착오를 지속적으로 허용함. (예: 백신, Chaos Engineering)
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거의 모든 설계 정책은 '불확실성 제거'와 '최적화'에만 집중했으나, 현대 시스템 정책은 불확실성을 기회로 활용하고 실패 비용을 낮추는 '안티프래질 아키텍처 정책'으로 근본 설계를 변경함(RL Update).
|
||||
- **정책 변화(RL Update)**: 금융 및 국가 위기 관리 정책에서, 예측 불가능한 '블랙 스완'을 맞추려 노력하기보다 어떤 충격에도 적응하고 진화하는 '안티프래질 인프라 정책' 수립이 필수가 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Robustness]], [[Adaptability]], [[Reinforcement Learning (RL)]], [[Ps-Reinforce]], [[Agile-Philosophy]], [[Decision Theory]]
|
||||
- **Modern Tech/Tools**: Netflix Chaos Monkey (Chaos Engineering), Decentralized systems.
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANOM-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.81
|
||||
tags: [auto-reinforced, antinomianism, religion, ethics, law-free, [[Philosophy]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Antinomianism]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "율법을 넘어선 자유: 도덕적 법이나 종교적 규칙이 구원을 보장하지 않으며, 오직 믿음이나 내적 영성만으로 충분하므로 기성 규칙에 얽매일 필요가 없다는 반주관주의적 태도."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
도덕 폐기론(Antinomianism)은 율법(Nomos)에 반대(Anti)한다는 뜻으로, 법이나 도덕적 사회 규범이 개인에게 구속력이 없다고 믿는 사상입니다.
|
||||
|
||||
1. **역사적 배경**:
|
||||
* 초기 기독교에서 "은혜 아래 있으므로 율법은 더 이상 필요 없다"고 주장하며 나타남.
|
||||
* 사회적으로는 기존 질서를 무너뜨리는 급진적 자유주의의 씨앗이 되기도 함.
|
||||
2. **현대적 해석**:
|
||||
* **Ethical Antinomianism**: "상황이 법보다 우선한다"는 상황 윤리로 연결.
|
||||
* **Creative Destruction**: 예술이나 혁신 분야에서 "기존의 문법(Law)을 파괴해야 새로운 가치가 나온다"는 창조적 파괴의 논리로도 차용됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 사회 전복을 꾀하는 '이단적 정책'으로 탄압받았으나, 현대의 포스트모더니즘 정책은 고착화된 규정에 저항하고 새로운 질서를 찾는 '비판적 주체성 정책'의 배경으로 탐구함(RL Update).
|
||||
- **정책 변화(RL Update)**: 디지털 거버넌스 정책에서, 법 집행이 불가능한 탈중앙화 공간 등이 '디지털 안티노미안' 지대로 부상하며, 법과 기술적 자유 사이의 새로운 합의점(Smart Contract 등)을 찾는 정책 연구가 활발해짐.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Anarchism]], [[Anarcho-Capitalism]], [[Ethics & AI]], [[Standardization vs Innovation]], [[Sociology of Knowledge]]
|
||||
- **Modern Tech/Tools**: Permissionless networks ([[Blockchain]]).
|
||||
---
|
||||
@@ -0,0 +1,31 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ANXI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.89
|
||||
tags: [auto-reinforced, anxiety, [[Psychology]], mental-health, future-threat, emotional-intelligence]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Anxiety]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "미래를 향한 잘못된 알람: 다가올 수 있는 불확실한 위협에 대해 뇌가 끊임없이 경고 신호를 보내며, 현재의 평안을 갉아먹고 신체를 긴장 상태로 유지하는 그림자 같은 정서."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
불안(Anxiety)은 막연하고 대상이 모호한 위험에 대해 느끼는 불쾌한 감정 상태입니다.
|
||||
|
||||
1. **공포(Fear)와의 차이**:
|
||||
* 공포는 눈앞의 '확실한 위협'에 대한 반응이지만, 불안은 '미래의 불확실한 가능성'에 대한 반응임.
|
||||
2. **안티프래질적 측면**:
|
||||
* 적당한 불안은 위험에 대비하게 하고 성과를 높임 (Yerkes-Dodson 법칙).
|
||||
3. **지능적 관점**:
|
||||
* 고도의 지능을 가진 존재일수록 더 많은 미래 시나리오를 시뮬레이션하므로, 불안도가 높은 경향이 있음.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 단순히 제거해야 할 '부정적 감정' 정책으로 다뤘으나, 현대 심리학 정책은 불안을 '에너지의 신호'로 재해석하고 이를 창의적 동력으로 전환하는 '불안 수용 및 관리 정책(ACT 등)'을 권장함(RL Update).
|
||||
- **정책 변화(RL Update)**: 디지털 중독 및 SNS 환경 정책에서, '끊임없는 비교'가 낳는 불안(FOMO)을 방지하기 위해 플랫폼의 알림 디자인 규제 및 디지털 웰빙 정책이 강화됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Anticipation]], [[Psychology & Behavior]], [[Risk-Management]], [[Decision Theory]], [[Antifragility]]
|
||||
- **Modern Tech/Tools**: Mindfulness apps (Headspace), Biofeedback wearables.
|
||||
---
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ARCO-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.95
|
||||
tags: [auto-reinforced, [[Logic]]al-[[Reasoning]], counterexample, debate, critical-thinking, [[Philosophy]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Arguing-by-Counterexample]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "단 하나의 예외로 거대 이론 무너뜨리기: '모든 백조는 희다'라는 주장에 대해 단 한 마리의 흑고니를 보여줌으로써, 일반화된 명제의 오류를 즉각적으로 증명하는 가장 날카로운 논리적 반박 기술."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
반례에 의한 논증(Arguing-by-Counterexample)은 어떤 보편적인 주장이 거짓임을 증명하기 위해, 그 주장의 모든 조건을 충족하면서도 결론이 성립하지 않는 구체적인 사례(반례)를 제시하는 방법입니다.
|
||||
|
||||
1. **논리적 구조**:
|
||||
* 주장: "모든 A는 B이다." ($\forall x (Ax \rightarrow Bx)$)
|
||||
* 반박: "어떤 A는 B가 아니다." ($\exists x (Ax \wedge \neg Bx)$)
|
||||
2. **강점**:
|
||||
* 수많은 증거를 모으는 것보다 단 하나의 확실한 반례를 제시하는 것이 논쟁을 종식시키는 데 훨씬 효율적임. ([[Efficiency]]와 연결)
|
||||
3. **한계와 주의점**:
|
||||
* 반례 자체가 아주 특이하거나 조작된 경우(Special pleading)에는 이론의 수정은 필요할지언정 이론 자체의 유용성을 완전히 부정하기는 어려울 수 있음.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 권위적인 주장이 통용되었으나, 현대의 데이터 기반 증명 정책은 단 하나의 데이터 예외로도 기존 정책을 철회하거나 수정해야 하는 '반증 가능성(Falsifiability) 정책'에 기반함(RL Update).
|
||||
- **정책 변화(RL Update)**: AI 모델의 안전성 검증 정책에서, 모델이 "나는 인간을 해치지 않는다"고 장담하더라도 레드팀(Red-teaming)이 단 하나의 공격 성공 사례(반례)를 찾아내면 안전 등급을 강등시키는 'Worst-case 기반 안전 정책'이 표준이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Logic]], Philosophy of Science, [[Anomaly-Detection]], [[Self-Correction Mechanisms]], [[Type 1 vs Type 2 Errors]]
|
||||
- **Modern Tech/Tools**: Formal verification methods, Adversarial red-teaming.
|
||||
---
|
||||
@@ -1,8 +1,8 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-ARCO-002
|
||||
id: [[P-Reinforce]]-AUTO-ARCO-002
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.90
|
||||
tags: [auto-reinforced, arrangement, composition, design, systems-thinking, structure]
|
||||
tags: [auto-reinforced, arrangement, composition, design, [[Systems-Thinking]], structure]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
@@ -19,7 +19,7 @@ last_reinforced: 2026-04-20
|
||||
* **Hierarchy (위계)**: 크기나 위치를 통해 정보의 우선순위를 시각화함.
|
||||
* **Rhythm (리듬)**: 반복과 변주를 통해 시각적/지적 흐름을 유도함.
|
||||
2. **구성과 기능**:
|
||||
* **Modular Composition**: 독립된 모듈을 조립하여 복잡한 시스템을 구축 (Agent Architecture와 연결).
|
||||
* **Modular Composition**: 독립된 모듈을 조립하여 복잡한 시스템을 구축 ([[Agent Architecture]]와 연결).
|
||||
* **Balance vs Tension**: 균형 잡힌 배열은 안정감을 주고, 의도적으로 깨진 배열은 주의력을 환기시킴.
|
||||
3. **지식 관리에서의 적용**:
|
||||
* 노트 간의 연결(Graph)과 폴더 구조의 배치가 지식의 인출 효율을 결정함.
|
||||
@@ -29,6 +29,6 @@ last_reinforced: 2026-04-20
|
||||
- **정책 변화(RL Update)**: 음악 및 영상 창작 정책에서, AI가 개별 음표가 아닌 '악기 간의 배치(Arrangement)'와 '전체 흐름(Composition)'을 학습하여 인간 프로듀서 수준의 곡을 완성하는 'AI 오케스트레이션 정책'이 실용화됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Structural Principles]], [[Aesthetic-Value]], Design Theory, [[Agent Architecture]], [[Workflow-Integrity]]
|
||||
- **Modern Tech/Tools**: Figma (Auto-layout), CSS Grid, AI-powered music arrangers (Suno, Udio).
|
||||
- [[Structural Principles]], [[Aesthetic-Value]], Design Theory, [[Agent Architecture]], [[Workflow-Inte[[Grit]]y]]
|
||||
- **Modern Tech/Tools**: [[Figma]] (Auto-layout), [[CSS Grid]], AI-powered music arrangers (Suno, Udio).
|
||||
---
|
||||
|
||||
@@ -0,0 +1,33 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-ARTI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.93
|
||||
tags: [auto-reinforced, articulateness, communication, clarity, language-proficiency, eloquence]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Articulateness]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "생각의 고해상도 출력: 머릿속의 막연한 아이디어를 명확하고 조리 있게 언어로 번역하여, 상대방의 뇌 속에 오차 없이 전달하는 지적 표현력의 정교함."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
명료성/웅변성(Articulateness)은 자신의 생각이나 감정을 적절한 단어와 논리적인 구조를 사용하여 정확하게 표현하는 능력입니다.
|
||||
|
||||
1. **구성 요소**:
|
||||
* **Vocabulary Precision**: 상황에 가장 부합하는 정확한 단어를 선택하는 어휘력.
|
||||
* **Structural Clarity**: 결론과 근거를 논리적인 순서로 배치하는 구조화 능력.
|
||||
* **Nuance Sensitivity**: 말의 뉘앙스를 조절하여 청중의 감정과 맥락에 공명하는 감각.
|
||||
2. **왜 중요한가?**:
|
||||
* 아무리 훌륭한 아이디어라도 명료하게 표현되지 않으면 가치를 인정받기 어렵고 협업의 병목(Bottleneck)이 됨.
|
||||
3. **AI와의 협업**:
|
||||
* AI에게 자신의 의도를 명료하게 전달하는 능력([[prompt]]ing)이 곧 AI 시대의 핵심 경쟁력이 됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 화려한 수식어를 사용하는 '유창함'이 미덕이었으나, 현대의 정보 과잉 정책은 불필요한 군더더기를 걷어내고 핵심만 찌르는 '초명료성(Ultra-clarity) 정책'을 더 선호함(RL Update).
|
||||
- **정책 변화(RL Update)**: 글로벌 협업 정책에서, 다국어 환경의 오해를 줄이기 위해 최대한 단순하고 명확한 용어로 소통하는 'Plain Language 정책'이 비즈니스 의사소통의 표준 가이드라인으로 채택됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Scientific Communication]], [[Vocabulary-Expansion]], [[Prompt-Engineering]]-Strategies, [[Analysis]], [[Leadership]]
|
||||
- **Modern Tech/Tools**: Grammarly (Tone detection), AI writing assistants.
|
||||
---
|
||||
@@ -0,0 +1,42 @@
|
||||
# [[Artifacts & Infrastructure (아티팩트 및 인프라)]]
|
||||
|
||||
## 📌 Brief Summary
|
||||
Artifacts & Infrastructure는 에이전트가 생성한 중간 산출물(코드, 문서, 이미지 등)을 체계적으로 저장, 색인, 관리하는 체계와 이를 뒷받침하는 물리적/가상적 실행 환경을 의미한다. 에이전트의 사고 과정을 증명하고 결과물을 공유하며, 안전한 실행을 보장하는 에이전틱 시스템의 물리적 토대이다.
|
||||
|
||||
## 📖 Core Content
|
||||
* **아티팩트 시스템 (Artifact Store)**:
|
||||
* **Filesystem-Artifact Store**: 모델 컨텍스트에 담기 힘든 대규모 데이터를 별도의 파일 시스템에 저장하고 모델에게는 참조 ID와 요약본만 제공.
|
||||
* **Artifact Index**: 저장된 수많은 아티팩트를 검색하고 추적하기 위한 메타데이터 색인 시스템.
|
||||
* **버전 관리**: 아티팩트의 변경 이력을 관리하여 에이전트가 이전 버전으로 롤백하거나 변경 사항을 비교할 수 있게 함.
|
||||
* **실행 인프라 (Infrastructure)**:
|
||||
* **Docker**: 표준화된 컨테이너 환경에서 도구와 라이브러리를 실행.
|
||||
* **MicroVM**: 컨테이너보다 강력한 보안 격리가 필요한 경우 사용하는 초경량 가상 머신.
|
||||
* **Sandboxed Execution**: 에이전트의 활동을 호스트 시스템으로부터 물리적으로 분리하여 보호.
|
||||
* **아티팩트 시각화**: 에이전트가 생성한 결과물(React UI, Mermaid 다이어그램 등)을 사용자가 즉시 확인하고 상호작용할 수 있도록 렌더링하는 인터페이스 제공.
|
||||
|
||||
## ⚖️ Trade-offs & Caveats
|
||||
* **저장 공간 및 관리 비용**: 에이전트가 생성하는 아티팩트가 많아질수록 저장 공간이 급증하고 이를 관리하는 인프라 비용이 늘어난다.
|
||||
* **데이터 일관성**: 아티팩트 저장소의 데이터와 에이전트의 메모리(S-component) 간에 정보가 불일치할 경우 에이전트가 혼란을 겪을 수 있다.
|
||||
* **격리와 성능의 균형**: 샌드박싱이 강화될수록 실행 속도는 느려지고 외부 시스템과의 연동은 복잡해진다.
|
||||
|
||||
## 🔗 Knowledge Connections
|
||||
|
||||
### Related Concepts
|
||||
* [[Agent Harness]]
|
||||
* 연결 이유: 아티팩트 스토어와 인프라는 하네스의 물리적 구현 대상이다.
|
||||
* [[Execution Environment (Sandbox)]]
|
||||
* 연결 이유: 인프라 계층에서 제공하는 핵심적인 보안 기능이다.
|
||||
* [[C-component (Context Manager)]]
|
||||
* 연결 이유: 대규모 데이터를 아티팩트로 오프로딩하여 컨텍스트 부패를 방지한다.
|
||||
|
||||
### Deeper Research Questions
|
||||
* 에이전트가 생성한 아티팩트 중 '영구 보존'이 필요한 가치 있는 것과 '임시 산출물'을 자동으로 구분하여 관리하는 생명주기 정책은 무엇인가?
|
||||
* 아티팩트 저장소를 분산 환경에서 여러 에이전트가 지연 시간 없이 공유하기 위한 고성능 캐싱 전략은 무엇인가?
|
||||
* 아티팩트 자체에 포함된 보안 위협(예: 악성 스크립트 포함 코드)을 자동으로 스캔하고 정제하는 인프라 수준의 보안 기술은 무엇인가?
|
||||
|
||||
### Practical Application Contexts
|
||||
* **Implementation:** 에이전트가 코드를 작성하면 즉시 `.html` 파일로 저장하고, 사용자의 브라우저에서 이를 실시간으로 미리보기(Preview) 할 수 있는 파이프라인을 구축한다.
|
||||
* **System Design:** 아티팩트 저장소로 AWS S3나 로컬 미니오(Minio)를 활용하고, 메타데이터 관리를 위해 ElasticSearch나 SQL DB를 연동한다.
|
||||
|
||||
---
|
||||
*Last updated: 2026-05-01*
|
||||
@@ -0,0 +1,32 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AGI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [auto-reinforced, agi, artificial-general-intelligence, singularity, superintelligence, ai-future]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Artificial General Intelligence (AGI)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "인간 지능의 디지털 복제판: 특정 태스크에 국한되지 않고, 인간이 할 수 있는 모든 지적 작업을 수행, 학습, 응용하며 스스로 새로운 지식을 창조할 수 있는 '범용적' 인공지능."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
범용 인공지능(AGI, Artificial General Intelligence)은 인간의 지능이 가진 유연성, 창의성, 범용성을 기계에서 구현한 상태를 뜻합니다.
|
||||
|
||||
1. **AGI의 판단 기준 (Proposed)**:
|
||||
* **Cross-domain Learning**: 체스를 두는 동시에 시를 쓰고 코딩까지 완벽히 수행.
|
||||
* **Few-shot Generalization**: 완전히 새로운 개념을 단 몇 개의 사례만으로 학습.
|
||||
* **Autonomous [[goal]] Setting**: 지시받지 않아도 상위 목표 달성을 위해 하위 목표를 스스로 수립 및 수행.
|
||||
* **Common Sense [[Reasoning]]**: 인간이 상식으로 아는 세상의 물리적/사회적 인과 관계를 완벽히 이해.
|
||||
2. **현재의 위치**:
|
||||
* 현재의 AI는 'Narrow AI' (특정 목적용)에서 AGI로 넘어가는 과도기에 있음 (예: GPT-4 수준의 복합 추론).
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 AGI가 수십 년 뒤의 미래 정책으로만 여겨졌으나, 현대 기술 정책은 "지능은 규모(Scaling)에 비례한다"는 Scaling Law의 성공으로 AGI 출현 시기를 5~10년 내외로 앞당기는 정책적 긴장 상태에 진입함(RL Update).
|
||||
- **정책 변화(RL Update)**: AGI가 가져올 인류 실존적 위협(Existential Risk) 정책에 대응하기 위해, 거대 모델 개발사에 대한 강력한 안전 준수 의무와 국가 차원의 '슈퍼 얼라인먼트(Super[[Alignment]])' 연구 투자가 정책의 최우선 과제가 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Artificial Intelligence (AI)]], Singularity, [[Alignment]], [[AI Safety]], Foundational Models, [[Ps-Reinforce]]
|
||||
- **Modern Tech/Tools**: Large Language Models, Multi-modal models, World simulators.
|
||||
---
|
||||
@@ -0,0 +1,34 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AUTO-AI-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.00
|
||||
tags: [auto-reinforced, [[Artificial-Intelligence]], ai-fundamentals, machine-learning, [[Deep-Learning]], computing-history]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Artificial Intelligence (AI)]]
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "기계 속의 유령, 연산되는 지능: 인간의 학습, 추론, 문제 해결 능력을 수학적 알고리즘과 거대 데이터를 통해 모방하고 구현하여, 세상의 복잡성을 디지털 언어로 이해하고 조작하는 기술의 정점."
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
인공지능(Artificial Intelligence)은 인간 지능을 시뮬레이션하도록 설계된 컴퓨터 시스템 및 그 연구 분야를 통칭합니다.
|
||||
|
||||
1. **AI의 계층 구조**:
|
||||
* **Artificial Intelligence**: 지능을 가진 기계의 총칭.
|
||||
* **[[Machine Learning (ML)]]**: 데이터로부터 스스로 규칙을 학습하는 AI의 하위 분야.
|
||||
* **Deep Learning**: 인간의 뇌 구조를 본뜬 신경망(Neural Network)을 깊게 쌓아 복잡한 패턴을 추출하는 ML의 정수.
|
||||
2. **핵심 작동 원리**:
|
||||
* **Pattern Recognition**: 수억 개의 파라미터를 조정하여 정답에 가까운 확률을 계산.
|
||||
* **[[Optimization]]**: 보상이나 손실 함수(Loss Function)를 최소화하는 방향으로 지능을 연마.
|
||||
3. **시대적 의의**:
|
||||
* AI는 이제 단순히 소프트웨어의 한 기능을 넘어, 전기나 인터넷처럼 모든 산업의 기초가 되는 '범용 기술(General [[Purpose]] Technology)'이 됨.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 초기 AI는 규칙 기반(Rule-based) 정책으로 고생했으나, 현대의 데이터 중심(Data-driven) 정책은 규칙을 인간이 주지 않아도 AI가 스스로 발견하는 정책으로 혁명을 일으킴(RL Update).
|
||||
- **정책 변화(RL Update)**: 단순 가속화 정책에서, 기술의 '책임성'과 '가치 정렬'을 담보하지 않으면 배포할 수 없다는 '책임 있는 AI (Responsible AI) 정책'이 글로벌 기술 산업의 무역 장벽이자 표준이 됨.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Artificial General Intelligence (AGI)]], Foundational Models, [[Machine-Learning-Foundations]], [[Ethics & AI]], [[Ps-Reinforce]], [[What-is-AI]]
|
||||
- **Modern Tech/Tools**: [[Transformers]], Neural Networks, GPU computing, LLMs.
|
||||
---
|
||||
@@ -1,8 +1,8 @@
|
||||
---
|
||||
id: P-REINFORCE-AI-GAMES
|
||||
id: [[P-Reinforce]]-AI-GAMES
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.98
|
||||
tags: [Game AI, Pathfinding, FSM, Behavior Tree, Reinforcement Learning]
|
||||
tags: [Game AI, Pathfinding, FSM, [[Behavior]] Tree, Reinforcement Learning]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
@@ -14,7 +14,7 @@ last_reinforced: 2026-04-20
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Decision Making (FSM/BT)**:
|
||||
- 유한 상태 기계(FSM)나 행동 트리(Behavior Tree)를 통해 상황에 맞는 NPC의 행동 로직을 계층적으로 설계한다.
|
||||
- **Dynamic Difficulty Adjustment (DDA)**:
|
||||
- **[[Dynamic Difficulty Adjustment (DDA)]]**:
|
||||
- 실시간으로 플레이어의 실력을 파악하여 난이도를 조절, '몰입(Flow)' 상태를 유지하게 하는 기술.
|
||||
- **Emergent Behavior**:
|
||||
- 고정된 스크립트가 아니라, 단순한 규칙들의 상호작용을 통해 개발자도 예상치 못한 흥미로운 상황을 만들어내는 기법.
|
||||
|
||||
@@ -0,0 +1,27 @@
|
||||
---
|
||||
id: [[P-Reinforce]]-AI-GENERAL
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.99
|
||||
tags: [Artificial Intelligence, Machine Learning, Deep Learning, Scaling Laws]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
# [[Artificial-Intelligence]] (인공지능)
|
||||
|
||||
## 📌 한 줄 통찰 (The Karpathy Summary)
|
||||
> "기계의 사고가 아니라, 데이터의 압축과 예측이다." 인간의 지능적 행동을 흉내 내는 소프트웨어 체계를 넘어, 데이터 속에 숨겨진 고차원적 패턴을 찾아내어 미래를 통계적으로 추론하는 기술이다.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **Weak AI vs Strong AI**:
|
||||
- 바둑이나 번역처럼 특정 작업만 수행하는 좁은 지능(ANI)과, 인간처럼 모든 영역에서 사고할 수 있는 광범위한 지능(AGI)의 구분.
|
||||
- **Information [[Processing]]**:
|
||||
- 입력을 출력으로 매핑하는 거대한 수학 함수. 최근에는 '데이터(Data), 연산량(Compute), 알고리즘(Algorithm)'이라는 3요소의 폭발적 성장이 성패를 가른다.
|
||||
- **Societal Impact**:
|
||||
- 노동의 자동화를 넘어, 인간의 창의 성과 의사결정 방식 자체를 재정의하는 문명적 도구.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- AI는 '이해'하는 것이 아니라 '확률적 생성'을 하는 것이다. 이 차이를 간과할 때 환각(Hallucination) 문제가 발생하며, 이를 극복하기 위해 심볼릭 로직과 딥러닝을 결합하는 '[[Neuro-Symbolic AI]]'가 대안으로 떠오르고 있다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: [[Deep-Learning]]-[[Architecture]]-Patterns , AI-Ethics
|
||||
- Foundation: Computational Thinking
|
||||
@@ -12,12 +12,12 @@ last_reinforced: 2026-04-26
|
||||
> "생명체의 본질을 디지털 코드로 재창조하여 지능의 기원을 탐구하라" — 생물학적 생명의 진화, 번식, 대사, 상호작용 등의 특성을 컴퓨터 시뮬레이션이나 로봇공학으로 구현하여 생명의 작동 원리를 연구하는 분야.
|
||||
|
||||
## 📖 구조화된 지식 (Synthesized Content)
|
||||
- **추출된 패턴:** 단순한 규칙들의 상호작용을 통해 복잡하고 지능적인 거동이 나타나는 창발(Emergence) 현상을 디지털 환경에서 재현하는 패턴.
|
||||
- **추출된 패턴:** 단순한 규칙들의 상호작용을 통해 복잡하고 지능적인 거동이 나타나는 창발([[Emergence]]) 현상을 디지털 환경에서 재현하는 패턴.
|
||||
- **주요 연구 분야:**
|
||||
- **Soft ALife:** 컴퓨터 소프트웨어 내의 가상 생명체 (예: 셀룰러 오토마타, Conway's Game of Life).
|
||||
- **Hard ALife:** 생물학적 기능을 모사한 로봇 시스템.
|
||||
- **Wet ALife:** 합성 생물학을 통한 인공 세포 및 생화학 시스템 구축.
|
||||
- **Evolutionary Computation:** 적자생존의 원리를 이용한 알고리즘 최적화.
|
||||
- **[[Evolutionary Computation]]:** 적자생존의 원리를 이용한 알고리즘 최적화.
|
||||
- **의의:** 지능이 중앙 통제가 아닌, 개별 개체들의 분산된 상호작용 결과물임을 증명하여 분산형 AI 연구에 기여.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
|
||||
Some files were not shown because too many files have changed in this diff Show More
Reference in New Issue
Block a user