# Excessive Agency (과도한 권한 남용

## 📌 Brief Summary
Excessive Agency(과도한 권한 남용)는 AI 에이전트에게 현재 작업을 수행하는 데 필요한 범위를 넘어서는 지나치게 강력한 도구 접근 권한, 데이터 접근 권한, 혹은 자율적 결정권이 부여되어 발생하는 보안 리스크이다. 이는 OWASP LLM06 위험으로 분류되며, 프롬프트 인젝션 공격 시 에이전트가 시스템 전체를 장악하거나 돌이킬 수 없는 피해를 입히는 직접적인 원인이 된다.

## 📖 Core Content
*   **리스크의 세 가지 양상**:
    *   **과도한 도구 권한 (Excessive Functionality)**: 단순히 파일을 읽기만 하면 되는데 파일 삭제나 셸 실행 권한까지 부여된 경우.
    *   **과도한 데이터 접근 (Excessive Permissions)**: 특정 문서만 필요함에도 데이터베이스 전체나 다른 사용자의 데이터에 접근 가능한 경우.
    *   **과도한 자율성 (Excessive Autonomy)**: 사용자 승인 없이 이메일 발송, 금융 결제 등 중대한 외부 영향을 끼치는 작업을 수행하게 둔 경우.
*   **발생 원인**: 개발 편의를 위해 모든 권한이 허용된 API 키를 사용하거나, 에이전트가 어떤 상황에서 어떤 도구를 써야 할지에 대한 정교한 정책(Policy)이 부재할 때 발생한다.
*   **방어 전략**:
    *   **스키마 수준의 제어 (Schema-level Gating)**: 도구의 파라미터 중 위험한 옵션(예: `rm -rf /`)은 에이전트가 아예 넘길 수 없도록 스키마 수준에서 차단.
    *   **최소 권한의 원칙 (Least Privilege)**: 작업 단위별로 필요한 도구만 활성화하는 동적 권한 할당.
    *   **승인 게이트 (Approval Gates)**: 파괴적인 행동이나 외부 영향이 큰 작업 전에는 반드시 인간의 개입을 요구.

## ⚖️ Trade-offs & Caveats
*   **유연성 저하**: 권한을 너무 세분화하여 제한하면, 에이전트가 예상치 못한 창의적인 방법으로 문제를 해결하는 능력이 제약될 수 있다.
*   **운영 복잡성**: 수많은 도구와 데이터에 대해 개별적인 권한 정책을 수립하고 유지하는 것은 높은 엔지니어링 비용이 든다.

## 🔗 Knowledge Connections

### Related Concepts
*   [[Agentic AI Security|Agentic AI Security]]
    *   연결 이유: 과도한 권한 남용은 에이전트 보안의 핵심 관리 대상이다.
*   [[T-component (Tool Registry)|T-component (Tool Registry]]
    *   연결 이유: 도구의 권한과 명세를 관리하는 하네스의 구성 요소이다.
*   [[L-component (Lifecycle Hooks)|L-component (Lifecycle Hooks]]
    *   연결 이유: 도구 실행 전 권한을 검사하고 정책을 집행하는 실질적인 계층이다.

### Deeper Research Questions
*   작업의 '위험도'를 모델이 실시간으로 평가하여, 위험이 감지될 때만 권한을 일시적으로 축소하는 '동적 권한 격리' 기술은 가능한가?
*   에이전트가 가진 권한을 그래프 형태로 시각화하여, 한 도구의 권한이 다른 도구로 전이(Privilege Escalation)될 수 있는 경로를 자동으로 탐지하는 방법은 무엇인가?

### Practical Application Contexts
*   **Implementation:** 데이터베이스 조회 도구 구현 시, 에이전트용 계정은 'Read-Only' 권한만 부여하고 특정 테이블에만 접근 가능하도록 DB 레벨에서 제한한다.
*   **System Design:** 하네스 설계 시 모든 도구 호출을 가로채는 중앙 집중형 'Policy Enforcement Point'를 두어, 도구 실행 전 정책 엔진(Open Policy Agent 등)에 질의하도록 한다.

---
*Last updated: 2026-05-01*
