Files
2nd/10_Wiki/Topics/AI_and_ML/AI_Agents.md
T

4.0 KiB

category, tags, title, last_updated
category tags title last_updated
Unified
auto-consolidated
technical-documentation
AI Agents Overview (AI 에이전트 개요) 2026-05-02

AI Agents Overview (AI 에이전트 개요)

📌 Brief Summary

"단순한 답변기가 아닌, 목표를 위해 도구를 쓰고 스스로 계획하는 '행동 주체'로 진화하라" — 거대 모델의 추론 능력을 바탕으로 목표를 설정하고, 실행 계획을 수립하며, 외부 도구(브라우저, 코드 에디터 등)를 사용해 태스크를 완수하는 인공지능 시스템.


AI 에이전트(AI Agent)는 단순히 사용자의 질문에 답하는 것을 넘어, 스스로 목표를 설정하고 계획을 수립하며 외부 도구(브라우저, 터미널 등)를 사용하여 주어진 과업을 자율적으로 완수하는 행동 주체입니다 [1, 2]. 거대 언어 모델(LLM)의 추론 능력을 두뇌로 삼아 실제 환경에 변화를 일으키는 '실행자(Executor)'로서의 역할을 수행합니다 [1, 3].

📖 Core Content

  • 추출된 패턴: 사용자의 추상적인 요청을 구체적인 작업 단위로 분해(Planning)하고, 각 단계를 실행(Action)하며, 결과를 관찰(Observation)하여 다음 행동을 결정하는 루프 기반의 자율성 패턴.
  • 핵심 루프 (ReAct 패턴 등):
    • Reasoning: 현재 상황을 분석하고 무엇을 해야 할지 판단.
    • Planning: 목표 달성을 위한 단계별 워크플로우 생성.
    • Tool Use: API, 웹 검색, 파일 시스템 접근 등 외부 도구 활용.
    • memory: 대화의 맥락(단기)과 지식 베이스(장기)를 활용하여 일관성 유지.
  • 주요 사례: AutoGPT, BabyAGI, 그리고 현재 작동 중인 Antigravity 에이전트.

  • 핵심 작동 메커니즘 (ReAct 패턴 등)

    • 추론 및 계획 (Reasoning & Planning): 복잡한 문제를 작은 단계로 분해(Chain-of-Thought)하고 목표 달성을 위한 전략적 워크플로우를 수립합니다 [1, 4].
    • 도구 활용 및 실행 (Tool Use & Action): API 호출, 웹 검색, 파일 시스템 접근 등 외부 인터페이스를 통해 실제 세계와 상호작용합니다 [1, 3, 5].
    • 기억 관리 (Memory Management): 대화의 맥락을 유지하는 단기 기억과, 과거 지식 및 RAG를 활용하는 장기 기억을 결합하여 일관된 수행 능력을 보유합니다 [1, 6].
  • 에이전틱 워크플로우 (Agentic Workflow) 사용자의 추상적 요청을 구체적 작업 단위로 분해하고, 각 단계를 실행하며, 결과를 관찰(Observation)하여 다음 행동을 결정하는 루프 기반의 자율성을 가집니다 [1]. 대표적인 사례로는 AutoGPT, BabyAGI, 그리고 Antigravity 프로젝트의 에이전트 시스템이 있습니다 [1, 7].

⚖️ Trade-offs & Caveats

  • 과거 데이터와의 충돌: 질문에 대한 텍스트 생성(Chat)에 머물던 AI가, 실제 환경에 변화를 일으키는 '실행자(Executor)'로 정체성이 변화함.
  • 정책 변화: Antigravity 프로젝트는 에이전트의 자율성을 극대화하되, 인간의 확인이 필요한 'Human-in-the-loop' 지점을 명확히 설정하여 안전성을 확보함.

  • 안정성 확보: 자율적 에이전트는 무한 루프나 환각(Hallucination)에 빠질 위험이 있습니다. 이를 방지하기 위해 에이전트가 자신의 결과를 검토하는 '자기 교정(Self-Correction)' 루프와, 인간이 중간에 개입하는 'Human-in-the-loop' 설계가 필수적입니다 [1, 8].

🔗 Knowledge Connections


  • Related Topics: 다중 에이전트 시스템 (Multi-Agent Systems, 에이전트 통신 규약 (Agent Communication Protocol), RAG (Retrieval-Augmented Generation), 마음의 이론 (Theory of Mind in AI
  • Projects/Contexts: Antigravity Agentic Coding, ReAct 패러다임

Last updated: 2026-04-30