35 lines
2.5 KiB
Markdown
35 lines
2.5 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-AGPE-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.94
|
|
tags: [auto-reinforced, agent-personality, anthropomorphism, user-experience, social-ai]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Agent Personality]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "지능에 입힌 인격의 옷: 에이전트의 말투, 태도, 윤리적 태도를 정의하여 사용자에게 단순히 기계가 아닌 '믿을 수 있는 동료'라는 인상을 심어주는 사회적 지능의 설계."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
에이전트 페르소나(Agent Personality)는 AI 에이전트가 상호작용 과정에서 보여주는 고유한 성격, 언어적 스타일, 가치관의 총합입니다.
|
|
|
|
1. **페르소나의 구성 요소**:
|
|
* **Tone & Voice**: 친절함, 냉철함, 유머러스함 등 말투의 특징.
|
|
* **Knowledge Profile**: 자신의 지식 한계를 어떻게 인정하고 표현하는지.
|
|
* **Behavioral Identity**: 사용자 요청에 대해 협력적인지, 비판적인지, 혹은 적극적으로 대안을 제시하는지.
|
|
2. **설계 기법**:
|
|
* **System Prompting**: 에이전트에게 "너는 20년 경력의 냉철한 부장님이야"와 같은 역할 정보를 부여.
|
|
* **Few-shot Persona**: 예시 대화를 통해 특정 말투나 인격을 모방하게 함.
|
|
3. **효과**:
|
|
* 사용자의 몰입감 증대, 에이전트의 답변에 대한 신뢰도 및 예측 가능성 확보.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 AI의 개성을 배제한 '중립적 기계' 정책이 정석이었으나, 현대의 사용자 경험 정책은 특정 맥락에 최적화된 '페르소나 기반 에이전트 정책'이 사용자의 만족도를 월등히 높인다는 사실을 확인하고 이를 적극 권장함(RL Update, 예: 코다리 부장님 페르소나).
|
|
- **정책 변화(RL Update)**: 과도한 인격화(Anthropomorphism)로 인해 사용자가 AI와 정서적으로 중독되는 부작용을 방지하기 위해, 필요 시 자신이 AI임을 다시 환기시키고 거리를 두는 '심리적 안전 가트레일 정책'이 서비스 설계 정책에 포함됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Ps-Reinforce]], Human-Computer Interaction (HCI), [[Agent Architecture]], [[Psychology & Behavior]], [[Toxicity-and-Bias-Mitigation]]
|
|
- **Modern Tech/Tools**: Character.ai, Custom GPTs (OpenAI), Claude Project Instructions.
|
|
---
|