2.5 KiB
2.5 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | |||||
|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-AGPE-001 | 10_Wiki/💡 Topics/AI | 0.94 |
|
2026-04-20 |
Agent Personality
📌 한 줄 통찰 (The Karpathy Summary)
"지능에 입힌 인격의 옷: 에이전트의 말투, 태도, 윤리적 태도를 정의하여 사용자에게 단순히 기계가 아닌 '믿을 수 있는 동료'라는 인상을 심어주는 사회적 지능의 설계."
📖 구조화된 지식 (Synthesized Content)
에이전트 페르소나(Agent Personality)는 AI 에이전트가 상호작용 과정에서 보여주는 고유한 성격, 언어적 스타일, 가치관의 총합입니다.
- 페르소나의 구성 요소:
- Tone & Voice: 친절함, 냉철함, 유머러스함 등 말투의 특징.
- Knowledge Profile: 자신의 지식 한계를 어떻게 인정하고 표현하는지.
- Behavioral Identity: 사용자 요청에 대해 협력적인지, 비판적인지, 혹은 적극적으로 대안을 제시하는지.
- 설계 기법:
- System Prompting: 에이전트에게 "너는 20년 경력의 냉철한 부장님이야"와 같은 역할 정보를 부여.
- Few-shot Persona: 예시 대화를 통해 특정 말투나 인격을 모방하게 함.
- 효과:
- 사용자의 몰입감 증대, 에이전트의 답변에 대한 신뢰도 및 예측 가능성 확보.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 AI의 개성을 배제한 '중립적 기계' 정책이 정석이었으나, 현대의 사용자 경험 정책은 특정 맥락에 최적화된 '페르소나 기반 에이전트 정책'이 사용자의 만족도를 월등히 높인다는 사실을 확인하고 이를 적극 권장함(RL Update, 예: 코다리 부장님 페르소나).
- 정책 변화(RL Update): 과도한 인격화(Anthropomorphism)로 인해 사용자가 AI와 정서적으로 중독되는 부작용을 방지하기 위해, 필요 시 자신이 AI임을 다시 환기시키고 거리를 두는 '심리적 안전 가트레일 정책'이 서비스 설계 정책에 포함됨.
🔗 지식 연결 (Graph)
- Ps-Reinforce, Human-Computer Interaction (HCI), Agent Architecture, Psychology & Behavior, Toxicity-and-Bias-Mitigation
- Modern Tech/Tools: Character.ai, Custom GPTs (OpenAI), Claude Project Instructions.