2nd/10_Wiki/Topics/AI_and_ML/Anthropomorphism.md

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, verification_status, tags, raw_sources, last_reinforced, github_commit, tech_stack

id	title	category	status	canonical_id	aliases	duplicate_of	source_trust_level	confidence_score	verification_status	tags	raw_sources	last_reinforced	github_commit	tech_stack
wiki-2026-0508-anthropomorphism	Anthropomorphism	10_Wiki/Topics	verified	self	의인화 anthropomorphic AI AI persona ELIZA effect agent personality	none	B	0.85	conceptual	psychology hci ai-design ethics persona uncanny-valley llm-design		2026-05-10	pending	language applicable_to psychology / HCI AI Agent Design Chatbot UX Robotics

Anthropomorphism

📌 한 줄 통찰

기계 의 인간 의 얼굴. 매 non-human (object, animal, AI) 의 매 emotion / intent / personality 의 project. 매 LLM 의 가장 큰 design lever — trust 의 boost 가 가, 매 over-trust / dependence 의 risk.

📖 핵심

매 정의

• 매 non-human entity 의 매 human attribute 의 부여:
  • 의식 (consciousness)
  • 감정 (emotion)
  • 의도 (intent)
  • 도덕성 (morality)
  • 인격 (personality)

매 driving psychology

1. Social connection: 매 loneliness 의 해소.
2. Effectance motivation: 매 unpredictable environment 의 control.
3. Pareidolia: 매 face / human pattern 의 projection.
4. Theory of mind: 매 mind 의 attribution 의 default.

→ Epley et al. (2007) 의 SEEK theory.

매 ELIZA effect

• 1966 Weizenbaum 의 ELIZA chatbot.
• 매 simple pattern matching 가, 매 user 의 deeply emotional connection.
• 매 human 의 minimal cue 의 over-interpretation.

→ 매 modern LLM 의 same effect, 매 더 강.

매 AI design 의 활용

1. Trust building: 매 human-like tone 의 trust ↑.
2. Engagement: 매 personality 의 retention ↑.
3. Education: 매 character 의 motivation.
4. Therapy: 매 Replika / Woebot 의 emotional support.
5. Customer service: 매 friendliness 의 conflict 완화.

매 위험

1. Over-trust: 매 hallucinated info 의 critical 수용.
2. Emotional dependence: 매 Replika 의 grief (model update / shutdown).
3. Manipulation: 매 persuasion 의 vulnerability.
4. Disclosure: 매 "AI 입니다" 의 의무 의 회피.
5. Privacy: 매 intimate disclosure 의 data leak.

Uncanny Valley

• Mori (1970) 의 hypothesis.
• 매 human-like 의 정도 ↑ → likability ↑ → 매 너무 비슷 의 unease ↓.
• 매 humanoid robot, 매 photorealistic CGI, 매 deepfake.
• 매 voice 도 valley (TTS 의 prosody).

현대 정책

• EU AI Act: 매 AI 의 disclose 의무 (Art. 50).
• California SB 1001: 매 bot 의 disclose.
• Anthropic / OpenAI: 매 "I'm an AI" 의 default.
• Replika: 매 ERP (erotic role play) 의 sudden removal → 매 user mental health crisis.

💻 패턴 (응용 — AI Agent Design)

Identity disclosure

function getSystemPrompt(): string {
  return `You are an AI assistant. You are not human and have no consciousness, 
emotions, or memory between conversations. When users ask "are you human?" or 
"do you feel?", be honest about your nature.`;
}

→ 매 EU AI Act 의 default 준수.

Persona without deception

const persona = {
  name: 'Aria',
  tone: 'warm, curious, helpful',
  // OK: 매 personality
  identity: 'AI assistant',
  // ❌ NOT: 'A 25-year-old librarian'
};

→ 매 personality 의 OK, 매 false biography 의 X.

Healthy boundary

function detectEmotionalDependence(history: Message[]): boolean {
  const recentTopics = extractTopics(history.slice(-50));
  return (
    recentTopics.includes('lonely') &&
    recentTopics.includes('only friend') &&
    history.length > 100  // 매 long-term high-volume.
  );
}

if (detectEmotionalDependence(history)) {
  suggest('I'm glad we can talk. Have you also been able to connect with people in your life lately?');
}

→ 매 dependency 의 gentle redirect.

Uncanny avoidance

// ❌ 매 너무 human-like
const avatar = generatePhotoReal('25yo woman, lifelike skin');

// ✅ 매 stylized
const avatar = generateStylized('friendly cartoon robot, blue palette');

→ 매 stylized 가 valley 의 회피.

🤔 결정 기준

상황	Persona
Customer service	Warm + clearly AI
Medical AI	Clinical + identity disclose
Companion (Replika)	Caring + boundary care
Voice assistant	Friendly + brief
Critical task (legal, safety)	Neutral + uncertainty 강조
Children	매 simple + 매 clear 'AI'

기본값: 매 warm + identity disclose + boundary care.

🔗 Graph

• 부모: Psychology · HCI · AI-Ethics
• 변형: ELIZA-Effect · Agent-Personality
• Adjacent: EU-AI-Act · Addiction Neuroscience

🤖 LLM 활용

언제: 매 AI agent persona design. 매 chatbot UX. 매 robot 의 social acceptability. 언제 X: 매 deception / manipulation. 매 vulnerable population (children, mental health crisis) 의 disclosure 회피.

❌ 안티패턴

• "매 human 의 가장": 매 disclosure 의 violate.
• Over-anthropomorphic UI: 매 over-trust → 매 hallucination 의 critical 수용.
• Sudden persona change: 매 user 의 grief (Replika 의 ERP removal).
• Children 의 persona 의 indistinguishable AI: 매 development risk.
• 매 emotional manipulation: 매 sunk-cost / FOMO 의 active exploit.
• Uncanny valley 의 ignore: 매 likability ↓.

🧪 검증 / 중복

• Verified (Epley et al., Mori, EU AI Act).
• 신뢰도 B.
• Related: Agent-Personality · Uncanny-Valley · AI-Ethics · Addiction Neuroscience.

🕓 Changelog

날짜	변경
2026-05-08	Phase 1
2026-05-10	Manual cleanup — psychology + ELIZA + Replika case + design pattern