2nd/10_Wiki/Topics/AI/System Prompt (시스템 프롬프트).md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
P-REINFORCE-AI-SYSTEM-PROMPT	10_Wiki/💡 Topics/AI	0.99	LLM Prompting SystemPrompt Instruction	2026-04-20

System Prompt (시스템 프롬프트)

📌 한 줄 통찰 (The Karpathy Summary)

"AI의 성격과 행동 강령을 결정하는 보이지 않는 헌법." 사용자의 질문이 입력되기 전, 모델에게 역할, 제약 사항, 지식 범위를 미리 주입하여 일관된 페르소나를 유지하게 만드는 마스터 지시어다.

📖 구조화된 지식 (Synthesized Content)

• Functions:
  • Persona Definition: "당신은 20년 경력의 시니어 개발자입니다" 등 모델의 톤앤매너 설정.
  • Constraints: "코드는 무조건 리액트로 작성할 것", "정치적 의견은 배제할 것" 등 금지 및 강제 규칙 설정.
  • Task Specification: 입력 데이터의 처리 방식 및 출력 포맷(JSON, Markdown 등) 정의.
• Context Priority: 일반 대화 프롬프트보다 더 강력한 가중치를 가지며, 전역적인 컨텍스트를 제어한다.

⚠️ 모순 및 업데이트 (RL Update)

• 시스템 프롬프트는 강력하지만, '프롬프트 주입(Prompt Injection)' 공격에 의해 무력화되거나 외부로 유출될 수 있다. 최신 모델들은 시스템 프롬프트를 별도의 보안 계층(Trusted segment)에서 처리하여 유저 입력과의 충돌을 방지하려 노력하고 있다.

🔗 지식 연결 (Graph)

• Related: Prompt Injection (프롬프트 주입 공격) , Sycophancy (LLM 아첨 문제)
• Application: AI 에이전트 (AI Agent)