27 lines
1.6 KiB
Markdown
27 lines
1.6 KiB
Markdown
---
|
|
id: P-REINFORCE-AI-SYSTEM-PROMPT
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.99
|
|
tags: [LLM, Prompting, SystemPrompt, Instruction]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[System Prompt (시스템 프롬프트)]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "AI의 성격과 행동 강령을 결정하는 보이지 않는 헌법." 사용자의 질문이 입력되기 전, 모델에게 역할, 제약 사항, 지식 범위를 미리 주입하여 일관된 페르소나를 유지하게 만드는 마스터 지시어다.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **Functions**:
|
|
- **Persona Definition**: "당신은 20년 경력의 시니어 개발자입니다" 등 모델의 톤앤매너 설정.
|
|
- **Constraints**: "코드는 무조건 리액트로 작성할 것", "정치적 의견은 배제할 것" 등 금지 및 강제 규칙 설정.
|
|
- **Task Specification**: 입력 데이터의 처리 방식 및 출력 포맷(JSON, Markdown 등) 정의.
|
|
- **Context Priority**: 일반 대화 프롬프트보다 더 강력한 가중치를 가지며, 전역적인 컨텍스트를 제어한다.
|
|
|
|
## ⚠️ 모순 및 업데이트 (RL Update)
|
|
- 시스템 프롬프트는 강력하지만, '프롬프트 주입(Prompt Injection)' 공격에 의해 무력화되거나 외부로 유출될 수 있다. 최신 모델들은 시스템 프롬프트를 별도의 보안 계층(Trusted segment)에서 처리하여 유저 입력과의 충돌을 방지하려 노력하고 있다.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- Related: Prompt Injection (프롬프트 주입 공격) , Sycophancy (LLM 아첨 문제)
|
|
- Application: [[AI 에이전트 (AI Agent)]]
|