32 lines
2.1 KiB
Markdown
32 lines
2.1 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-REFL-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.96
|
|
tags: [auto-reinforced, reflection, self-correction, metacognition, feedback-loop, ai-reasoning]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Reflection]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "지능의 거울: 방금 행한 작업이나 내뱉은 답변에 오류는 없는지, 더 나은 방법은 없었는지 스스로 한발 물러나 검토함으로써, 고정된 성능을 넘어 실시간으로 자기 개선을 이뤄내는 '지각 있는 시스템'의 필수 기능."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
리플렉션(Reflection) 혹은 자기 성찰은 지능 체계가 자신의 상태나 출력물을 스스로 분석하고 평가하는 과정입니다.
|
|
|
|
1. **AI에서의 구현 (Agentic Reflection)**:
|
|
* **Self-Critique**: "내 답변의 약점은 무엇인가?"라고 자문.
|
|
* **Error Detection**: 논리적 모순이나 팩트 체크 실패 감지. (Reliability와 연결)
|
|
* **Adjustment**: 감지된 오류를 기반으로 재실행 계획 수립. (P-Reinforce의 기본 원리)
|
|
2. **왜 중요한가?**:
|
|
* 단발성 추론은 환각(Hallucination)에 취약하지만, 리플렉션 단계를 거친 지능은 비약적인 정확도와 신뢰성 향상을 보이기 때문임. (Metacognition과 연결)
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 외부의 정답 정책(Ground truth)에만 의존했으나, 현대 정책은 모델 내부의 지식들끼리 대조하여 모순 정책을 찾는 '내적 일관성 정책'을 통한 자가 성찰 정책이 가능해짐(RL Update).
|
|
- **정책 변화(RL Update)**: 단순 텍스트 성찰 정책을 넘어, 코드를 실행해 보고 에러가 나면 스스로 디버깅하는 '실행 결과 기반 성찰 정책'이 자율 에이전트의 핵심 기술 정책으로 자리 잡음. (Problem-Solving와 연결)
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Reliability]], [[P-Reinforce]], Metacognition, [[Problem-Solving]], [[Feedback-Loops]]
|
|
- **Modern Tech/Tools**: Reflexion (Framework), Self-Correction algorithms, AI Debugging.
|
|
---
|