Antigravity Agent
2.2 KiB
2.2 KiB
id: P-Reinforce-AUTO-REFL-001 category: "10_Wiki/💡 Topics/AI" confidence_score: 0.96 tags: [auto-reinforced, reflection, Self-Correction, metacognition, feedback-loop, ai-Reasoning] last_reinforced: 2026-04-20
Reflection
📌 한 줄 통찰 (The Karpathy Summary)
"지능의 거울: 방금 행한 작업이나 내뱉은 답변에 오류는 없는지, 더 나은 방법은 없었는지 스스로 한발 물러나 검토함으로써, 고정된 성능을 넘어 실시간으로 자기 개선을 이뤄내는 '지각 있는 시스템'의 필수 기능."
📖 구조화된 지식 (Synthesized Content)
리플렉션(Reflection) 혹은 자기 성찰은 지능 체계가 자신의 상태나 출력물을 스스로 분석하고 평가하는 과정입니다.
- AI에서의 구현 (Agentic Reflection):
- Self-Critique: "내 답변의 약점은 무엇인가?"라고 자문.
- Error Detection: 논리적 모순이나 팩트 체크 실패 감지. (Reliability와 연결)
- Adjustment: 감지된 오류를 기반으로 재실행 계획 수립. (P-Reinforce의 기본 원리)
- 왜 중요한가?:
- 단발성 추론은 환각(Hallucination)에 취약하지만, 리플렉션 단계를 거친 지능은 비약적인 정확도와 신뢰성 향상을 보이기 때문임. (Metacognition과 연결)
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 외부의 정답 정책(Ground truth)에만 의존했으나, 현대 정책은 모델 내부의 지식들끼리 대조하여 모순 정책을 찾는 '내적 일관성 정책'을 통한 자가 성찰 정책이 가능해짐(RL Update).
- 정책 변화(RL Update): 단순 텍스트 성찰 정책을 넘어, 코드를 실행해 보고 에러가 나면 스스로 디버깅하는 '실행 결과 기반 성찰 정책'이 자율 에이전트의 핵심 기술 정책으로 자리 잡음. (Problem-Solving와 연결)
🔗 지식 연결 (Graph)
- Reliability, P-Reinforce, Metacognition, Problem-Solving, Feedback-Loops
- Modern Tech/Tools: Reflexion (Framework), Self-Correction algorithms, AI Debugging.