[G1-Sync] Manual knowledge update
This commit is contained in:
@@ -1,8 +1,8 @@
|
||||
---
|
||||
id: P-REINFORCE-AUTO-REFL-001
|
||||
id: [[P-Reinforce]]-AUTO-REFL-001
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 0.96
|
||||
tags: [auto-reinforced, reflection, self-correction, metacognition, feedback-loop, ai-reasoning]
|
||||
tags: [auto-reinforced, reflection, [[Self-Correction]], metacognition, feedback-loop, ai-[[Reasoning]]]
|
||||
last_reinforced: 2026-04-20
|
||||
---
|
||||
|
||||
@@ -16,14 +16,14 @@ last_reinforced: 2026-04-20
|
||||
|
||||
1. **AI에서의 구현 (Agentic Reflection)**:
|
||||
* **Self-Critique**: "내 답변의 약점은 무엇인가?"라고 자문.
|
||||
* **Error Detection**: 논리적 모순이나 팩트 체크 실패 감지. (Reliability와 연결)
|
||||
* **Error Detection**: 논리적 모순이나 팩트 체크 실패 감지. ([[Reliability]]와 연결)
|
||||
* **Adjustment**: 감지된 오류를 기반으로 재실행 계획 수립. (P-Reinforce의 기본 원리)
|
||||
2. **왜 중요한가?**:
|
||||
* 단발성 추론은 환각(Hallucination)에 취약하지만, 리플렉션 단계를 거친 지능은 비약적인 정확도와 신뢰성 향상을 보이기 때문임. (Metacognition과 연결)
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
||||
- **과거 데이터와의 충돌**: 과거에는 외부의 정답 정책(Ground truth)에만 의존했으나, 현대 정책은 모델 내부의 지식들끼리 대조하여 모순 정책을 찾는 '내적 일관성 정책'을 통한 자가 성찰 정책이 가능해짐(RL Update).
|
||||
- **정책 변화(RL Update)**: 단순 텍스트 성찰 정책을 넘어, 코드를 실행해 보고 에러가 나면 스스로 디버깅하는 '실행 결과 기반 성찰 정책'이 자율 에이전트의 핵심 기술 정책으로 자리 잡음. (Problem-Solving와 연결)
|
||||
- **정책 변화(RL Update)**: 단순 텍스트 성찰 정책을 넘어, 코드를 실행해 보고 에러가 나면 스스로 디버깅하는 '실행 결과 기반 성찰 정책'이 자율 에이전트의 핵심 기술 정책으로 자리 잡음. ([[Problem-Solving]]와 연결)
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- [[Reliability]], [[P-Reinforce]], Metacognition, [[Problem-Solving]], [[Feedback-Loops]]
|
||||
|
||||
Reference in New Issue
Block a user