Antigravity Agent
2.1 KiB
2.1 KiB
id: P-Reinforce-AUTO-PRIN-001 category: "10_Wiki/💡 Topics/AI" confidence_score: 0.95 tags: [auto-reinforced, principles, decision-making, Mental-Models, rules, core-values, wisdom] last_reinforced: 2026-04-20
Principles
📌 한 줄 통찰 (The Karpathy Summary)
"흔들리지 않는 뿌리: 매 순간 닥쳐오는 수천 가지 선택지 앞에서 에너지를 낭비하지 않도록, 이미 검증된 가치와 논리에 근거해 세워둔 '나만의 자동 결정 규칙'이자 복잡한 세상을 단순하게 돌파하는 지적 무기."
📖 구조화된 지식 (Synthesized Content)
원칙(Principles)은 보편적으로 적용되는 근본적인 진리 또는 행동 지침입니다. (레이 달리오 대중화)
- 원칙의 가치:
- Cognitive Offloading: 매번 고민하지 않고 '원칙'에 따라 즉시 결정. (Efficiency와 연결)
- Consistency: 감정이나 상황에 흔들리지 않는 일관된 결과 보장.
- Feedback/Refinement: 결과가 나쁘면 원칙을 바꾸면 됨 (지속적 개선). (Feedback-Loops와 연결)
- 왜 중요한가?:
- 원칙이 없는 지능은 임기응변에 그치지만, 원칙이 있는 지능은 '시스템'으로 진화하여 복리 성장을 만들어내기 때문임.
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 조상으로부터 물려받은 '도덕률 정책'에 머물렀으나, 현대 정책은 자신의 실험과 실패를 통해 스스로 구축하는 '개인적 의사결정 알고리즘 정책'으로 진화함(RL Update).
- 정책 변화(RL Update): AI의 안전 정책(Safety Policy) 또한 인간의 원칙을 모델의 행동 강령 정책으로 주입하는 '원칙 기반 지시(Constitutional AI)' 정책이 가장 강력한 통제 수단 정책이 됨.
🔗 지식 연결 (Graph)
- Decision Theory, Feedback-Loops, Mental-Models, Judgment, Philosophy
- Modern Tech/Tools: Ray Dalio's Principles, Constitutional AI (Anthropic).