32 lines
2.0 KiB
Markdown
32 lines
2.0 KiB
Markdown
---
|
|
id: P-REINFORCE-AUTO-PRIN-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 0.95
|
|
tags: [auto-reinforced, principles, decision-making, mental-models, rules, core-values, wisdom]
|
|
last_reinforced: 2026-04-20
|
|
---
|
|
|
|
# [[Principles]]
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "흔들리지 않는 뿌리: 매 순간 닥쳐오는 수천 가지 선택지 앞에서 에너지를 낭비하지 않도록, 이미 검증된 가치와 논리에 근거해 세워둔 '나만의 자동 결정 규칙'이자 복잡한 세상을 단순하게 돌파하는 지적 무기."
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
원칙(Principles)은 보편적으로 적용되는 근본적인 진리 또는 행동 지침입니다. (레이 달리오 대중화)
|
|
|
|
1. **원칙의 가치**:
|
|
* **Cognitive Offloading**: 매번 고민하지 않고 '원칙'에 따라 즉시 결정. (Efficiency와 연결)
|
|
* **Consistency**: 감정이나 상황에 흔들리지 않는 일관된 결과 보장.
|
|
* **Feedback/Refinement**: 결과가 나쁘면 원칙을 바꾸면 됨 (지속적 개선). (Feedback-Loops와 연결)
|
|
2. **왜 중요한가?**:
|
|
* 원칙이 없는 지능은 임기응변에 그치지만, 원칙이 있는 지능은 '시스템'으로 진화하여 복리 성장을 만들어내기 때문임.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌**: 과거에는 조상으로부터 물려받은 '도덕률 정책'에 머물렀으나, 현대 정책은 자신의 실험과 실패를 통해 스스로 구축하는 '개인적 의사결정 알고리즘 정책'으로 진화함(RL Update).
|
|
- **정책 변화(RL Update)**: AI의 안전 정책(Safety Policy) 또한 인간의 원칙을 모델의 행동 강령 정책으로 주입하는 '원칙 기반 지시(Constitutional AI)' 정책이 가장 강력한 통제 수단 정책이 됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Decision Theory]], [[Feedback-Loops]], [[Mental-Models]], [[Judgment]], [[Philosophy]]
|
|
- **Modern Tech/Tools**: Ray Dalio's Principles, Constitutional AI (Anthropic).
|
|
---
|