2.2 KiB
2.2 KiB
id, category, confidence_score, tags, last_reinforced
| id | category | confidence_score | tags | last_reinforced | ||||||
|---|---|---|---|---|---|---|---|---|---|---|
| P-REINFORCE-AUTO-MACH-001 | 10_Wiki/💡 Topics/AI | 0.97 |
|
2026-04-20 |
Markov-Chains
📌 한 줄 통찰 (The Karpathy Summary)
"과거는 잊고 현재만 보라: 다음 상태가 오직 '현재 상태'에 의해서만 결정된다는 무기억성(Memoryless)의 원리 위에, 수많은 가능성 사이를 확률적으로 이동하며 미래의 흐름을 예측하는 수학적 사슬."
📖 구조화된 지식 (Synthesized Content)
마르코프 연쇄(Markov-Chains)는 확률 변수가 시간에 따라 변화하는 확률 과정 중 하나입니다.
- 핵심 원리 (Markov Property):
- 과거의 이력이 어떠했든, 현재의 상태(State)가 주어지면 미래는 과거와 독립적으로 결정됨.
- Transition Matrix: 상태 A에서 상태 B로 이동할 확률들을 모아놓은 행렬. (Linear-Algebra와 연결)
- 왜 중요한가?:
- 날씨 예측, 주식 시장의 흐름 분석, 그리고 구글 검색 엔진의 '페이지랭크' 알고리즘 등 복잡한 시스템의 확률적 거동을 설명하는 가장 강력한 도구이기 때문임. (Logic와 연결)
⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- 과거 데이터와의 충돌: 과거에는 단순한 통계 모델 정책이었으나, 현대 정책은 LLM이 단어를 생성할 때 '이전 단어로부터 다음 단어의 확률 정책'을 도출하는 행위 자체가 고도의 비선형적 마르코프 과정 정책으로 해석됨(RL Update). (Large Language Models (LLM)와 연결)
- 정책 변화(RL Update): 단순히 다음 상태를 맞히는 정책을 넘어, 보상을 최대화하기 위한 행동 선택까지 포함하는 '마르코프 결정 과정(MDP) 정책'으로 확장되어 강화 학습의 뼈대가 됨.
🔗 지식 연결 (Graph)
- Logic, Linear-Algebra, Large Language Models (LLM), Inferential-Statistics, Markov-Decision-Processes
- Modern Tech/Tools: PageRank algorithm, Monte Carlo Markov Chain (MCMC), Sequence modeling.