Files
2nd/10_Wiki/Topics_Blog/Boltzmann-Machines.md
T

28 lines
2.0 KiB
Markdown

---
id: BOLTZMANN-001
category: "10_Wiki/💡 Topics/AI"
confidence_score: 1.0
tags: [ai, deep-learning, neural-networks, energy-based-model, statistical-mechanics]
last_reinforced: 2026-04-26
---
# Boltzmann Machines (볼츠만 머신)
## 📌 한 줄 통찰 (The Karpathy Summary)
> "데이터의 분포를 물리적인 에너지 평형 상태로 모델링하라" — 통계역학의 볼츠만 분포에서 영감을 얻어, 신경망의 전역적 에너지 상태를 최소화하는 방향으로 학습하여 데이터의 구조를 파악하는 확률적 재귀 신경망.
## 📖 구조화된 지식 (Synthesized Content)
- **추출된 패턴:** 가시 노드와 은닉 노드 간의 상호작용을 통해 데이터의 복잡한 상관관계를 확률 분포 형태로 학습하고 생성하는 에너지 기반(Energy-based) 학습 패턴.
- **주요 유형:**
- **RBM (Restricted Boltzmann Machine):** 같은 층의 노드 간 연결을 제한하여 학습 효율을 높인 모델. 딥러닝 초기 가중치 초기화(Pre-training)에 기여.
- **Deep Boltzmann Machine (DBM):** 여러 층의 RBM을 쌓아 올려 더 복잡한 특징 학습.
- **학습 원리:** 실제 데이터의 분포와 모델이 생성한 분포 사이의 차이(KL-Divergence)를 최소화.
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
- **과거 데이터와의 충돌:** 초기 딥러닝의 부활을 이끈 핵심 기술(DBN 등)이었으나, 현재는 역전파(Backprop) 기술의 발달과 ReLU 등의 등장으로 인해 주류에서는 다소 물러난 상태임.
- **정책 변화:** Antigravity 프로젝트는 비지도 학습 기반의 특징 추출 알고리즘 연구 시, 볼츠만 머신의 에너지 기반 모델링 철학을 참고하여 데이터 정합성을 검증함.
## 🔗 지식 연결 (Graph)
- Unsupervised-Learning-Foundations, Energy-Based-Models, [[Deep-Learning|Deep-Learning]], Statistical-Mechanics
- **Raw Source:** 10_Wiki/Topics/AI/Boltzmann-Machines.md