--- id: BOLTZMANN-001 category: Dev confidence_score: 1.0 tags: [ai, [[Deep-Learning|Deep-Learning]], neural-networks, energy-based-model, statistical-mechanics] last_reinforced: 2026-04-26 --- # Boltzmann Machines (볼츠만 머신) ## 📌 한 줄 통찰 (The Karpathy Summary) > "데이터의 분포를 물리적인 에너지 평형 상태로 모델링하라" — 통계역학의 볼츠만 분포에서 영감을 얻어, 신경망의 전역적 에너지 상태를 최소화하는 방향으로 학습하여 데이터의 구조를 파악하는 확률적 재귀 신경망. ## 📖 구조화된 지식 (Synthesized Content) - **추출된 패턴:** 가시 노드와 은닉 노드 간의 상호작용을 통해 데이터의 복잡한 상관관계를 확률 분포 형태로 학습하고 생성하는 에너지 기반(Energy-based) 학습 패턴. - **주요 유형:** - **RBM (Restricted Boltzmann Machine):** 같은 층의 노드 간 연결을 제한하여 학습 효율을 높인 모델. 딥러닝 초기 가중치 초기화(Pre-training)에 기여. - **Deep Boltzmann Machine (DBM):** 여러 층의 RBM을 쌓아 올려 더 복잡한 특징 학습. - **학습 원리:** 실제 데이터의 분포와 모델이 생성한 분포 사이의 차이(KL-Divergence)를 최소화. ## ⚠️ 모순 및 업데이트 (Contradictions & RL Update) - **과거 데이터와의 충돌:** 초기 딥러닝의 부활을 이끈 핵심 기술(DBN 등)이었으나, 현재는 역전파(Backprop) 기술의 발달과 ReLU 등의 등장으로 인해 주류에서는 다소 물러난 상태임. - **정책 변화:** Antigravity 프로젝트는 비지도 학습 기반의 특징 추출 알고리즘 연구 시, 볼츠만 머신의 에너지 기반 모델링 철학을 참고하여 데이터 정합성을 검증함. ## 🔗 지식 연결 (Graph) - Un[[Supervised-Learning-Foundations|Supervised-Learning-Foundations]], Energy-Based-Models, [[Deep-Learning|Deep-Learning]], Statistical-Mechanics - **Raw Source:** 10_Wiki/Topics/AI/Boltzmann-Machines.md