2nd/10_Wiki/Topics_Blog/Boltzmann-Machines.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
BOLTZMANN-001	10_Wiki/💡 Topics/AI	1.0	ai deep-learning neural-networks energy-based-model statistical-mechanics	2026-04-26

Boltzmann Machines (볼츠만 머신)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터의 분포를 물리적인 에너지 평형 상태로 모델링하라" — 통계역학의 볼츠만 분포에서 영감을 얻어, 신경망의 전역적 에너지 상태를 최소화하는 방향으로 학습하여 데이터의 구조를 파악하는 확률적 재귀 신경망.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 가시 노드와 은닉 노드 간의 상호작용을 통해 데이터의 복잡한 상관관계를 확률 분포 형태로 학습하고 생성하는 에너지 기반(Energy-based) 학습 패턴.
• 주요 유형:
  • RBM (Restricted Boltzmann Machine): 같은 층의 노드 간 연결을 제한하여 학습 효율을 높인 모델. 딥러닝 초기 가중치 초기화(Pre-training)에 기여.
  • Deep Boltzmann Machine (DBM): 여러 층의 RBM을 쌓아 올려 더 복잡한 특징 학습.
• 학습 원리: 실제 데이터의 분포와 모델이 생성한 분포 사이의 차이(KL-Divergence)를 최소화.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 초기 딥러닝의 부활을 이끈 핵심 기술(DBN 등)이었으나, 현재는 역전파(Backprop) 기술의 발달과 ReLU 등의 등장으로 인해 주류에서는 다소 물러난 상태임.
• 정책 변화: Antigravity 프로젝트는 비지도 학습 기반의 특징 추출 알고리즘 연구 시, 볼츠만 머신의 에너지 기반 모델링 철학을 참고하여 데이터 정합성을 검증함.

🔗 지식 연결 (Graph)

• Unsupervised-Learning-Foundations, Energy-Based-Models, Deep-Learning, Statistical-Mechanics
• Raw Source: 10_Wiki/Topics/AI/Boltzmann-Machines.md