Files
2nd/10_Wiki/Topic_Programming/AI_and_ML/Hopfield Network.md
T
Antigravity Agent 9148c358d0 docs(10_Wiki): 위키 전체 재구성 — Topic_* 폴더를 4개 카테고리로 통합 + 대규모 중복 제거
Topic_Agent/Topic_Blog/Topics/Topics_Biz/Topics_Meeting/Topics_Rag의 마크다운 지식 문서를
Topic_General/Topic_Programming/Topic_Graphic/Topic_Business 4개 카테고리로 재분류.

- 중복 제거: frontmatter의 status:duplicate/merged + duplicate_of/redirect_to 필드로
  자기 자신을 중복으로 선언한 리다이렉트 stub 1032개 제거, 완전 동일 내용 파일 472개 제거,
  동일 파일명·다른 내용 충돌 시 더 큰(완전한) 버전만 유지(162개 제거) — 총 1639개 중복 제거.
- 분류: 폴더 단위로 명확한 항목(AI_and_ML/Coding/Architecture 등 → Programming,
  Comfyui/Visual_Effects → Graphic, Topics_Biz/Topics_Meeting/사업 등 → Business,
  Poetic_Blog_Writing/창의성/Game_Design 등 → General)은 폴더 우선순위로,
  나머지 혼재 폴더(Topic_Agent/Topic_Blog/Topics 루트/Thinking & Reasoning/Other/UI_UX_Assets)는
  title/tags 키워드 스코어링으로 파일 단위 분류(불명확한 경우 General로 폴백).
  원본 폴더명은 "From_*" 서브폴더로 보존해 추적 가능성 유지.
- 최종 배치: Programming 2784 / General 1608 / Graphic 285 / Business 249 = 4926개 문서.
- 에이전트 운영 상태(.astra/.agent/.obsidian/sessions/memory/_company/docs/lessons/_shared/src)는
  지식 콘텐츠가 아니므로 재분류 대상에서 제외하고 원위치 유지.
- Topics/Topic_email(상위 보호 폴더 Topic_email과 파일명 100% 중복) 삭제 — 보호 폴더 자체는 미변경.
- 완전히 비게 된 Topic_Agent/Topic_Blog/Topics_Biz/Topics_Rag 폴더 제거.
2026-07-05 00:33:48 +09:00

3.3 KiB

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, verification_status, tags, raw_sources, last_reinforced, github_commit, tech_stack
id title category status canonical_id aliases duplicate_of source_trust_level confidence_score verification_status tags raw_sources last_reinforced github_commit tech_stack
wiki-2026-0508-hopfield-network Hopfield Network 10_Wiki/Topics verified self
Hopfield
associative memory
content-addressable
modern Hopfield
Ramsauer
none A 0.92 applied
neural-network
hopfield
associative-memory
energy-based
modern-hopfield
2026-05-10 pending
language framework
Python PyTorch / NumPy

Hopfield Network

매 한 줄

"매 recurrent NN 의 의 의 의 associative memory". Hopfield 1982. 매 energy 의 의 의 settle. 매 modern Hopfield (Ramsauer 2020) — 매 transformer attention 와 equivalent. 매 응용: 매 pattern restoration, 매 optimization, 매 memory.

매 핵심

매 classical

  • Binary states ±1.
  • Symmetric weights Wij = Wji.
  • Energy: E = -½ Σ Wij sᵢ sⱼ.
  • Asynchronous update: 매 si ← sign(Σ Wij sj).
  • Capacity: 매 ~0.14N patterns.

매 modern (Ramsauer 2020)

  • Continuous states.
  • Exponential storage (exp).
  • Single-step retrieval.
  • = attention (key-value).

매 응용

  1. Pattern completion (denoise).
  2. Combinatorial opt (TSP).
  3. Modern: attention/memory in transformers.
  4. Boltzmann-style RBM.

💻 패턴

Classical Hopfield (NumPy)

import numpy as np

class Hopfield:
    def __init__(self, n):
        self.W = np.zeros((n, n))
    
    def store(self, patterns):
        for p in patterns:
            self.W += np.outer(p, p)
        np.fill_diagonal(self.W, 0)
    
    def retrieve(self, x, max_iter=100):
        for _ in range(max_iter):
            i = np.random.randint(len(x))
            x[i] = np.sign(self.W[i] @ x) or 1
        return x

Modern Hopfield (Ramsauer)

import torch
import torch.nn.functional as F

def modern_hopfield(query, keys, values, beta=1.0):
    """매 = attention with sqrt scaling absorbed."""
    attn = F.softmax(beta * query @ keys.T, dim=-1)
    return attn @ values

Energy

def energy(state, W):
    return -0.5 * state @ W @ state

Pattern denoise demo

patterns = [np.random.choice([-1, 1], 100) for _ in range(5)]
h = Hopfield(100)
h.store(patterns)

noisy = patterns[0].copy()
flip_idx = np.random.choice(100, 20, replace=False)
noisy[flip_idx] *= -1

restored = h.retrieve(noisy)
print(np.array_equal(restored, patterns[0]))

매 결정 기준

상황 Approach
Associative memory Modern Hopfield
Pattern denoise Classical or modern
Transformer = attention
TSP / opt Hopfield/Boltzmann

기본값: 매 modern Hopfield = attention 와 동일 → modern transformer 의 default.

🔗 Graph

🤖 LLM 활용

언제: 매 memory + attention concept. 언제 X: 매 pure feedforward task.

안티패턴

  • Classical at large scale: 매 capacity 부족.
  • Asymmetric W: 매 convergence X.

🧪 검증 / 중복

  • Verified (Hopfield 1982, Ramsauer 2020).
  • 신뢰도 A.

🕓 Changelog

날짜 변경
2026-05-08 Phase 1
2026-05-10 Manual cleanup — Hopfield + modern + energy code