Files
2nd/10_Wiki/Topics/AI/Simulated-Annealing.md
T

2.1 KiB

id, category, confidence_score, tags, last_reinforced
id category confidence_score tags last_reinforced
ANNEAL-001 10_Wiki/💡 Topics/AI 1.0
optimization
algorithm
heuristics
statistical-mechanics
2026-04-26

Simulated Annealing (시뮬레이션 어닐링)

📌 한 줄 통찰 (The Karpathy Summary)

"지역 최적해에서 벗어나기 위해 때로는 '모험'을 허용하라" — 금속을 뜨겁게 달구었다가 천천히 식히며 결정 구조를 안정화시키는 담금질(Annealing) 과정을 모방하여, 확률적으로 더 나쁜 해를 수용함으로써 전역 최적해를 찾아가는 확률적 탐색 알고리즘.

📖 구조화된 지식 (Synthesized Content)

  • 추출된 패턴: 초기에는 높은 '온도(Probability)'를 유지하여 탐색 공간을 넓게 훑고, 시간이 지남에 따라 온도를 낮추며 현재 위치 근처에서 정교하게 수렴하는 전역 최적화 패턴.
  • 세부 내용:
    • Metropolis Criterion: 현재보다 좋지 않은 해라도 특정 확률(e^{-\Delta E / T})로 수용하여 지역 최적해(Local Optima) 탈출 유도.
    • Cooling Schedule: 온도를 낮추는 속도와 방식 정의. 너무 빠르면 지역 최적해에 갇히고, 너무 느리면 연산 비용 과다 발생.
    • Combinatorial Optimization: 외판원 문제(TSP)나 회로 설계 등 탐색 공간이 방대하고 불연속적인 문제에서 강력한 성능 발휘.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

  • 과거 데이터와의 충돌: 미분이 가능한 공간에서의 경사 하강법에 비해 속도는 느리지만, 미분이 불가능하거나 매우 불규칙한 에너지 지형을 가진 문제에서 여전히 독보적인 유연성을 가짐.
  • 정책 변화: Antigravity 프로젝트의 자원 할당 최적화 및 복잡한 워크플로우 스케줄링 시, 시뮬레이션 어닐링 알고리즘을 사용하여 최적의 배치 조합을 산출함.

🔗 지식 연결 (Graph)