2nd/10_Wiki/Topics_Blog/Differentiable Programming.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
P-REINFORCE-AI-DIF-PROG	10_Wiki/💡 Topics/AI	0.98	Differentiable Programming AI JAX PyTorch Optimization	2026-04-20

Differentiable-Programming (미분 가능한 프로그래밍)

📌 한 줄 통찰 (The Karpathy Summary)

"프로그램 자체가 학습의 대상이다." 조건문, 루프, 라이브러리 함수까지 모두 조절 가능한 파라미터로 보고, 경사 하강법(Gradient Descent)으로 프로그램을 최적화하는 혁명적 패러다임이다.

📖 구조화된 지식 (Synthesized Content)

• End-to-End Optimization:
  • 입력부터 출력까지 모든 연산 과정이 연결되어 있어, 오차(Loss)가 발생하면 프로그램 전체로 미분 신호(Gradient)를 전파해 스스로 수정하게 한다.
• Software 2.0:
  • 안드레이 카파시가 제안한 개념. 사람이 일일이 로직을 짜는 Software 1.0에서, 데이터로부터 로직(신경망 가중치)이 생성되는 Software 2.0으로의 전환.
• Frameworks:
  • JAX, PyTorch 등 자동 미분(Auto-grad) 기능을 가진 프레임워크들이 이 패러다임의 중추 역할을 한다.

⚠️ 모순 및 업데이트 (RL Update)

• 모든 로직을 미분 가능하게 만들기는 어렵다(특히 불연속적인 이산적 선택). 이를 해결하기 위해 Reinforce 기법이나 Gumbel-Softmax 같은 트릭을 써서 확률적으로 미분 가능하게 연결하는 연구가 활발하다.

🔗 지식 연결 (Graph)

• Related: Deep-Reinforcement-Learning , Complexity-Theory
• Foundation: Computational Theory & Math/Information Theory