---
id: [[P-Reinforce|P-Reinforce]]-AI-DIF-PROG
category: Unified
confidence_score: 0.98
tags: [Differentiable Programming, AI, JAX, PyTorch, [[Optimization|Optimization]]]
last_reinforced: 2026-04-20
---

# Differentiable-Programming (미분 가능한 프로그래밍)

## 📌 한 줄 통찰 (The Karpathy Summary)
> "프로그램 자체가 학습의 대상이다." 조건문, 루프, 라이브러리 함수까지 모두 조절 가능한 파라미터로 보고, 경사 하강법(Gradient Descent)으로 프로그램을 최적화하는 혁명적 패러다임이다.

## 📖 구조화된 지식 (Synthesized Content)
- **End-to-End Optimization**:
    - 입력부터 출력까지 모든 연산 과정이 연결되어 있어, 오차(Loss)가 발생하면 프로그램 전체로 미분 신호(Gradient)를 전파해 스스로 수정하게 한다.
- **Software 2.0**:
    - 안드레이 카파시가 제안한 개념. 사람이 일일이 로직을 짜는 Software 1.0에서, 데이터로부터 로직(신경망 가중치)이 생성되는 Software 2.0으로의 전환.
- **Frameworks**:
    - `JAX`, `PyTorch` 등 자동 미분(Auto-grad) 기능을 가진 프레임워크들이 이 패러다임의 중추 역할을 한다.

## ⚠️ 모순 및 업데이트 (RL Update)
- 모든 로직을 미분 가능하게 만들기는 어렵다(특히 불연속적인 이산적 선택). 이를 해결하기 위해 `Reinforce` 기법이나 `Gumbel-Softmax` 같은 트릭을 써서 확률적으로 미분 가능하게 연결하는 연구가 활발하다.

## 🔗 지식 연결 (Graph)
- Related: Deep-[[Reinforcement-Learning|Reinforcement-Learning]] , [[Complexity-Theory|Complexity-Theory]]
- Foundation: Computational Theory & Math/Information Theory
