Files
2nd/10_Wiki/Topics/AI/End-to-End-Learning.md
T

2.3 KiB

id, category, confidence_score, tags, last_reinforced
id category confidence_score tags last_reinforced
E2E-001 10_Wiki/💡 Topics/AI 1.0
ai
deep-learning
end-to-end
neural-networks
optimization
2026-04-26

End-to-End Learning (엔드-투-엔드 학습)

📌 한 줄 통찰 (The Karpathy Summary)

"중간 단계의 수작업을 걷어내고, 입력부터 출력까지 하나의 거대한 신경망으로 관통하라" — 시스템의 개별 모듈을 직접 설계하는 대신, 원시 데이터(Raw Data)를 입력하면 최종 결과물(Target)이 나오도록 전체 과정을 하나의 신경망으로 통합하여 학습시키는 방식.

📖 구조화된 지식 (Synthesized Content)

  • 추출된 패턴: 복잡한 파이프라인의 각 단계에서 발생하는 정보 손실과 설계 편향을 제거하고, 전체 시스템의 오차(Loss)를 직접 최소화하여 최적의 내부 표현을 스스로 찾게 하는 통합 학습 패턴.
  • 장점:
    • Hand-engineered Feature 제거: 사람이 정의한 규칙보다 데이터에 잠재된 더 유효한 특징을 모델이 직접 발견.
    • Global Optimization: 각 모듈이 아닌 전체 시스템의 목적 함수를 최적화.
    • Simplified Pipeline: 시스템 구조가 단순해지고 유지보수가 용이해짐.
  • 단점: 대규모 데이터가 필수적이며, 시스템 내부의 구체적인 작동 원리를 파악하기 힘든 '블랙박스' 성향이 강해짐.
  • 예시: 자율주행(이미지 입력 -> 핸들 조작 출력), 음성 인식(음성 입력 -> 텍스트 출력).

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

  • 과거 데이터와의 충돌: 모듈화된 설계(Modular Design)가 정답으로 여겨지던 시대를 지나, 데이터가 충분할 때는 엔드-투-엔드 방식이 성능 면에서 압도적임을 증명함.
  • 정책 변화: Antigravity 프로젝트는 복잡한 자연어 처리 파이프라인(형태소 분석 -> 구문 분석 -> 의미 추출)을 LLM 기반의 엔드-투-엔드 추론 방식으로 점진적으로 전환하여 처리 속도와 정확도를 향상시킴.

🔗 지식 연결 (Graph)