2nd/10_Wiki/Topics/Gaussian-Processes.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
MATH-GP-001	10_Wiki/💡 Topics/AI	1.0	Statistics machine-learning gaussian-processes bayesian-inference uncertainty	2026-04-26

Gaussian Processes (가우시안 프로세스)

📌 한 줄 통찰 (The Karpathy Summary)

"데이터를 지나는 무한히 많은 함수들의 분포를 정의하고, 가장 가능성 높은 길과 그 확신도를 계산하라" — 함수 자체를 무한 차원의 가우시안 분포로 취급하여, 어떤 입력에 대한 출력값을 평균과 표준편차를 가진 확률 분포로 제공하는 강력한 회귀 및 분류 도구.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 입력 데이터 간의 유사성을 커널 함수(Kernel Function)로 정의하고, 가까운 지점은 비슷한 값을 가질 것이라는 믿음을 바탕으로 미지의 영역을 추론하는 베이지안 비모수 패턴.
• 핵심 요소:
  • Mean Function: 데이터가 없을 때의 기본 예측값 (보통 0).
  • Kernel (Covariance) Function: 두 입력 사이의 관계(부드러움, 주기성 등)를 결정하는 핵심 파라미터.
  • Bayesian Inference: 새로운 관측 데이터가 유입될 때마다 사후 분포(Posterior)를 업데이트하여 불확실성 정제.
• 의의: 딥러닝과 달리 모델의 '모름(Uncertainty)'을 정량화할 수 있어, 최적화(Bayesian Optimization)나 소량 데이터 학습에서 필수적으로 사용됨.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 연산 복잡도가 데이터 수의 세제곱(O(n^3))에 비례하여 대규모 데이터 처리가 불가능했으나, 최근에는 희소 근사(Sparse approximation) 기법을 통해 수백만 개의 데이터도 처리 가능하도록 진화.
• Epistemic-Uncertainty를 정밀하게 측정하는 데 가장 적합한 도구로 재평가됨.

🔗 지식 연결 (Graph)

• Epistemic-Uncertainty, Bayesian-Inference, Black-Box-Optimization, Regression-Foundations
• Raw Source: 10_Wiki/Topics/AI/Gaussian-Processes.md