29 lines
2.1 KiB
Markdown
29 lines
2.1 KiB
Markdown
---
|
|
id: MATH-GP-001
|
|
category: "10_Wiki/💡 Topics/AI"
|
|
confidence_score: 1.0
|
|
tags: [statistics, machine-learning, gaussian-processes, bayesian-inference, uncertainty]
|
|
last_reinforced: 2026-04-26
|
|
---
|
|
|
|
# Gaussian Processes (가우시안 프로세스)
|
|
|
|
## 📌 한 줄 통찰 (The Karpathy Summary)
|
|
> "데이터를 지나는 무한히 많은 함수들의 분포를 정의하고, 가장 가능성 높은 길과 그 확신도를 계산하라" — 함수 자체를 무한 차원의 가우시안 분포로 취급하여, 어떤 입력에 대한 출력값을 평균과 표준편차를 가진 확률 분포로 제공하는 강력한 회귀 및 분류 도구.
|
|
|
|
## 📖 구조화된 지식 (Synthesized Content)
|
|
- **추출된 패턴:** 입력 데이터 간의 유사성을 커널 함수(Kernel Function)로 정의하고, 가까운 지점은 비슷한 값을 가질 것이라는 믿음을 바탕으로 미지의 영역을 추론하는 베이지안 비모수 패턴.
|
|
- **핵심 요소:**
|
|
- **Mean Function:** 데이터가 없을 때의 기본 예측값 (보통 0).
|
|
- **Kernel (Covariance) Function:** 두 입력 사이의 관계(부드러움, 주기성 등)를 결정하는 핵심 파라미터.
|
|
- **Bayesian Inference:** 새로운 관측 데이터가 유입될 때마다 사후 분포(Posterior)를 업데이트하여 불확실성 정제.
|
|
- **의의:** 딥러닝과 달리 모델의 '모름(Uncertainty)'을 정량화할 수 있어, 최적화(Bayesian Optimization)나 소량 데이터 학습에서 필수적으로 사용됨.
|
|
|
|
## ⚠️ 모순 및 업데이트 (Contradictions & RL Update)
|
|
- **과거 데이터와의 충돌:** 연산 복잡도가 데이터 수의 세제곱($O(n^3)$)에 비례하여 대규모 데이터 처리가 불가능했으나, 최근에는 희소 근사(Sparse approximation) 기법을 통해 수백만 개의 데이터도 처리 가능하도록 진화.
|
|
- [[Epistemic-Uncertainty]]를 정밀하게 측정하는 데 가장 적합한 도구로 재평가됨.
|
|
|
|
## 🔗 지식 연결 (Graph)
|
|
- [[Epistemic-Uncertainty]], Bayesian-Inference, [[Black-Box-Optimization]], Regression-Foundations
|
|
- **Raw Source:** 10_Wiki/Topics/AI/Gaussian-Processes.md
|