--- id: MATH-GP-001 category: Dev confidence_score: 1.0 tags: [[Statistics|[Statistics]], machine-learning, gaussian-processes, bayesian-inference, uncertainty] last_reinforced: 2026-04-26 --- # Gaussian Processes (가우시안 프로세스) ## 📌 한 줄 통찰 (The Karpathy Summary) > "데이터를 지나는 무한히 많은 함수들의 분포를 정의하고, 가장 가능성 높은 길과 그 확신도를 계산하라" — 함수 자체를 무한 차원의 가우시안 분포로 취급하여, 어떤 입력에 대한 출력값을 평균과 표준편차를 가진 확률 분포로 제공하는 강력한 회귀 및 분류 도구. ## 📖 구조화된 지식 (Synthesized Content) - **추출된 패턴:** 입력 데이터 간의 유사성을 커널 함수(Kernel Function)로 정의하고, 가까운 지점은 비슷한 값을 가질 것이라는 믿음을 바탕으로 미지의 영역을 추론하는 베이지안 비모수 패턴. - **핵심 요소:** - **Mean Function:** 데이터가 없을 때의 기본 예측값 (보통 0). - **Kernel (Covariance) Function:** 두 입력 사이의 관계(부드러움, 주기성 등)를 결정하는 핵심 파라미터. - **[[Bayesian Inference|Bayesian Inference]]:** 새로운 관측 데이터가 유입될 때마다 사후 분포(Posterior)를 업데이트하여 불확실성 정제. - **의의:** 딥러닝과 달리 모델의 '모름(Uncertainty)'을 정량화할 수 있어, 최적화(Bayesian [[Optimization|Optimization]])나 소량 데이터 학습에서 필수적으로 사용됨. ## ⚠️ 모순 및 업데이트 (Contradictions & RL Update) - **과거 데이터와의 충돌:** 연산 복잡도가 데이터 수의 세제곱($O(n^3)$)에 비례하여 대규모 데이터 처리가 불가능했으나, 최근에는 희소 근사(Sparse approximation) 기법을 통해 수백만 개의 데이터도 처리 가능하도록 진화. - [[Epistemic-Uncertainty|Epistemic-Uncertainty]]를 정밀하게 측정하는 데 가장 적합한 도구로 재평가됨. ## 🔗 지식 연결 (Graph) - [[Epistemic-Uncertainty|Epistemic-Uncertainty]], Bayesian-Inference, [[Black-Box-Optimization|Black-Box-Optimization]], Regression-Foundations - **Raw Source:** 10_Wiki/Topics/AI/Gaussian-Processes.md