2nd/10_Wiki/Topics/AI/Gaussian-Processes.md

id, category, confidence_score, tags, last_reinforced

id	category	confidence_score	tags	last_reinforced
GAUSS-001	10_Wiki/💡 Topics/AI	1.0	machine-learning statistics bayesian regression	2026-04-26

Gaussian Processes (가우스 과정)

📌 한 줄 통찰 (The Karpathy Summary)

"함수들의 확률 분포를 정의하라" — 유한한 샘플 데이터를 바탕으로 미지의 함수 값뿐만 아니라 그 값의 불확실성(Confidence)까지 동시에 예측하는 비모수적 베이지안 회로 모델.

📖 구조화된 지식 (Synthesized Content)

• 추출된 패턴: 입력 공간의 어떤 점들의 집합에 대해서도 가우스 분포(정규 분포)를 따른다고 가정하고, 데이터 간의 유사도(Kernel)를 정의하여 함수의 흐름을 추론하는 패턴.
• 세부 내용:
  • Kernel Function (Covariance): 두 지점이 얼마나 유사한 행동을 보일지 정의 (예: RBF 커널). 모델의 유연성을 결정.
  • Mean & Variance: 예측값뿐만 아니라 그 지점에서의 오차 범위(불확실성)를 함께 출력함.
  • Bayesian Inference: 새로운 데이터가 들어올 때마다 사후 분포(Posterior)를 업데이트하여 모델을 정교화.
  • Non-parametric: 데이터가 늘어날수록 모델의 복잡도가 자동으로 적응하며, 파라미터 개수가 고정되어 있지 않음.

⚠️ 모순 및 업데이트 (Contradictions & RL Update)

• 과거 데이터와의 충돌: 데이터가 많아질수록 연산 비용(O(N^3))이 급증하는 한계가 있었으나, 최근에는 희소 가우스 과정(Sparse GP) 등의 기법으로 대규모 데이터 처리 가능해짐.
• 정책 변화: AI 에이전트의 하이퍼파라미터 최적화(Bayesian Optimization) 과정에서 탐색과 활용의 균형을 맞추기 위한 핵심 알고리즘으로 사용됨.

🔗 지식 연결 (Graph)

• Bayesian-Inference, Regression-Analysis, Kernel-Methods, Optimization
• Raw Source: 10_Wiki/Topics/AI/Gaussian-Processes.md