Files
2nd/10_Wiki/Topic_Programming/AI_and_ML/Mean-Squared-Error-MSE.md
T
Antigravity Agent 9148c358d0 docs(10_Wiki): 위키 전체 재구성 — Topic_* 폴더를 4개 카테고리로 통합 + 대규모 중복 제거
Topic_Agent/Topic_Blog/Topics/Topics_Biz/Topics_Meeting/Topics_Rag의 마크다운 지식 문서를
Topic_General/Topic_Programming/Topic_Graphic/Topic_Business 4개 카테고리로 재분류.

- 중복 제거: frontmatter의 status:duplicate/merged + duplicate_of/redirect_to 필드로
  자기 자신을 중복으로 선언한 리다이렉트 stub 1032개 제거, 완전 동일 내용 파일 472개 제거,
  동일 파일명·다른 내용 충돌 시 더 큰(완전한) 버전만 유지(162개 제거) — 총 1639개 중복 제거.
- 분류: 폴더 단위로 명확한 항목(AI_and_ML/Coding/Architecture 등 → Programming,
  Comfyui/Visual_Effects → Graphic, Topics_Biz/Topics_Meeting/사업 등 → Business,
  Poetic_Blog_Writing/창의성/Game_Design 등 → General)은 폴더 우선순위로,
  나머지 혼재 폴더(Topic_Agent/Topic_Blog/Topics 루트/Thinking & Reasoning/Other/UI_UX_Assets)는
  title/tags 키워드 스코어링으로 파일 단위 분류(불명확한 경우 General로 폴백).
  원본 폴더명은 "From_*" 서브폴더로 보존해 추적 가능성 유지.
- 최종 배치: Programming 2784 / General 1608 / Graphic 285 / Business 249 = 4926개 문서.
- 에이전트 운영 상태(.astra/.agent/.obsidian/sessions/memory/_company/docs/lessons/_shared/src)는
  지식 콘텐츠가 아니므로 재분류 대상에서 제외하고 원위치 유지.
- Topics/Topic_email(상위 보호 폴더 Topic_email과 파일명 100% 중복) 삭제 — 보호 폴더 자체는 미변경.
- 완전히 비게 된 Topic_Agent/Topic_Blog/Topics_Biz/Topics_Rag 폴더 제거.
2026-07-05 00:33:48 +09:00

3.4 KiB

id, title, category, status, canonical_id, aliases, duplicate_of, source_trust_level, confidence_score, verification_status, tags, raw_sources, last_reinforced, github_commit, tech_stack
id title category status canonical_id aliases duplicate_of source_trust_level confidence_score verification_status tags raw_sources last_reinforced github_commit tech_stack
wiki-2026-0508-mean-squared-error-mse Mean Squared Error (MSE) 10_Wiki/Topics verified self
MSE
L2 Loss
Squared Error
RMSE
none A 0.9 applied
ml
loss-function
regression
metric
statistics
2026-05-10 pending
language framework
python sklearn-pytorch

Mean Squared Error (MSE)

매 한 줄

"매 큰 오차에 큰 벌". MSE = mean((y - ŷ)²). 제곱 때문에 outlier에 민감하지만 미분 가능·convex라서 회귀의 디폴트 loss.

매 핵심

매 정의

  • MSE: \frac{1}{n} \sum (y_i - \hat{y}_i)^2
  • RMSE: \sqrt{\text{MSE}} — 단위가 원본과 동일.
  • MAE: \frac{1}{n} \sum |y_i - \hat{y}_i| — 비교 대상.
  • 가우시안 가정 하 MLE = MSE 최소화.

매 특성

  1. 미분 가능 (gradient = 2(ŷ - y)/n).
  2. Convex → 전역 최소 보장 (linear regression).
  3. Outlier에 quadratic하게 끌려간다.
  4. 단위가 제곱 → 해석은 RMSE로.
  5. Scale-dependent (정규화 안 하면 feature 큰 쪽 지배).

💻 패턴

Pattern 1 — sklearn

from sklearn.metrics import mean_squared_error
mse = mean_squared_error(y_true, y_pred)
rmse = mean_squared_error(y_true, y_pred, squared=False)  # ≥1.4: root_mean_squared_error

Pattern 2 — PyTorch

import torch.nn.functional as F
loss = F.mse_loss(pred, target)  # default: mean
loss_sum = F.mse_loss(pred, target, reduction='sum')

Pattern 3 — NumPy (수동)

import numpy as np
mse = np.mean((y - y_hat) ** 2)
rmse = np.sqrt(mse)

Pattern 4 — Huber (outlier robust)

loss = F.huber_loss(pred, target, delta=1.0)
# |x|<δ면 MSE, 아니면 MAE — 두 세계의 좋은 점

Pattern 5 — Weighted MSE

loss = (weights * (pred - target) ** 2).mean()
# 샘플 중요도가 다를 때 (e.g., 최근 데이터 가중)

Pattern 6 — Log-MSE (multiplicative error)

loss = F.mse_loss(torch.log1p(pred), torch.log1p(target))
# 가격/판매량처럼 비율 오차가 중요할 때

매 결정 기준

상황 Loss
일반 회귀 / outlier 적음 MSE
Outlier 많음 / heavy tail MAE 또는 Huber
비율 오차 중요 log-MSE / MAPE
Quantile 예측 Pinball loss
분류 Cross-Entropy (MSE 쓰지 말 것)
시계열 평가 보고 RMSE (단위 일치)

기본값: MSE 학습 + RMSE 보고.

🔗 Graph

🤖 LLM 활용

언제:

  • Loss 선택 디버깅 (outlier 영향 분석).
  • 회귀 모델 평가 보고서 초안.
  • MSE/MAE/Huber tradeoff 설명.

언제 X:

  • 도메인 특화 loss 설계 (custom utility 필요).
  • 분류 문제에 손실 추천.

안티패턴

  • 분류에 MSE (sigmoid+MSE는 vanishing gradient).
  • Outlier 많은 데이터에 MSE 그대로.
  • Feature scaling 없이 MSE 비교.
  • RMSE 대신 MSE를 사용자에게 보고 (단위 혼란).
  • target의 분포가 long-tail인데 raw MSE 사용.

🧪 검증 / 중복

  • Verified. 신뢰도 A.

🕓 Changelog

날짜 변경
2026-05-08 Phase 1
2026-05-10 Manual cleanup