[G1-Sync] Manual knowledge update
This commit is contained in:
@@ -1,5 +1,5 @@
|
||||
---
|
||||
id: P-REINFORCE-AI-BOOSTING
|
||||
id: [[P-Reinforce]]-AI-BOOSTING
|
||||
category: "10_Wiki/💡 Topics/AI"
|
||||
confidence_score: 1.0
|
||||
tags: [Boosting, XGBoost, LightGBM, Gradient Boosting, Machine Learning]
|
||||
@@ -15,12 +15,12 @@ last_reinforced: 2026-04-20
|
||||
- **Gradient Boosting (GBM)**:
|
||||
- 잔여 오차(Residual Error)를 새로운 모델의 목표값으로 삼아 경사 하강법으로 오차를 줄여나가는 방식.
|
||||
- **XGBoost (Extreme Gradient Boosting)**:
|
||||
- GBM에 병렬 처리, 규제(Regularization) 기능을 더해 캐글(Kaggle) 등 데이터 경연 대회를 휩쓴 전설적인 라이브러리.
|
||||
- GBM에 병렬 처리, 규제([[Regularization]]) 기능을 더해 캐글(Kaggle) 등 데이터 경연 대회를 휩쓴 전설적인 라이브러리.
|
||||
- **LightGBM**:
|
||||
- 대규모 데이터셋에서 속도와 메모리 효율을 극대화한 알고리즘. 리프 중심(Leaf-wise) 분할 방식으로 더 깊고 정밀한 나무를 만든다.
|
||||
|
||||
## ⚠️ 모순 및 업데이트 (RL Update)
|
||||
- 부스팅 모델은 강력하지만 과적합(Overfitting)에 취약하다. 이를 위해 학습률(Learning rate)을 낮추고, 나무의 깊이를 제한하며, 조기 종료(Early stopping) 전략을 반드시 사용해야 한다.
|
||||
- 부스팅 모델은 강력하지만 과적합([[Overfitting]])에 취약하다. 이를 위해 학습률(Learning rate)을 낮추고, 나무의 깊이를 제한하며, 조기 종료(Early stopping) 전략을 반드시 사용해야 한다.
|
||||
|
||||
## 🔗 지식 연결 (Graph)
|
||||
- Related: Decision-Tree , [[Bias-Variance-Tradeoff]]
|
||||
|
||||
Reference in New Issue
Block a user