앙상블(Ensemble)
- 보팅
- 배깅
- 부스팅
- 스태킹
보팅(Voting)
- 같은 데이터로 서로 다른 알고리즘을 사용
- 하드보팅: Classification
- 소프트보팅: Classification, Regression
쉬운 예시
1로 분류될 확률이
0.9 0.9 0.4 0.4 0.4
하드 보팅 결과는 2
소프트 보팅 결과는 1
배깅(Bagging)
- 부트스트랩 샘플링된 데이터로 같은 알고리즘을 사용
- 하나의 분류기로 소프트 보팅
- 부트스트랩 샘플링: 원본 데이터에서 복원추출
부스팅(Boosting)
부스팅은 머신러닝 앙상블 기법 중 하나로 약한 학습기(weak learner)들을 순차적으로 여러개 결합하여 예측 혹은 분류 성능을 높이는 알고리즘이다.
스태킹(Stacking)
여러 가지 모델들의 예측값을 최종 모델의 학습 데이터로 사용
댓글