ensemble

다수의 모델을 학습시켜 결과를 종합하여 예측 성능을 높이는 방법

Techniques

• stacking:
  • 여러 모델을 학습시킨 후, 각 모델의 예측 결과를 입력으로 하는 메타 모델을 학습시킨다.
  • 메타 모델은 다른 모델들의 예측 결과를 종합하여 최종 예측을 수행한다.
• bagging
  • vs cross validation:
    • cross validation은 이미 생성된 모델을 검증하기 위한 방법. 모델 구축 방법은 아님
    • bagging은 분산을 줄이기 위해 사용함
  • bagging의 voting, averaging은 unsupervised learning
• boosting: sequentially 학습
  • 이전 모델의 오차를 보완하는 방식으로 학습한다.
  • supervised learning