ML & DL
2020. 1. 26.
[머신러닝] Boosting Algorithm
처음 머신러닝을 공부할 때, 가장 어려웠던 부스팅 계열 알고리즘, 보아즈에서 발표를 하게 되면서 다시 한번 내용을 정리해두려고 한다. 학부생의 철없는 질문을 받아주신 건국대학교 권성훈 교수님과 이재병 연구원님께 감사의 말씀을 드린다. INDEX - Boosting이란? - Basic Idea of Boosting - AdaBoost - GBM(Gradient Boost) - XGBoost - LightGBM - Linear algebraic view of the Boosting Boosting? 부스팅은 머신러닝 앙상블 기법 중 하나로 sequential한 weak learner들을 여러 개 결합하여 예측 혹은 분류 성능을 높이는 알고리즘이다. 사실 이 정의에 부스팅에 대한 핵심적인 개념이 다 들어있다...