Optymalizacja hiperparametrów w algorytmach uczenia maszynowego na przykładzie metody XGBoost

Abstract

W pracy przedstawiono szczegółowy opis metody Extreme Gradient Boosting wraz z objasnieniem kluczowych hiperparametrów algorytmu. Przedstawiono analize najpopularniejszych metod optymalizacji hiperparametrów w metodach uczenia maszynowego. Przedstawiono dotychczasowe wyniki wybranych prac nad badaniem optymalizacji hiperparametrów. Porównano analizowane algorytmy oraz wykonano eksperymenty majace na celu wyłonienie najlepszej metody oraz sformułowanie ogólnych wniosków dotyczacych poszczególnych metod optymalizacyjnych.