개발하다가 쓰는 블로그 개발하다가 쓰는 블로그

ML

• Bayesian Optimization

  ML 2021. 3. 1. 22:17

  머신 러닝에서 Hyperparameter를 설정해 줄 때, 이를 사람이 직접 설정해주어도 되지만 자동화하여 찾는 방법이 있다. GridSearch, RandomSearch, Bayesian Optimization 등이 대표적인 방법들이다. GridSearch는 구간 전역을 탐색하기 때문에 Hyperparameter의 종류와 구간이 커질수록 탐색 시간이 기하급수적으로 늘어나고, RandomSearch는 임의로 탐색을 진행하기 때문에 시간은 줄어들지만 정확도가 낮아질 수 있다. 최근 업무에서 Bayesian Optimization을 도입하게 되어서 이를 간단히 정리해보자 한다. Bayesian Optimization이란 목적 함수 f(x)를 최대로 만드는 최적해(x) 도출하는 기법이다. 여기서 목적 함수는 ..

  Read More