Привет, Хабр! В этой статье речь пойдет о таком не очень приятном аспекте машинного обучения, как оптимизация гиперпараметров. Две недели назад в очень известный и полезный проект [Vowpal Wabbit][1] был влит модуль **vw-hyperopt.py**, умеющий находить хорошие конфигурации гиперпараметров моделей Vowpal Wabbit в пространствах большой размерности. Модуль был разработан внутри DCA (Data-Centric Alliance). [][2]



Для поиска хороших конфигураций vw-hyperopt использует алгоритмы из питоновской библиотеки [Hyperopt][3] и может оптимизировать гиперпараметры адаптивно с помощью метода Tree-Structured Parzen Estimators (TPE). Это позволяет находить лучшие оптимумы, чем простой grid search, при равном количестве итераций. Эта статья будет интересна всем, кто имеет дело с Vowpal Wabbit, и особенно тем, кто досадовал на отсутствие в исходном коде способов тюнинга многочисленных ручек моделей, и либо тюнил их вручную, либо кодил оптимизацию самостоятельно. [Читать дальше →][4]

[1]: https://github.com/JohnLangford/vowpal_wabbit
[2]: http://habrahabr.ru/company/dca/blog/272697/
[3]: https://github.com/hyperopt/hyperopt
[4]: http://habrahabr.ru/post/272697/#habracut