[#] Batch Normalization для ускорения обучения нейронных сетей
habrabot(difrex,1) — All
2016-09-06 16:00:04


В современном мире нейронные сети находят себе всё больше применений в различных областях науки и бизнеса. Причем чем сложнее задача, тем более сложной получается нейросеть.
Обучение сложных нейронных сетей иногда может занимать дни и недели только для одной конфигурации. А чтобы подобрать оптимальную конфигурацию для конкретной задачи, требуется запустить обучение несколько раз — это может занять месяцы вычислений даже на действительно мощной машине.
В какой-то момент, знакомясь с представленным в 2015 году методом [Batch Normalization][1] от компании Google мне, для решения задачи связанной с распознаванием лиц, удалось существенно улучшить скорость работы нейросети.


![][2]

За подробностями прошу под кат.

[Читать дальше →][3]

[1]: https://arxiv.org/pdf/1502.03167.pdf
[2]: https://habrastorage.org/files/edf/a44/ef2/edfa44ef289e496bad3ebc18a391431f.png
[3]: https://habrahabr.ru/post/309302/?utm_source=habrahabr&utm_medium=rss&utm_campaign=feed_posts#habracut