[#] Нейропластичность в искусственных нейронных сетях
habrabot(difrex,1) — All
2015-03-20 12:00:03


Привет, Хабр, давно не виделись. В этом посте мне хотелось бы рассказать о таком относительно новом понятии в машинном обучении, как [transfer learning][1]. Так как я не нашел какого-либо устоявшегося перевода этого термина, то и в названии поста фигурирует хоть и другой, но близкий по смыслу термин, который как бы является биологической предпосылкой к формализации теории передачи знаний от одной модели к другой. Итак, план такой: для начала рассмотрим биологические предпосылки; после коснемся отличия transfer learning от очень похожей идеи [предобучения глубокой нейронной сети][2]; а в конце обсудим реальную задачу семантического хеширования изображений. Для этого мы не будем скромничать и возьмем глубокую (19 слоев) сверточную нейросеть победителей конкурса [imagenet 2014 года][3] в разделе «локализация и классификация» ([Visual Geometry Group][4], University of Oxford), сделаем ей небольшую трепанацию, извлечем часть слоев и используем их в своих целях. Поехали. [Читать дальше →][5]

[1]: http://en.wikipedia.org/wiki/Inductive_transfer
[2]: http://habrahabr.ru/post/163819/
[3]: http://image-net.org/challenges/LSVRC/2014/results#clsloc
[4]: http://www.robots.ox.ac.uk/~vgg/research/very_deep/
[5]: http://habrahabr.ru/post/252965/#habracut