![][1] В мае прошлого года сотрудники лаборатории глубокого обучения Гугла и учёные из двух американских университетов опубликовали исследование «[Intriguing properties of neural networks][2]». Статья о нём вольно пересказывалась [здесь на Хабре][3], и само исследование также критиковалось [специалистом из ABBYY][4]. Гугловцы в результате своих исследований разочаровались в способностях нейронов сети распутывать признаки входных данных и стали склоняться к мысли, что нейронные сети не распутывают синтаксически значимые признаки по отдельным структурным элементам, а хранят их во всей сети в целом как в голограмме. В нижней части иллюстрации к этой статье чёрно-белыми я привёл карты активации 29, 31 и 33-его нейронов сети, которую обучил рисовать картинку. То, что тушка птицы без головы и крыльев, изображаемая для примера 29-ым нейроном, покажется людям синтаксически значимым признаком гугловцы считают всего лишь ошибкой интерпретации наблюдателя. В статье я на реальном примере постараюсь показать, что и в искусственных нейронных сетях распутанные признаки можно обнаружить. Постараюсь объяснить, почему гугловцы увидели то, что они увидели, а распутанных признаков увидеть не смогли, и покажу, где в сети скрываются синтаксически значимые признаки. Статья является популярной версией доклада, прочитанного на конференции «[Нейроинформатика — 2015][5]» в январе этого года. Наукообразную версию статьи можно будет почитать в материалах конференции. [Очень-очень много трафика][6]

[1]: //habrastorage.org/files/d2f/bb6/5f1/d2fbb65f1362462aa64998719c22d773.jpg
[2]: http://cs.nyu.edu/~zaremba/docs/understanding.pdf
[3]: http://geektimes.ru/post/225095/
[4]: http://habrahabr.ru/company/abbyy/blog/225349/
[5]: http://neuroinfo.ru/index.php/ru/schedule/sections?year=2015#Stend5
[6]: http://habrahabr.ru/post/249031/#habracut