Нейронные сети обучаются решению задач на большом количестве примеров, но изучить внутреннюю структуру и объяснить механизмы работы обученной сети чрезвычайно сложно. Два года назад группа исследователей из Лаборатории искусственного интеллекта МТИ получила интересные результаты в этой области с помощью работников, нанятых через сервис Amazon Mechanical Turk. Теперь исследователям удалось создать полностью автоматизированную систему анализа нейронных сетей и выяснить, какие нейроны в сети при распознавании образов сильнее других откликаются на определенные особенности изображения — цвета, текстуры, материалы, объекты и их взаимное расположение и т. д. Не исключено, что новые результаты помогут ученым понять, действительно ли в мозгу человека могут существовать отдельные нейроны, откликающиеся на абстрактные представления об объектах, — так называемые нейроны Дженнифер Энистон, получившие свое название благодаря первым экспериментам, в которых удалось выделить реакцию нейронов на фотографию или даже одно имя актрисы.