Людям в зависимости от возраста требуется на сон от 7 до 13 часов в сутки. За это время частота сердечных сокращений, дыхание и обмен веществ приходят в норму, уровень гормонов корректируется, тело расслабляется. Что же касается мозга, изменения здесь не столь существенны. Когда мы спим, мозг занят, повторяя то, что мы узнали в течение дня. Сон помогает реорганизовать воспоминания и представить их наиболее эффективным способом.

В искусственных нейронных сетях архитектура человеческого мозга используется для улучшения самых разных технологий и систем, от фундаментальной науки и медицины до финансов и социальных сетей. В скорости вычислений их успехи очевидны, но они терпят неудачу в одном ключевом аспекте: когда искусственные нейронные сети обучаются последовательно, новая информация перезаписывает предыдущую. Это явление называется катастрофическим забыванием. Человеческий мозг непрерывно учится, включая новые данные в существующие знания. И лучше всего процесс обучения протекает, когда тренировки чередуются с периодами сна и консолидации памяти.

В статье, опубликованной в журнале PLOS Computational Biology, исследователи из Калифорнийского университета для снижения угрозы катастрофического забывания в искусственных нейронных сетях предлагают использовать биологические модели. Нейронные сети здесь имитируют естественные нейронные системы: вместо непрерывной передачи информация передается в виде дискретных событий (всплесков) в определенные моменты времени. В человеческом мозге воспоминания представлены паттернами синаптического веса – силой или амплитудой связи между двумя нейронами. В момент усваивания новой информации нейроны срабатывают в определенном порядке, и это увеличивает синапсы между ними. Во время сна происходит спонтанное повторение импульсных паттернов, усвоенных во время бодрствования. Это называется реактивацией или воспроизведением.

Синаптическая пластичность – способность изменяться или формироваться – сохраняется и во время сна, помогая предотвратить забывание и обеспечить передачу знаний от старых задач к новым. Применив такой подход к искусственным нейронным сетям, исследователи обнаружили, что это помогает сетям избежать катастрофического забывания.