Человеческий сон подсказал ученым, как сделать ИИ устойчивее

Ученые разделяют работу сна на два основных этапа. Во время медленного сна (NREM), особенно в фазе медленных волн, мозг переходит в мощные низкочастотные ритмы. В это время синаптические связи, которые усилились за день обучения, мягко нормализуются — сеть не перегружается. В фазе быстрого сна (REM) всё наоборот: активность становится более хаотичной, ритмы ускоряются, мозг активно перестраивает связи и ищет новые варианты.

Особенно интересны переходные моменты между фазами — именно тогда мозг достигает наибольшей «метастабильности», то есть готовности гибко переключаться между разными состояниями.

Во время глубокого сна также активно работает глифатическая система — она расширяет пространство между клетками и буквально промывает мозг, выводя накопившиеся вредные вещества, включая те, что связаны с болезнью Альцгеймера.

«Сеть, которая только оптимизируется, может загнать себя в тупик, — отметил ведущий автор Лонгвэй Ян. — Похоже, сон защищает от этого, обеспечивая возможность выбраться из тупика».

Авторы проводят прямые параллели с искусственным интеллектом. Искусственные нейронные сети тоже страдают от того, что при обучении новым задачам резко теряют ранее приобретенные навыки, переобучения и перегрузки. Сон в биологическом мозге помогает избегать этих проблем. Ученые ссылаются на эксперименты, где алгоритмы «воспроизведения сна», добавление контролируемого шума и периодическое ослабление слишком сильных связей заметно улучшали работу искусственных систем.

«Самое удивительное — как все сходится, — говорит профессор Хаохонг Ли из Чжэцзянского университета. — Воспроизведение пережитого, ослабление связей, их подрезка и добавление шума помогают и мозгу, и машинам. Мы не говорим, что серверы должны спать. Мы лишь отмечаем, что любой обучающейся системе в постоянно меняющемся мире нужны специальные периоды "отключения", чтобы оставаться надежной и гибкой».

Новый взгляд особенно важен как для медицины, так и для развития искусственного интеллекта. Нарушения сна часто сопровождают болезнь Альцгеймера, шизофрению и эпилепсию. Если сон действительно укрепляет устойчивость нейронных сетей, то улучшение его качества или целенаправленное воздействие на его фазы может стать мощным инструментом лечения и реабилитации.

В сфере искусственного интеллекта эти идеи открывают путь к созданию более надежных систем. Ученые предполагают, что введение специальных «офлайн-периодов», похожих на фазы сна, поможет нейронным сетям лучше справляться с непрерывным обучением, меньше забывать старые навыки и устойчивее переносить изменения в данных.

Ученые назвали три нарушения сна, которые ускоряют старение мозга

ИИ научился распознавать риск болезни Альцгеймера по снимкам сетчатки

Подписывайтесь и читайте «Науку» в MAX