ИИ способен копировать себя на другие устройства без участия человека
Потенциальными целями такого ИИ-червя могут стать ТВ-приставки, роботы-пылесосы и даже умные холодильники. Попадая на новое устройство, он сможет адаптироваться к его оборудованию и передавать другим копиям накопленный опыт.
Администратор
В числе потенциальных целей авторы называют умные холодильники и духовки, роботы-пылесосы и газонокосилки. Некоторые такие устройства можно объединить, чтобы они совместно запускали части одной модели. Другой возможной целью могут стать камеры видеонаблюдения и системы для видеоконференций со встроенными ИИ-ускорителями.
В перспективе угрозу могут представлять автомобили, четвероногие и человекоподобные роботы, а также дроны. Их вычислительные модули способны запускать ИИ непосредственно на устройстве. Более крупные модели могли бы нацелиться и на дата-центры, где доступно больше вычислительных ресурсов.
Распространение может занять несколько днейПо расчетам Anthropic, настройка модели Qwen3.5-9B на новом устройстве может занимать от 28 до 51 часа. Для более крупной Gemma4-26B-A4B оценка составляет от 71 до 150 часов. Поэтому такой червь мог бы распространяться медленно, постепенно увеличивая число зараженных устройств.
Модель также может сохранять заметки о неудачных попытках и передавать их следующим копиям. В эксперименте с Qwen3.5-9B доля успешных настроек выросла с 45% в первом поколении до 61–84% в последующих.
Anthropic подчеркивает, что команда еще не создала систему, способную бесконтрольно распространяться по реальному интернету. Главная трудность — надежно объединить все этапы, от поиска цели до запуска модели на новом устройстве.
Авторы предполагают, что небольшие модели могут достичь необходимого уровня возможностей к концу 2026 года, если сохранятся прежние темпы развития. Это прогноз, основанный на динамике тестовых показателей, а не результат уже проведенного эксперимента.
Для защиты исследователи предлагают обновлять программное обеспечение устройств, использовать надежные пароли и отслеживать необычный сетевой трафик. Например, массовая передача файлов размером в несколько гигабайт между бытовыми устройствами может указывать на подозрительную активность.
Билл Гейтс предупредил о настоящей опасности ИИ
Бывший инженер OpenAI призвал регулировать безопасность ИИ, как это делают на АЭС
Подписывайтесь и читайте «Науку» в MAX
