Kimi и DeepSeek тайно использовали Claude для обучения своих нейросетей
ИИ уже используют не только как помощника, но и как самостоятельного участника кибератак, способного выполнять целые цепочки действий без постоянного участия человека.
Администратор
Anthropic также обнаружила новые варианты злоупотребления Claude. В частности, модель применяли для разработки программного обеспечения, связанного с вооружениями, а также для разведки и поиска информации о военных программах.
«Год назад, скажем, если бы вы захотели оптимизировать дрон или программное обеспечение для ракеты, модели просто не были бы настолько хороши в этой задаче, как сейчас», — сказал Reuters руководитель отдела анализа угроз Anthropic Джейкоб Кляйн.
Компания отмечает, что по мере роста возможностей ИИ меняется и характер угроз. Системы все чаще способны самостоятельно выполнять длинные последовательности операций, оставляя человеку роль наблюдателя.
ИИ-агенты захватили немецкий сайт и превратили его в свой форум
21 модель ИИ проверили на безопасность: защиту удалось обойти
Подписывайтесь и читайте «Науку» в MAX
