Людей сравнили с ИИ и выяснили, кто чаще следует навязанному выбору
Эксперимент с игрой, где нужно было выбирать призовые корзины, показал неожиданную разницу между людьми и ИИ в реакции на подсказки.
Администратор
Ученые обнаружили, что дополнительное время на обдумывание частично решает проблему — продвинутые модели с расширенными вычислительными ресурсами вели себя ближе к человеку и меньше поддавались бесполезным подсказкам. Правда, такая «устойчивость» обходится крайне дорого — по оценке исследователей, запуск надежных ИИ-агентов может стоить в 30–100 раз дороже обычных моделей, то есть сотни долларов в месяц даже для простых автоматических задач.
При этом Череп подчеркивает — чувствительность к подсказкам не стоит путать со взломом или злонамеренной атакой.
«Подталкивания — часть повседневной жизни любого, кто принимает решения. В отличие от целенаправленных атак, которые можно обнаружить и устранить, подталкивания будут существовать всегда. Поэтому нужно учить агентов принимать хорошие решения в условиях неопределенности», — говорит он.
Команда уже проверяет похожие эффекты в более реалистичных сценариях — например, при онлайн-покупках, и подобная чувствительность к подсказкам подтвердилась и там.
«Агенты на основе языковых моделей обычно куда более чувствительны к внешним сигналам, чем люди, — заключает Череп. — Эту особенность может использовать третья сторона, чтобы повлиять на агента, которому вы делегировали задачу, и подтолкнуть его к решению, которое вы сами бы никогда не приняли».
Романтические отношения с ИИ развиваются по тем же законам, что и с человеком
Искусственный интеллект помог ученым понять логику человеческих решений
Подписывайтесь и читайте «Науку» в MAX
