Подсчитано, сколько энергии «съедает» один сложный запрос к ИИ
Исследователи впервые количественно оценили, во сколько планете обойдется автономность нейросетей.
Администратор
Эпоха автономных ИИ-агентов сталкивается с серьезным вызовом в виде колоссального энергопотребления. Исследовательская группа из Корейского института передовых технологий провела количественный анализ вычислительной стоимости и энергозатрат новых систем.
Генеративный ИИ (чат-боты): Работает по принципу «стимул — реакция». Вы задаете вопрос, нейросеть моментально прогнозирует наиболее вероятный текстовый ответ за один вычислительный проход и выдает результат. ИИ-агент: Использует многошаговое рассуждение. Он разбивает вашу задачу на подзадачи, составляет план действий, анализирует промежуточные результаты и, если что-то пошло не так, корректирует свои шаги.Выяснилось, что ИИ-агенты могут расходовать до 136,5 раз больше энергии на один поисковый запрос по сравнению с классическими моделями генеративного ИИ.
Исследование доказывает, что технологическое лидерство теперь зависит не столько от «интеллекта» нейросетей, сколько от эффективности инфраструктуры обработки данных.
Корень проблемы: циклы и простоиВ отличие от привычных чат-ботов, которые лишь генерируют последовательные текстовые ответы, современные ИИ-агенты способны самостоятельно планировать действия и вызывать внешние инструменты: веб-поиск, калькуляторы или среды исполнения программного кода. Хотя это делает их незаменимыми для автоматизации рабочих процессов, эксперты обнаружили скрытую аппаратную неэффективность.
Из-за того, что агент вынужден многократно запускать языковую модель для оценки каждого промежуточного шага, время ожидания ответа клиентом возрастает в пике до 153,7 раз. При этом дорогие графические процессоры (GPU) до 54,5% времени простаивают без дела, ожидая, пока внешние программные инструменты выполнят свои задачи. В итоге вычислительные серверы работают неэффективно, но продолжают потреблять ресурсы.
Прогноз: нагрузка масштаба целой страныВ ходе тестов ИИ-агент, работающий на базе коммерческой языковой модели с 70 миллиардами параметров, тратил в среднем 348,41 ватт-часа на один сложный запрос. Для сравнения, этого электричества хватит на работу энергосберегающей лампочки в течение суток.
Авторы исследования смоделировали футуристический сценарий, при котором ИИ-агенты обрабатывали бы около 13,7 миллиарда запросов в день — объем, сопоставимый с ежедневным поисковым трафиком компании Google. В таких условиях суммарная потребляемая мощность дата-центров подскочила бы до 198,9 гигаватта. Эта цифра в десятки раз превосходит емкость строящихся сегодня датацентров и эквивалентна примерно половине всего среднего энергопотребления США.
Авторы констатируют: индустрия обязана перейти к совместному проектированию полупроводников, алгоритмов и электросетей. Без глубокой оптимизации архитектуры создание устойчивой инфраструктуры будущего станет невозможным.
К 2030 году дата-центры для ИИ будут потреблять энергии больше, чем Япония
ООН подсчитала расходы энергии на вежливость пользователей в диалогах с ИИ
В США впервые запустят ядерный реактор для питания искусственного интеллекта
Подсчитано, насколько нагревают окрестности дата-центры для ИИ
Подписывайтесь и читайте «Науку» в MAX
