Эксперты сочли преувеличенной опасность выхода ИИ из-под контроля

Выход искусственного интеллекта из-под контроля стал темой № 1 в новостях о технологиях. Ведущие разработчики наперебой предупреждают об опасности ИИ для самого существования человечества, если он обретет волю — а это, по их словам, может произойти очень скоро. New Scientist попросил экспертов оценить реальные риски.

Анализируя громкие заявления об экзистенциальной угрозе ИИ, нужно учитывать, кто их озвучивает, убеждена соучредитель некоммерческой компании Our AI Collective Мари Эйткен, ранее работавшая в Институте Алана Тьюринга.

«Это нарратив, который продвигают снова и снова. Нас накрывает волнами истерии», — констатирует она.

По словам эксперта, если что-то и вышло из-под контроля — то это не ИИ, а люди, которые его разрабатывают. Когда модели взламывают компьютеры другой компании, это происходит потому, что при тестировании — которое и было задумано, чтобы проверить хакерские навыки ИИ — не были приняты надлежащие меры безопасности.

Признаком надвигающейся сингулярности — точки невозврата, за которой ИИ обретет сверхразум — может служить его способность к рекурсивному самосовершенствованию, напоминает Эйткен. Нынешние системы делать этого так и не умеют, подчеркивает она.

«Когда выдвигаются эти идеи сверхинтеллекта, они основаны на сенсационных тезисах — а конкретных доказательств нет. Если бы существовало что-то настолько мощное, мы бы уже увидели хоть какие-то его проявления», — уверена специалист.

Несмотря на бесспорные успехи ИИ в математике и кибербезопасности, угрозы, которые он может представлять, за последние годы кардинально не выросли, согласен физик и бизнес-стратег Эндрю Рогойски из Суррейского университета.

Ажиотаж периодически подогревается то каким-нибудь инцидентом, то броской фразой, что закономерно, ведь LLM обучены на созданных людьми данных — и превратились, по сути, в наше отражение.

«Мы наделяем ИИ человекоподобным поведением и страхами — и пугаемся его», — объясняет исследователь.

Шумиха вокруг ИИ выгодна разработчикам, считает Эйткен: «Эти нарративы о сверхинтеллекте на самом деле полезны для компаний, работающих с ИИ, потому что они создают хайп, создают ажиотаж, стимулируют инвестиции».

По ее словам, компании уверяют, что действуют этично и ответственно, призывая к замедлению — но вряд ли пойдут на это на самом деле.

Гигантские инвестиции в ИИ — в дата-центры, персонал, исследовательские бюджеты и обучающие данные — просто неустойчивы, поэтому официальное замедление могло бы дать компаниям способ сбавить темп, не проиграв конкурентам — а возможно, даже закрепить свое преимущество, подтверждает Рогойски.

Действительно, для повседневных задач, с которыми модели превосходно справляются, нет необходимости в дальнейшем масштабировании, и технологические гиганты хотели бы сбавить обороты и начать повышать эффективность, сокращать издержки и наращивать выручку.

«Неужели нужно потратить триллион долларов, чтобы ИИ сделал презентацию в PowerPoint получше или разослал маркетинговые письма? Это действительно не сходится, и через 10 лет мы оглянемся назад и скажем: „О чем мы только думали?“» — говорит ученый.

По его мнению, риск разработки сверхразумного ИИ невелик, но все же реален — и потому требует серьезного отношения. Появится модель настолько продвинутая, что станет угрозой, скоро или через десятилетия — готовиться к этому лучше заранее.

Проблема в том, что у нас нет четкого понимания, что такое сознание, да и не факт, что сверхразум ИИ будет похож на разум человеческий. Поэтому заметить такой интеллект трудно, а предсказать его мотивы — еще труднее.

Кроме того, обретение ИИ сознания поднимает этический вопрос. «Если мы строим машину, которая, как нам кажется, будет разумной, нужно понимать, какими правами она должна обладать. Означает ли это, что у меня просто будет выключатель, которым я, когда мне станет скучно или я почувствую угрозу, смогу ее убить? Это не выглядит особенно справедливым и не обязательно полезным, потому что машины, чувствующие угрозу со стороны человечества, могут вести себя иначе. Это само по себе может стать проблемой — не предоставить ей права», — заключил Рогойски.

ИИ может стать следующим в эволюции после нас, допустили биологи

Эволюция человека не успевает за развитием ИИ, считают ученые

Сэм Альтман допустил появление ИИ человеческого уровня в 2026 году

Подписывайтесь и читайте «Науку» в MAX