У разработчиков ИИ резко выросла потребность в найме философов

Разработка систем искусственного интеллекта все чаще требует глубокого участия дипломированных философов. New Scientist попросил специалистов оценить очередной вызванный ИИ тектонический сдвиг на рынке труда.

ИИ-компании стали главными работодателями для философов, подтверждает профессор Джонатан Бёрч из Лондонской школы экономики и политических наук. Они предлагают интересную работу, высокие зарплаты и опционы на акции — и устоять перед этим искушением удается немногим.

«Темы, которые десятилетиями изучались на философских кафедрах — как принимать рациональные решения, как систематизировать нравственные принципы, что считать мышлением, рассуждением или самоанализом, что служит доказательством наличия сознания — внезапно обрели колоссальную ценность для разработчиков ИИ. Так что массовая утечка мозгов в отрасль вполне закономерна», — считает философ Бёрч.

Одна из главных задач для философов в ИИ — блокировка выдачи вредоносной информации типа инструкций по изготовлению бомб, то, что специалисты называют выравниванием. Поначалу контроль сводился к простой цензуре, но запретительные методы оказались неэффективными — они ухудшают качество ответов, легко обходятся, а если разрешить модели нарушать правило в одной тематике, она, как оказалось, перестает соблюдать ограничения и в других.

«Наиболее правдоподобное объяснение состоит в том, что в глубине текстового массива, на котором обучалась модель, существует смысловая связь, объединяющая “хорошие” и “плохие” паттерны. И как только вы разрешаете ей сделать нечто “плохое”, она улавливает эту связь, экстраполирует ее и начинает выдавать другие нежелательные вещи. С точки зрения этики, наша работа во многом заключается в том, чтобы определить очертания и границы таких понятий, как правильное и неправильное, добро и зло, и выяснить, что именно под них подпадает — в повседневном словоупотреблении или концептуально. Похоже, именно такой анализ и проводит большая языковая модель», — объясняет старший преподаватель философии Шейн Глакин из Эксетерского университета.

Среди других задач философов в ИИ — борьба с галлюцинациями, повышение общей эффективности и устранение встроенных предубеждений. Кроме того, они применяют теории человеческого сознания к LLM, пытаясь ответить на извечный вопрос: проявляют ли они признаки разумности?

«Что делают сознание и мозг, что можно воспроизвести? Для ИИ это огромная проблема. Для компаний это крайне важный вопрос, а философы размышляют над ним уже очень и очень давно», — отмечает Глакин.

У философии и информатики долгая общая история — к примеру, Алан Тьюринг впервые описал свой знаменитый тест в философском журнале Mind, напоминает Махрад Альмотахари, который преподает философию сознания и языка в Эдинбургском университете.

Аарон Каган, председатель комитета по неакадемической карьере Американской философской ассоциации, изучил вакансии, которые предлагают философам технологические компании.

«Простой подсчет по ключевым словам показывает, что 26,6% должностей упоминают этику ИИ, безопасность, выравнивание, управление или политику, но если убрать шаблонные формулировки, то реально этой работой заняты лишь около 5%», — уточняет он.

Альмотахари не уверен, что философы смогут дать ответ на самые сложные вопросы о машинном сознании. Но они вполне могут помочь инженерам разобраться в том, что на самом деле происходит внутри моделей.

«Там происходит масса математических вычислений — можно ли извлечь из них описание более высокого уровня, например, что эта часть модели отражает такое-то свойство мира, а эта — другое? Думаю, философы как раз хорошо подготовлены к тому, чтобы перейти от технического описания к описанию репрезентационному», — полагает он.

Развитие ИИ ускорит, в том числе и благодаря финансовым вливаниям, поиск ответов на важнейшие философские вопросы, надеется Бёрч.

«Жаль, что мы не продвинулись дальше в решении больших философских вопросов — о сознании, субъектности, морали — до появления ИИ. Если бы мы это сделали, мы были бы лучше подготовлены. Сейчас ИИ придал этим вопросам колоссальную срочность, но ответы, увы, по-прежнему далеки», — заключил философ Бёрч.

Мы можем не заметить, когда ИИ обретет сознание, предупредил философ

Ученые предупредили о скором появлении ИИ, способного к дарвиновской эволюции

ИИ может стать следующим в эволюции после нас, допустили биологи

Подписывайтесь и читайте «Науку» в MAX