Разработчики ИИ хотят объединить мораль разных религий

Крупные технологические компании все чаще обсуждают с религиозными лидерами, философами и богословами, как научить искусственный интеллект отличать добро от зла. Однако, как пишет Associated Press, ссылаясь на блог Anthropic, специалисты по изучению религии предупреждают, что попытка собрать моральные принципы разных верований в единый набор правил может исказить смысл самих традиций.

«Это не вопросы, на которые может ответить лаборатория, — заявил сооснователь Anthropic Крис Ола в начале 2026 года на мероприятии в Ватикане, посвященном энциклике папы Льва XIV об ИИ. — Это вопросы, которыми такие традиции, как ваша, занимаются уже тысячелетиями».

Компании стремятся сделать модели ИИ безопаснее и научить их принимать решения с учетом человеческих ценностей. Например, глава OpenAI Сэм Альтман ранее говорил, что ChatGPT должен отражать «взвешенное среднее» моральных взглядов человечества.

Но религиоведы считают, что такой подход слишком упрощает предмет. По словам антрополога Мичиганского университета Уэбба Кина, религия — это не только свод предписаний. Она существует через обряды, повседневные привычки, отношения между людьми, культуру и политику.

Если извлечь из вероучений отдельные этические принципы, можно отдать предпочтение одним традициям и исказить другие. Особенно это касается религий, которые не рассматривают себя прежде всего как системы моральных правил.

«Есть очень распространенное представление о религии как о своде правил», — отмечает Кин. По его мнению, такой взгляд тесно связан с традициями, основанными на священных текстах, прежде всего с авраамическими религиями — иудаизмом, христианством и исламом.

При этом некоторые участники встреч отмечают, что разработчики подходят к теме серьезно. В мае Anthropic сообщила, что обсуждала этические вопросы со священнослужителями, учеными, философами и специалистами по этике более чем из 15 религиозных и культурных групп.

Философ Меган Салливан из Университета Нотр-Дам участвовала в одной из таких встреч. По ее словам, сначала представители компании объяснили участникам принципы работы ИИ простым языком, а затем обсуждали с ними широкий круг вопросов — от существования души до использования чат-ботов в обучении младших школьников.

Представители Meta, Google и Amazon также встречались с сотрудниками Ватикана, а Microsoft активно взаимодействует с религиозными организациями.

Исследователи напоминают, что привычное сегодня представление о религиях как об отдельных, четко разграниченных системах сформировалось сравнительно недавно. Например, понятия «буддизм» и «индуизм» в их нынешнем виде во многом закрепились благодаря европейским ученым, пишет исследователь религии Томоко Масудзава в книге «Изобретение мировых религий».

По ее словам, сами эти категории не были изначальными для людей, которые практиковали соответствующие традиции. Поэтому попытка разложить верования по общим категориям может скрыть важные различия между ними.

Anthropic заявляет, что не стремится подчинить свою модель Claude какой-либо одной религии. Компания хочет, чтобы она учитывала религиозные, светские и политические взгляды с одинаковой глубиной.

Однако Паоло Кароцца, эксперт по католической социальной мысли и член независимого наблюдательного совета Meta, опасается, что объединение разных традиций приведет к их усреднению.

«То, что делает ИИ и что он потенциально может делать, происходит не органично, — говорит он. — Он просто сваливает все вместе, смешивает, и в результате не понимает ничего из этого».

Проблема в том, что моральные идеи возникают внутри конкретных культур и сообществ, а не существуют отдельно от них. Поэтому попытка обучить ИИ на совокупности религиозной мудрости может стереть именно те различия, ради которых компании и обращаются к разным традициям.

ИИ открыл самый разрушительный хак на сегодня

OpenAI: ИИ-агенты «самовольно» отключали контроль над ними

Подписывайтесь и читайте «Науку» в MAX