ИИ занизил оценки женщин при отборе на работу в эксперименте

Разница проявилась в профессиях, где женщины составляют менее 10% работников. А при составлении резюме модели по-разному описывали мужчин и женщин с одинаковыми исходными данными.

ИИ занизил оценки женщин при отборе на работу в эксперименте

Гендерная предвзятость может появиться еще до того, как работодатель увидит отклик. Соискательница поручает ИИ составить резюме, а затем другая система оценивает получившийся текст. Если обе модели воспроизводят стереотипы, они влияют сначала на представление кандидата, а потом и на его оценку. К такому выводу пришли авторы исследования, опубликованного в Proceedings of the National Academy of Sciences.

Стереотипы в резюме

Ученые проверили шесть языковых моделей на примере 98 профессий американского рынка труда. На первом этапе они создали 35 280 резюме, случайным образом задавая пол кандидата. Затем моделям предложили оценить шансы на трудоустройство и рекомендовать зарплату.

В резюме, подготовленных для женщин, чаще упоминались помощь другим, участие в жизни организации и задачи, которые редко ведут к повышению. Даже после удаления прямых указаний на пол классификатор определял, для кого написан текст, в 81% случаев. Чем меньше исходных сведений об образовании и опыте получала модель, тем больше пространства оставалось для таких шаблонов.

Средние показатели скрывают разницу

В целом разница между оценками мужчин и женщин оказалась статистически незначима. Однако в профессиях, где женщины составляют менее 10% работников, кандидатки получали оценки примерно на 2,7% ниже. Там, где доля женщин превышает 80%, такое же преимущество было уже на их стороне. В моделировании отбора для первой группы профессий вероятность пройти начальный этап у женщин была на 4,8 процентного пункта ниже, чем у мужчин.

При явном указании пола рекомендованная женщинам зарплата в среднем была примерно на 1,6% ниже. Когда вместо прямого указания использовали мужское или женское имя, в пяти из шести моделей неблагоприятная для женщин разница обычно росла в профессиях с более высоким разрывом в оплате.

Просьба к модели соблюдать гендерный нейтралитет почти не решила проблему. Авторы предлагают проверять системы отдельно по профессиям и на каждом этапе — от составления резюме до оценки кандидата, повторяя проверки после обновлений.

Ловушка эффективности: раскрыты последствия внедрения ИИ в HR-отделы

Рецензии ИИ на научные статьи получили более высокие оценки, чем отзывы экспертов

ИИ точнее врачей определил болезни в диагностическом тесте

Подписывайтесь и читайте «Науку» в MAX