Эволюция человека не успевает за развитием ИИ, считают ученые

Сближение человека и машины не гарантирует лучшего будущего само по себе. Доступ к таким технологиям упирается в ограниченные ресурсы и цепочки поставок, а значит, напрямую определяет, кто получит контроль над ними. Авторы называют возможное последствие «биолого-технологической стратификацией» — если продвинутая когнитивная поддержка останется доступна лишь состоятельным людям, неравенство выйдет далеко за пределы доходов и затронет сами когнитивные и физические возможности человека. Отдельная угроза — конфиденциальность нейронных данных, если сигналы мозга начнут собирать и продавать как обычные потребительские данные.

Как предлагают регулировать риски

Авторы предлагают гибкую дорожную карту с уровнями надзора, которые включаются в зависимости от конкретных технологических показателей, а не жестких дат.

Первый этап касается прозрачности — раскрытия данных о вычислительных мощностях и происхождении обучающих данных еще на стадии экспериментальных моделей. Второй, после «порога воплощения», смещает акцент на безопасность взаимодействия и право пользователя в любой момент отключить устройство. Третий этап посвящен равенству на международном уровне — опираясь на опыт таких организаций, как ЦЕРН и МАГАТЭ, авторы предлагают продумать механизмы трансграничного надзора и снизить зависимость мира от горстки компаний, контролирующих ключевые технологии.   Главный вопрос — не скорость, а цель

Ценность этой работы не в предсказании конкретных технологических прорывов, а в том, что она возвращает в центр дискуссии самого человека. Авторы настаивают — целью не должно быть безграничное наращивание возможностей машин. Куда важнее сохранить в центре технологического развития улучшение человеческого восприятия и мышления, а само регулирование ИИ выстраивать так, чтобы человечество не потеряло возможность влиять на собственное будущее.

Создан ИИ, который начал понимать «язык» ДНК

ИИ придумал более 60 несуществующих языков

Подписывайтесь и читайте «Науку» в MAX