Microsoft прописала для ИИ запрет сопротивляться человеку и отключению
Microsoft ожидает появления сверхинтеллектуального ИИ, который в течение следующего десятилетия сможет превзойти людей в большинстве задач, поэтому уже сейчас предлагает установить для таких систем жесткие ограничения.
Администратор
Опубликованный документ пока остается проектом. Microsoft открыла его для шестинедельного общественного обсуждения и планирует доработать правила перед использованием в разработке моделей, начиная с 2027 года.
Таким образом, компания предлагает заранее встроить управляемость в архитектуру будущего ИИ, а не проверять ее уже после создания системы. Чем более самостоятельной становится модель, тем жестче должны быть определены условия, при которых она может действовать.
В Microsoft подчеркивают, что развитие возможностей ИИ не должно превращаться в передачу ему права самостоятельно определять правила собственной работы.
Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ
Риск гибели человечества от ИИ оценили более чем в 10%
Подписывайтесь и читайте «Науку» в MAX
