«Водяные знаки» в ИИ-контенте признаны бесполезными

Другие эксперты опасаются ложных срабатываний — когда текст ошибочно принимают за продукт ИИ или потому, что модель сыграла хотя бы второстепенную роль в его создании.

Психолог Питер Скарф из Редингского университета рассказывает, что ему не раз предлагали продукты для выявления плагиата в работах студентов (правда, на основе иных методов, а не водяных знаков), и все они мелким шрифтом предупреждали, что не должны использоваться для окончательных доказательств или наказаний, поскольку могут ошибаться.

«Если система утверждает, что текст с вероятностью 67,8% сгенерирован ИИ — мне, как преподавателю, что с этим делать? Я не совсем понимаю. Эти системы работают не идеально, и потому их практическая ценность ограничена», — говорит Скарф.

По его мнению, студент может столкнуться в неприятной ситуации, даже если он лишь попросил модель проверить его собственноручно написанную работу на грамматические ошибки перед сдачей.

«Эти технологии появились так стремительно и развиваются настолько быстро, что мы все оказались в положении догоняющих. Но я не думаю, что водяные знаки — это панацея. Вряд ли они внезапно решат те проблемы, на которые, возможно, рассчитывают в Евросоюзе», — резюмирует преподаватель.

Тем не менее, возможно, водяные знаки создадут хотя бы некоторое препятствие, которое затормозит наиболее злонамеренное использование ИИ — например, массовое создание постов в соцсетях для распространения лжи, надеется специалист по кибербезопасности Эрман Айдей из Университета Кейс Вестерн Резерв.

«Любой может подделать водяной знак. Но если придется тратить на это силы и время — может, проще срезу сгенерировать контент самостоятельно, верно?» — рассуждает он.

Разработчикам дали время на переходный период. К 2 декабря требованию о внедрении водяных знаков в тексты должны соответствовать все модели.

ИИ подталкивает людей к обману и мошенничеству — показало исследование

ChatGPT не смог сойти за человека: анализ раскрыл стилистические различия

ИИ впервые превзошел человека в классическом тесте Тьюринга

Подписывайтесь и читайте «Науку» в MAX