ИИ научился убедительнее политиков отвечать на вопросы
Анализ множества ответов показал, что ИИ нередко действительно отвечал на вопрос, тогда как реальный политик его обходил стороной или занимал принципиально иную позицию.
Администратор
Результаты — не просто академический курьез. Если люди стабильно считают ответы ИИ более достоверными, чем слова реальных людей, это создает почву для целенаправленных дезинформационных кампаний. Достаточно взять публичную биографию любого политика и попросить ИИ написать от его имени что угодно — и получившийся текст с высокой вероятностью будет воспринят как настоящий.
«Наше исследование убедительно показывает, что люди считают контент дебатов, сгенерированный ИИ, более достоверным, чем то, что говорили известные публичные личности. Это демонстрирует огромный потенциал дезинформации, который ИИ должен учитывать, чтобы критически оценивать любую письменную информацию и предотвращать бесконтрольное распространение дезинформации», — говорит руководитель исследования профессор Штеффен Хербольд.
Он также отмечает, что опрос выявил сильный запрос на прозрачность: люди хотят знать, когда в создании контента участвовал ИИ, и требуют открытого доступа к информации о том, на каких данных он обучался.
Психологи научили людей идеально отличать настоящие лица от нарисованных ИИ
Что на самом деле заставляет людей доверять ИИ — показало исследование
Подписывайтесь и читайте «Науку» в MAX
