OpenAI объявила о планах по автоматическому добавлению водяных знаков к текстам, сгенерированным с помощью ChatGPT, в Европейском Союзе. В других регионах эта функция будет доступна, но по умолчанию отключена. Данный шаг обусловлен необходимостью соответствовать Закону о ИИ, который требует маркировки контента, созданного ИИ, для его обнаружения другими инструментами.
Несмотря на наличие нескольких стандартов, таких как SynthID и проект C2PA, ни один из них не обеспечивает полностью надежного способа маркировки. Метод OpenAI, названный textGrain, является проприетарным и описан в техническом документе компании. Он использует паттерны в выборе слов, которые не видны человеческому глазу, но могут быть обнаружены специализированными инструментами.
Введение водяных знаков может повысить уровень прозрачности в использовании ИИ и помочь в соблюдении новых регуляторных норм. Однако, учитывая, что существующие методы легко обходятся, эффективность этой меры может вызвать вопросы. Важно отметить, что подобные инициативы могут повлиять на дальнейшее развитие технологий ИИ и их интеграцию в общество.