OpenAI начала добавлять невидимый водяной знак к тексту, созданному ChatGPT и Codex, в Европейском Союзе. Эта инициатива отвечает требованиям нового регламента ЕС по искусственному интеллекту, который требует наличия машинно-читаемых меток на текстах, сгенерированных ИИ. Однако тесты компании показывают, что замена четверти слов синонимами снижает вероятность обнаружения до 17%.
Система, известная как textGrain, направляет выбор слов модели так, чтобы оставить скрытый статистический паттерн. Отдельный детектор будет сканировать тексты на наличие этого паттерна. Несмотря на это, OpenAI признает, что текущая технология водяных знаков еще далека от совершенства, и поэтому детектор не будет доступен для широкой публики в ближайшее время.
Эта разработка имеет важное значение в контексте растущего регулирования искусственного интеллекта в Европе. Успех внедрения водяного знака может повлиять на доверие к ИИ-технологиям и их использование в различных сферах, включая образование и медиа, а также на дальнейшие шаги других компаний в этой области.