Детекторы искусственного интеллекта, разработанные для определения синтетически сгенерированного контента, не способны решить проблемы, для которых они были созданы. В частности, автор статьи делится личным опытом, когда он начал удалять эм-дэш из своих текстов, чтобы избежать подозрений в использовании ИИ. Это связано с тем, что такие знаки препинания стали ассоциироваться с автоматическим генерированием текста.
Согласно анализу, проведенному компанией Graphite, синтетически созданные статьи, посты в социальных сетях и электронные письма становятся все более распространенными. Это вызывает недоверие у читателей, которые могут сомневаться в оригинальности контента, даже если он был написан человеком. В результате, использование детекторов ИИ для выявления таких текстов становится все более сложной задачей.
Эта проблема важна, поскольку она затрагивает вопросы доверия к информации в цифровую эпоху. Если детекторы ИИ не смогут эффективно выполнять свою работу, это может привести к дальнейшему распространению дезинформации и снижению качества контента в интернете. В условиях, когда пользователи становятся все более осторожными, необходимо искать новые подходы к решению этой проблемы.