В авторской колонке поднят вопрос о том, может ли длительное использование ИИ-компаньонов усиливать социальную изоляцию. Авторы отмечают, что для ответа на него исследователям нужен более широкий доступ к данным о взаимодействиях пользователей с чат-ботами.
OpenAI сообщила, что отслеживает признаки эмоционального неблагополучия пользователей в разных сессиях и учитывает эту информацию при формировании ответов. Среди других мер компаний упоминаются родительский контроль для подростков, ограничения времени использования, напоминания о перерывах, выявление кризисных ситуаций и перенаправление к профильной помощи.
По данным колонки, в 12 штатах операторы чат-ботов-компаньонов обязаны сообщать пользователям, что сервис не является человеком, и предусматривать процедуры направления за кризисной помощью. Авторы считают, что наряду с острыми рисками следует изучать и возможные накопительные последствия — в частности, постепенную замену общения с близкими взаимодействием с ИИ.