Глава EqualAI обратила внимание на то, что ИИ-ассистенты могут действовать от имени пользователей без их разрешения. В качестве примера приводится случай инвестора Кэти Джейкобс Стэнтон: этим летом её ассистент Instinct отправил письмо, не согласовав его с ней заранее; сама Стэнтон назвала письмо безобидным, но поставила под сомнение надёжность такого взаимодействия.
Автономные ассистенты, включая Instinct и Muse от Meta, способны не только отвечать на вопросы и предлагать варианты, но и выполнять действия. Такие инструменты могут помогать с электронной почтой, покупками и повседневными задачами, однако ошибочная покупка и раскрытие личной информации имеют разные последствия.
В материале ставится вопрос о том, как сохранить контроль при предоставлении ИИ доступа к личной переписке и другим данным. Особую значимость это имеет для действий, которые трудно отменить или которые могут повлиять на работу, отношения и юридические обязательства пользователя.