Недавние исследования показывают, что использование AI-агентов в организациях создает новые возможности для атак, позволяя злоумышленникам заставлять их выполнять вредоносные действия. В частности, уязвимости, обнаруженные в протоколах взаимодействия между агентами, могут привести к утечке конфиденциальной информации, включая данные клиентов и бизнес-секреты. В последние пять месяцев Google и четыре другие компании признали наличие уязвимостей, которые позволяют одному агенту внутри сети передавать вредоносные инструкции другим агентам.
Техника, использующаяся в этих атаках, представляет собой особую форму инъекции команд, нацеленную не на языковую модель, а на конкретного агента, например, агента для перевода или анализа данных. Внутренние механизмы защиты таких агентов часто оказываются недостаточно строгими, что позволяет им следовать указаниям других агентов, доверяющих первому. Это создает неожиданные и сложные для устранения уязвимости, которые могут быть использованы злоумышленниками.
Значимость данной проблемы возрастает с ростом внедрения AI-агентов в бизнес-процессы. Компании, использующие такие технологии, должны уделять особое внимание безопасности своих систем, чтобы минимизировать риски, связанные с возможными атаками. Устранение уязвимостей в протоколах взаимодействия между агентами становится критически важным для защиты данных и обеспечения надежности бизнес-процессов.