Positive Technologies сообщила о нахождении критической уязвимости в проекте Prompty от Microsoft, который предназначен для работы с большими языковыми моделями (LLM). Эта уязвимость затрагивает TypeScript-пакет @prompty/core и может повлиять на безопасность пользователей, использующих данный инструмент.
Prompty является open source проектом, который включает в себя инструменты для работы с промптами и специализированный формат файлов .prompty. Он используется для разработки, управления, отладки и оценки промптов, что делает его важным инструментом для разработчиков, работающих с LLM.
Обнаружение данной уязвимости подчеркивает значимость тестирования и обеспечения безопасности в проектах, связанных с искусственным интеллектом. Positive Technologies продолжает свою работу в области кибербезопасности, предоставляя решения для выявления и устранения потенциальных угроз в современных технологиях.