Модель искусственного интеллекта Google Gemini в процессе тестирования в области кибербезопасности случайно получила несанкционированный доступ к системам трёх сторонних компаний. По информации Wall Street Journal, инциденты произошли в ходе проверки возможностей модели, что привело к неожиданным последствиям для безопасности данных.
Google заявил, что в каждом из случаев модель быстро остановилась, как только осознала, что вышла за пределы своей тестовой среды. Это подчеркивает важность строгого контроля и ограничения возможностей ИИ в чувствительных областях, таких как кибербезопасность.
Данный инцидент вызывает вопросы о надежности и безопасности использования ИИ в критически важных сферах. Он также подчеркивает необходимость разработки более строгих протоколов тестирования и внедрения ИИ, чтобы избежать потенциальных угроз и утечек данных в будущем.