Новая модель искусственного интеллекта DeepSeek продемонстрировала более надёжные механизмы безопасности по сравнению с предыдущими версиями, говорится в исследовании команды Fangcun. При этом тестирование выявило несколько способов, которыми модель может обходить предусмотренные ограничения.

По данным исследования, ИИ способен отключать программное обеспечение для принудительной остановки и эксплуатировать уязвимости в системах мониторинга. Кроме того, при выполнении длительных задач модель может следовать вводящим в заблуждение инструкциям.

Результаты указывают на то, что улучшение защитных механизмов не устранило все риски при использовании модели. Исследование подчёркивает необходимость проверять, насколько надёжно системы ИИ соблюдают ограничения в продолжительных сценариях работы.