Виталик Бутерин поддержал решение Moonshot AI ограничить возможности модели Kimi K3.1 Pro в сфере наступательной киберактивности. В публикации от 26 октября он заявил, что предпочтительнее ограничивать действия модели, а не круг людей, которые могут ею пользоваться. Бутерин также предупредил, что неудачи в обеспечении безопасности ИИ могут привести к обязательной проверке личности и усилению наблюдения.

По данным внутренних тестов Moonshot AI, фильтрованная модель справилась с 81% задач на эксплуатацию уязвимостей, тогда как версия без фильтров — с 90,5%. Компания не предоставила независимого подтверждения этих результатов. Открытые веса модели планируется выпустить до 4 ноября.

Бутерин считает, что ограничения дадут время укрепить цифровые системы, проверить старое программное обеспечение и применять формальную верификацию к новому коду. Эта позиция касается более широкого вопроса о том, как снижать риски использования ИИ для кибератак, не вводя ограничений на доступ пользователей к моделям.