Сооснователь Ethereum Vitalik Buterin поддержал решение китайской компании Moonshot AI ограничить кибервозможности новой модели Kimi K3.1 Pro. Он заявил, что ограничивать возможности ИИ предпочтительнее, чем ограничивать круг пользователей.

Moonshot сообщила, что модель с фильтрами справилась с 81% заданий внутреннего теста на эксплуатацию уязвимостей. Неотфильтрованная версия показала результат 90,5%. Компания планирует открыть веса модели до 4 ноября.

Подход Moonshot предполагает снижение риска злоупотреблений за счёт ограничения возможностей самой модели, а не проверки пользователей. При этом приведённые показатели относятся к внутреннему тесту компании и показывают разницу в результатах двух версий.