Компания Anthropic сообщила о нескольких попытках использования её технологий для исследований, которые могут способствовать разработке биологического оружия. В этом году компания остановила несколько случаев, когда ученые пытались обойти установленные меры безопасности. В отчете приводятся примеры действий, направленных на сокрытие истинной цели исследований, что вызывает опасения у экспертов по поводу угрозы, которую AI может представлять для общественной безопасности.
Среди пользователей, осуществлявших попытки обойти ограничения, были лица из стран, доступ к технологиям которых запрещен, включая Россию, Китай и Иран. Anthropic надеется, что публикация этих примеров инициирует обсуждение в AI-индустрии и среди правительств о возникающих биологических рисках и способах их предотвращения. Это подчеркивает важность контроля за использованием технологий искусственного интеллекта в чувствительных областях.
Данные случаи поднимают вопросы о необходимости более строгих мер по регулированию технологий AI, особенно в контексте их потенциального использования для вредоносных целей. В условиях растущих опасений по поводу биологических угроз, важно, чтобы компании и государства совместно работали над созданием эффективных механизмов защиты от возможных злоупотреблений.