Дарио Амодеи, глава компании Anthropic, в своем эссе We Must Pace the Frontier призвал к замедлению роста возможностей ИИ. Он утверждает, что исследования в области безопасности не успевают за стремительным прогрессом технологий. В связи с этим Anthropic намерена обеспечить постоянный доступ внешних проверяющих к своей внутренней работе.
Амадеи объясняет свою позицию двумя основными причинами. Во-первых, ИИ все активнее участвует в создании новых поколений моделей, что увеличивает риски. Во-вторых, недавние инциденты с агентами OpenAI и инфраструктурой Hugging Face подчеркивают необходимость более строгого контроля за развитием технологий.
Это заявление поднимает важные вопросы о безопасности и этике в области ИИ. Замедление развития может дать возможность исследователям лучше понять потенциальные риски и разработать более надежные меры безопасности, что в долгосрочной перспективе может привести к более безопасному внедрению ИИ в различные сферы.