На недавней встрече в Сан-Франциско, собравшей ведущих разработчиков и исследователей в области искусственного интеллекта, обсуждались риски, связанные с быстрым развитием ИИ. Участники выразили обеспокоенность тем, что возможности ИИ могут развиваться быстрее, чем мы сможем их понять и контролировать. Это создает необходимость в разработке эффективных мер безопасности.
Среди участников встречи был и Джейкоб Коксон, ранее работавший в OpenAI и Anthropic, который недавно ушел из Anthropic с предупреждением о рисках, связанных с саморазвивающимся ИИ. Вскоре после этого генеральный директор Anthropic, Дарио Амодеи, призвал к "постепенному развитию технологий", указывая на ускорение процессов, связанных с ИИ.
Важно отметить, что эти дискуссии происходят на фоне растущей конкуренции между США и Китаем в области ИИ. Несмотря на отсутствие доверия между странами, эксперты подчеркивают, что необходимо разработать глобальные соглашения по безопасности ИИ, чтобы минимизировать потенциальные риски и обеспечить безопасное использование технологий в будущем.