На саммите в Дамфрис-Хаусе король Чарльз III выразил опасения по поводу потенциальных угроз, связанных с искусственным интеллектом. Он призвал представителей крупных компаний, таких как OpenAI, Anthropic, Google DeepMind и Nvidia, обеспечить достаточные меры контроля, прежде чем станет слишком поздно. Это заявление отражает растущее беспокойство общественности и правительств по поводу скорости развития технологий AI.
В последние недели давление на индустрию усилилось, с призывами к замедлению темпов разработки и введению более строгого регулирования. Генеральный секретарь ООН Антониу Гутерриш также поднимал вопрос о необходимости глобальной координации в области AI. В США законодатели начали обсуждение вопросов федерального контроля после резонансной отставки Джейкоба Коксона из Anthropic, что еще больше подчеркивает актуальность данной проблемы.
Значимость этих обсуждений заключается в том, что они могут привести к созданию новых стандартов и норм в области искусственного интеллекта. Внутри самих компаний, занимающихся разработкой AI, также наблюдается рост призывов к осторожности. Например, CEO Anthropic Дарио Амодеи опубликовал эссе, в котором призвал к замедлению темпов разработки, что нашло поддержку среди других лидеров отрасли, таких как Сэм Альтман из OpenAI и Илон Маск из xAI.