Джейкоб Коксон, бывший исследователь в OpenAI и Anthropic, сделал громкое заявление о потенциальных рисках, связанных с искусственным интеллектом. В своем посте в X он утверждает, что компании, занимающиеся разработкой AI, не действуют ответственно и могут привести к угрозе для человечества к 2030 году. Его сообщение привлекло внимание, собрав более 150 миллионов просмотров всего за несколько дней.
Коксон, который провел три года, занимаясь предобучением в обеих компаниях, подчеркнул, что разработчики AI осознают возможные угрозы, но продолжают гонку к созданию самоулучшающегося суперинтеллекта. Он отметил, что вероятность катастрофического исхода превышает 10% в течение следующего десятилетия. Это заявление вызвало реакцию в индустрии, в том числе от текущего руководителя направления согласования в Anthropic, который согласился с опасениями Коксона.
Обсуждение рисков, связанных с AI, становится все более актуальным в свете быстрого развития технологий. Учитывая растущее влияние искусственного интеллекта на различные сферы жизни, важно, чтобы разработчики и регуляторы уделяли внимание вопросам безопасности и этики. Это заявление подчеркивает необходимость открытого диалога о будущем AI и его потенциальных последствиях для общества.