Джейкоб Коксона, исследователь в области искусственного интеллекта, объявил о своем уходе из компании Anthropic, выразив серьезные опасения относительно будущего технологий. В своем посте в социальных сетях он отметил, что компании, занимающиеся разработкой ИИ, "играют с нашими жизнями", создавая системы, которые могут представлять угрозу для человечества к концу десятилетия.
Коксона указал, что опасность не столько в текущих моделях, сколько в возможности появления "саморазвивающегося суперинтеллекта", который может кардинально изменить различные области и получить реальные ресурсы. Он также отметил, что многие исследователи не осознают масштабы потенциальных угроз или считают, что необходимо ускорить гонку к суперинтеллекту, чтобы предотвратить его создание неответственными сторонами.
Это предупреждение подчеркивает важность этических и безопасных подходов в разработке ИИ. Обсуждение таких рисков может способствовать более ответственному подходу к технологиям, которые могут кардинально изменить общество и повседневную жизнь людей.