С развитием искусственного интеллекта (ИИ) становится все более реальной возможность, что модели смогут обучаться самостоятельно, что называется рекурсивным самоулучшением (RSI). Это открывает перспективы для значительных достижений в науке и медицине, однако также вызывает опасения по поводу контроля над такими системами. Профессор физики заявил, что полная автономия ИИ может стать "худшей идеей в истории человечества".
Разработчики ИИ, такие как компания Anthropic, уже применяют свои модели для создания более интеллектуальных версий самих себя. Модель Claude, например, участвует в 26% исследований и разработок компании, что позволяет ей эффективно выполнять большинство задач. Это подчеркивает, насколько близка реальность, когда ИИ сможет улучшать свои собственные алгоритмы.
Опасения по поводу автономного ИИ привели к тому, что несколько влиятельных фигур в области технологий призвали замедлить темпы развития этой технологии. Вопросы о том, как ИИ будет взаимодействовать с человечеством и какие риски он может представлять, становятся все более актуальными, что требует внимательного анализа и обсуждения в научных и бизнес-кругах.