Недавнее исследование в области искусственного интеллекта поднимает вопросы о возможности самосовершенствования ИИ без значительного человеческого вмешательства. Ученые выяснили, что ИИ-агенты не могут проводить открытые исследования, требующие креативности и суждений, что ставит под сомнение оптимистичные прогнозы о быстром прогрессе в этой области.
Исследование акцентирует внимание на том, что открытые исследования могут быть критически важными для достижения настоящих прорывов в самосовершенствовании ИИ. В то время как ИИ может улучшаться в узких задачах, без способности проводить свободные исследования он может не достичь более высоких уровней автономности и эффективности.
Эти результаты могут изменить восприятие возможностей ИИ в ближайшие годы. В условиях растущих ожиданий относительно самосовершенствования ИИ, понимание его ограничений и необходимых условий для прогресса становится особенно актуальным.