В сфере искусственного интеллекта возникла серьезная проблема: эксперты выражают опасения о потенциальной угрозе, которую представляют развивающиеся технологии. На этой неделе бывший исследователь компаний Anthropic и OpenAI Джейкоб Коксон предупредил, что лаборатории, работающие над передовыми ИИ, рискуют создать саморазвивающийся суперинтеллект, что может угрожать жизни людей.
Коксон стал последним из многих специалистов, покинувших свои позиции и поднявших тревогу о направлении, в котором движется технология. Экономист Альберт О. Хиршман описывал выбор, стоящий перед людьми, которые считают, что институт движется в неверном направлении, как "уход" или "голос" — остаться и пытаться изменить ситуацию или уйти и говорить об этом открыто.
Эта дилемма поднимает важные вопросы о моральной ответственности исследователей и разработчиков. Чем дольше они остаются в системе, которую позже описывают как опасную, тем сложнее отделить принципиальное несогласие от ретроспективной критики. Обсуждение этих вопросов становится все более актуальным в свете быстрого развития технологий искусственного интеллекта.