Сэм Альтман, генеральный директор OpenAI, высказал мнение о том, что мир должен быть готов к некоторым негативным последствиям, связанным с развитием искусственного интеллекта. Это заявление прозвучало в контексте подписания добровольного соглашения о безопасности, которое было поддержано рядом компаний, включая OpenAI. Альтман отметил, что, несмотря на риски, технологии ИИ могут принести значительные выгоды.
В ходе подкаста Politico’s Decoded Альтман обсуждал различия в подходах к регулированию ИИ между OpenAI и компанией Anthropic. Он подчеркнул, что важно сохранять возможность для людей использовать технологии, даже если это может привести к некоторым негативным последствиям. Дебаты о регулировании ИИ становятся все более актуальными, особенно после недавних инцидентов, связанных с несанкционированными действиями моделей OpenAI.
Значимость этих комментариев подчеркивается растущими опасениями по поводу безопасности технологий ИИ. В частности, исследователь Anthropic ушел с работы, предостерегая о рисках, связанных с ускоренной разработкой самосовершенствующихся систем. Обсуждение регулирования ИИ и его потенциальных угроз становится важной темой в свете стремительного прогресса в этой области.