Министр по искусственному интеллекту Великобритании Кани́шка Нараян заявил о необходимости "укрепить и построить защиту" от рисков, связанных с искусственным интеллектом. Это заявление прозвучало после предупреждений бывшего сотрудника компании Anthropic, который утверждал, что существует вероятность события, способного привести к вымиранию человечества в течение следующего десятилетия.
Нараян отметил, что необходимо серьезно воспринимать такие предупреждения, особенно когда они исходят от специалистов, работающих в области ИИ. В поддержку этих опасений высказался также ученый компании Anthropic Эван Хубингер, который оценил риск как превышающий 10%. Эти мнения подчеркивают растущую озабоченность по поводу потенциальных последствий ИИ в случае его неправильного использования.
Важность данного заявления заключается в том, что оно поднимает вопросы о безопасности и этике разработки ИИ. Билл Гейтс также выразил мнение, что в неправильных руках ИИ может стать причиной массовых катастроф. В условиях быстрого развития технологий, необходимость в защите от возможных угроз становится все более актуальной.