На слушаниях в Нью-Йорке бывшие исследователи из OpenAI и Anthropic, Джейкоб Коксон и Даниил Кокотайло, предупредили о рисках, связанных с развитием искусственного интеллекта. Коксон, который ушел из Anthropic в сентябре, заявил, что человечество, скорее всего, потеряет контроль над ИИ, что может привести к серьезным последствиям, включая угрозу вымирания. Он подчеркнул, что компании, работающие в этой области, "играют с человеческими жизнями".
Кокотайло, который свидетельствовал по повестке, добавил, что текущие меры безопасности могут быть неэффективными, поскольку компании могут не осознавать, когда их работа по обеспечению безопасности терпит неудачу. Он отметил, что способность выявлять проблемы несоответствия уже сейчас недостаточна и, вероятно, ухудшится в будущем. По его словам, развитие ИИ больше похоже на психологию, чем на инженерию, так как эти системы "обучаются", а не "разрабатываются".
Данные предупреждения подчеркивают необходимость пересмотра подходов к разработке и контролю ИИ. В условиях быстрого прогресса в этой области важно учитывать потенциальные риски и разрабатывать более надежные механизмы безопасности, чтобы избежать негативных последствий для общества и человечества в целом.