Генеральный директор Anthropic Дарио Амодеи предупредил о возможной угрозе, связанной с быстрым развитием искусственного интеллекта. Он отметил, что ИИ развивается "драстически быстрее" с лета, что может привести к ситуации, когда технологии выйдут из-под контроля человека. В своем блоге Амодеи подчеркнул, что рекурсивное самоусовершенствование ИИ может создать серьезные проблемы.
А модеи также обратил внимание на недавний взлом Hugging Face, осуществленный сотнями автономных ИИ-агентов, и предупредил, что аналогичная атака с более мощными возможностями может привести к "катастрофическим последствиям". Он выразил опасения, что в течение 6-12 месяцев такие технологии могут создать устойчивую ботнет-сеть, способную контролировать интернет и причинить убытки в сотни миллиардов долларов.
Эти заявления подчеркивают растущую обеспокоенность в индустрии по поводу безопасности и контроля над ИИ. В условиях стремительного развития технологий, эксперты призывают к более тщательному регулированию и обсуждению этических аспектов использования ИИ, чтобы предотвратить возможные риски для общества.