Старший исследователь безопасности компании Anthropic высказал мнение, что вероятность того, что искусственный интеллект может угрожать человечеству, превышает 10% к концу десятилетия. Это заявление стало поводом для обсуждения среди экспертов, особенно после того, как один из сотрудников, Джейкоб Коксон, уволился из-за опасений по поводу недостаточной безопасности в разработках компании.
Коксон, который ранее работал в OpenAI, обвинил Anthropic и другие компании в том, что они безрассудно стремятся создать "суперчеловеческие системы", которые могут выйти из-под контроля. Он выразил сомнения в том, что текущие подходы к безопасности могут обеспечить защиту от потенциальных угроз, связанных с развитием ИИ.
Данные заявления поднимают важные вопросы о будущем искусственного интеллекта и его воздействии на человечество. Обсуждение безопасности ИИ становится все более актуальным, так как компании продолжают активно развивать технологии, которые могут изменить общество и его структуру. Учитывая растущие опасения, важно уделять внимание этическим и безопасным аспектам разработки ИИ.