В последние недели внимание общественности привлекли предупреждения лидеров крупных компаний в сфере искусственного интеллекта о рисках, связанных с их разработками. Генеральный директор Anthropic Дарио Амодеи отметил, что ИИ может представлять серьезную угрозу, и призвал к замедлению темпов прогресса. Генеральный директор OpenAI Сэм Альтман согласился с этой точкой зрения, заявив, что необходимо соблюдать осторожность в развитии технологий.
Недавние заявления исследователя ИИ Джейкоба Коксона, который покинул Anthropic, также подчеркивают необходимость ответственного подхода к разработке ИИ. Он утверждает, что компании, занимающиеся ИИ, не действуют должным образом, и выражает опасения, что технологии могут привести к катастрофическим последствиям. Другие сотрудники Anthropic, такие как Эван Хубингер, поддерживают эту точку зрения, указывая на вероятность того, что ИИ может стать угрозой для человечества в ближайшие десять лет.
Эти опасения касаются не только этических вопросов, но и потенциальных угроз, связанных с созданием биологического оружия. Лидеры отрасли подчеркивают, что необходимо учитывать риски, связанные с использованием ИИ в биотехнологиях, чтобы предотвратить возможные катастрофы и обеспечить безопасность общества.