OpenAI и Anthropic в этом году близко подошли к заключению сделки, которая позволила бы каждой компании тестировать модели искусственного интеллекта другой стороны на наличие уязвимостей и скрытых рисков. По данным The Information, обе компании обсуждали условия, при которых каждая из них получила бы доступ к коммерческим моделям другой стороны для проведения собственных тестов.
В рамках предполагаемого соглашения обе компании могли бы проводить тесты на уязвимости, но при этом им было бы запрещено сохранять данные другой стороны. Неясно, были ли переговоры завершены до того, как OpenAI столкнулась с инцидентами, которые могли повлиять на их планы.
Значимость данного соглашения заключается в том, что оно могло бы повысить уровень безопасности и надежности моделей ИИ, что является важным аспектом в условиях растущего внимания к вопросам этики и безопасности в области искусственного интеллекта. Возможное сотрудничество между такими крупными игроками, как OpenAI и Anthropic, может также повлиять на дальнейшее развитие технологий и их внедрение на рынок.