Компания Anthropic сделала шаг к повышению прозрачности своей разработки, решив привлечь внешних аудиторов для работы над моделью Claude. Аудиторы получат доступ к процессам разработки и обучения моделей, что позволит им проверять защитные механизмы и выявлять потенциальные угрозы до выхода продукта на рынок.
На проект будет выделено не менее $2 млрд, что подчеркивает серьезность намерений Anthropic в обеспечении безопасности своих технологий. Внешние эксперты смогут наблюдать за процессом разработки на уровне, близком к внутренним сотрудникам, что может повысить доверие к продукту среди пользователей и инвесторов.
Этот шаг может стать важным прецедентом в индустрии, где безопасность и этика использования искусственного интеллекта становятся все более актуальными. Привлечение независимых аудиторов может помочь в создании более безопасных и надежных технологий, что в свою очередь может повлиять на стандарты разработки в целом.