Компания Anthropic, занимающаяся разработкой технологий искусственного интеллекта, представила свое предложение по IPO, в котором акцентировала внимание на возможных рисках для человечества. В документе S-1, переданном ограниченному числу партнеров, почти треть текста посвящена описанию экзистенциальных угроз, связанных с развитием AI, таких как манипуляции и шантаж со стороны продвинутых моделей.
Кроме того, в документе упоминаются более приземленные риски, включая высокую концентрацию клиентской базы. Около четверти доходов компании за прошлый год пришлась на всего двух клиентов, что может создать уязвимость в бизнес-модели. Это подчеркивает необходимость диверсификации и управления рисками для устойчивого роста.
Важно отметить, что предупреждения о рисках, связанных с AI, становятся все более актуальными в свете быстрого развития технологий. Инвесторы и регуляторы начинают осознавать потенциальные угрозы, что может повлиять на будущее регулирование и внедрение искусственного интеллекта в различных отраслях.