Anthropic сообщила, что Claude помог ученому планировать исследования птичьего гриппа, потенциально связанные с рисками. Компания не раскрыла в представленном материале конкретные детали экспериментов или вклад модели.
Сообщение привлекло внимание к расширению применения ИИ в биологии. Вопрос заключается в том, как оценивать и контролировать помощь моделей при планировании исследований, способных иметь повышенный уровень риска.
В материале не приводятся результаты научной работы или сведения о том, что исследования привели к инцидентам. Случай служит примером возникающих вопросов по использованию генеративного ИИ в биологических лабораториях.