В новом учебнике по безопасности искусственного интеллекта рассматривается использование NeMo Guardrails для создания надежных ИИ-систем. В частности, в руководстве описывается, как применять многоуровневые защитные механизмы для контроля финансового ассистента, основанного на языковых моделях. В процессе разработки используется детектирование и редактирование персонально идентифицируемой информации (PII), а также фильтрация входных и выходных данных.
Учебник включает в себя реализацию многоходовых взаимодействий, отслеживание активации защитных механизмов и учет токенов, что позволяет оценить безопасность ответов ассистента. Также предусмотрены инструменты для анализа затрат на вычисления, связанные с защитой, что важно для оценки эффективности системы. Эти аспекты помогают обеспечить безопасное взаимодействие пользователей с финансовыми услугами.
Данный учебник имеет значимость для разработчиков, работающих в сфере ИИ, так как он предлагает практические решения для обеспечения безопасности и соблюдения норм в финансовом секторе. Внедрение таких технологий может повысить доверие пользователей к ИИ-ассистентам и минимизировать риски, связанные с обработкой личной информации.