Perplexity анонсировала открытие исходного кода Lily, локального движка вывода, который работает на архитектуре Apple Silicon. Lily представляет собой однопроцессный движок, использующий Rust для загрузки контрольной точки и генерации текста, а также Metal для выполнения модели. Данный движок совместим с API для чат-комплетов OpenAI, что позволяет интегрировать его в существующие приложения.
Движок Lily специально разработан для работы с одной моделью, Qwen3.6-35B-A3B, и одной аппаратной платформой, что обеспечивает высокую производительность. Публикация включает в себя демо-версию, доступную в репозитории pplx-garden, и минимальные системные требования: 32 ГБ унифицированной памяти на Mac с macOS 15 или выше для оптимальной работы.
Важность открытия исходного кода Lily заключается в том, что это предоставляет разработчикам возможность использовать и адаптировать высокопроизводительные инструменты для генерации текста на устройствах Apple. Это также может способствовать развитию экосистемы приложений на базе Apple Silicon, расширяя возможности для разработчиков и пользователей.