Fireworks AI представила Ember-1, новую модель, разработанную на основе Kimi K3 от Moonshot AI. Ember-1 оптимизирована для генерации более коротких логических цепочек, что позволяет сократить использование токенов на 40% без потери точности выполнения задач. Однако данная модель доступна только через серверный API Fireworks в режиме Research Preview, что исключает возможность самостоятельного хостинга.
Согласно информации от команды Fireworks, многие модели, такие как Kimi K3, тратят более 90% сгенерированных токенов на внутренние рассуждения. Это создает дополнительные затраты в многоповоротных сценариях, где контекст увеличивается квадратично с количеством поворотов. Ember-1 нацелена на решение этой проблемы, обеспечивая более эффективное использование ресурсов.
Запуск Ember-1 может оказать значительное влияние на разработку и внедрение моделей ИИ, так как сокращение затрат токенов может привести к снижению вычислительных расходов и более быстрой обработке данных. Это особенно актуально для приложений, требующих многократных итераций и взаимодействий, где оптимизация логики может повысить общую эффективность работы систем.