В новой части исследования Apple Neural Engine (ANE) рассматривается запуск модели Qwen без использования графических (GPU) и центральных (CPU) процессоров. Авторы статьи делятся методами, которые позволяют эффективно взаимодействовать с компилятором для достижения оптимальных результатов.
В процессе обратного проектирования ANE исследуются различные подходы к "питанию" компилятора, что может привести к улучшению производительности и эффективности. Это открывает новые возможности для разработки и применения моделей машинного обучения в условиях ограниченных ресурсов.
Значимость данного исследования заключается в том, что оно может способствовать развитию технологий, позволяющих запускать сложные модели на устройствах с ограниченными вычислительными возможностями. Это может изменить подход к разработке приложений и сервисов, использующих искусственный интеллект.