Разработчик запустил языковую модель на FPGA, потратив всего $50 на оборудование с 4 ГБ памяти. Он подключил FPGA к мини-ПК и использовал openTPU для реализации своего проекта, который получил название "КЕДР".
Данный подход может стать альтернативой традиционным AI-решениям, таким как процессоры от NVIDIA. Использование FPGA позволяет значительно снизить затраты на оборудование, что делает технологии более доступными для разработчиков и исследователей.
Запуск языковой модели на недорогом оборудовании открывает новые возможности для создания и тестирования AI-приложений. Это может привести к более широкому распространению AI-технологий и стимулировать инновации в области искусственного интеллекта.