Исследователи из NVIDIA, MIT и NTU разработали ИИ-агента, который улучшает кодинг-ассистента на базе открытого Pi. Этот агент перебрал 152 идеи, из которых 4 решения позволили сократить расход токенов почти вдвое при использовании той же модели. В результате, счет за API снизился на треть, а средний балл на EdgeBench уменьшился на 6%.
Улучшения, достигнутые с помощью нового подхода, демонстрируют потенциал ИИ в оптимизации работы кодинг-ассистентов. Harness, который использовался в процессе, представляет собой метод, позволяющий ИИ-агенту эффективно взаимодействовать с другими моделями. Примененные приемы показывают, как можно достичь значительных результатов в области снижения затрат и повышения производительности.
Эти достижения важны для дальнейшего развития технологий ИИ и их применения в программировании. Снижение расходов на API и улучшение производительности могут привести к более широкому внедрению ИИ-ассистентов в разработку программного обеспечения, что, в свою очередь, повысит эффективность работы разработчиков и снизит затраты на проекты.