Adaptive Agentic Intelligence Framework (AAIF) предлагает новый подход к обработке запросов в системах искусственного интеллекта. Вместо того чтобы направлять все запросы к одному большому языковому модели, AAIF использует малые языковые модели (SLMs) для выполнения рутинных задач локально. Более сложные запросы обрабатываются через облачные модели с использованием Amazon Bedrock.
Данная методология основана на исследовании, проведенном Белчаком и его коллегами в NVIDIA, которые подчеркивают, что малые языковые модели являются более подходящими и экономичными для многих задач. Это позволяет организациям сократить затраты на API и избежать непредсказуемой задержки, связанной с маршрутизацией всех запросов к большим моделям.
Внедрение AAIF может существенно изменить подход к разработке AI-агентов, улучшая их эффективность и снижая зависимость от облачных решений. Это важно в условиях растущих затрат на вычисления и необходимости оптимизации процессов обработки данных в реальном времени.