NVIDIA представила Switchyard, новую библиотеку и прокси на Rust, которая позволяет маршрутизировать и переводить трафик LLM между API OpenAI и Anthropic. Этот инструмент решает проблему совместимости для команд, использующих различные модели, такие как Claude Code и Codex CLI, которые работают с разными форматами сообщений.
Switchyard позволяет клиентам сохранять свои нативные API, обеспечивая при этом перевод запросов и запись операционных метрик. Программное обеспечение выпущено под лицензией Apache 2.0 и доступно для установки из crates.io и PyPI, однако NVIDIA предупреждает, что Switchyard находится на стадии пред-alpha и не предназначен для использования в производственной среде.
Данный инструмент может оказать значительное влияние на разработку и интеграцию LLM, позволяя командам работать с различными API без необходимости переписывать код. Это может ускорить процесс разработки и повысить гибкость в использовании различных моделей, что особенно важно в условиях быстро развивающейся области искусственного интеллекта.