NVIDIA представила новое руководство по API графов cuDNN, в котором описывается, как представлять вычисления в виде графа операций. Пользователи могут позволить cuDNN выбрать движок для выполнения или взять этот процесс под контроль, что открывает новые возможности для оптимизации производительности.
В процессе работы с API пользователи объявляют тензоры, связывают операции и проходят через пятиступенчатый процесс построения, включая валидацию и создание планов выполнения. В руководстве также рассматриваются такие темы, как фузия сверток, автотюнинг в различных конфигурациях, а также работа с динамическими формами и захват графов CUDA.
Это руководство важно для разработчиков, использующих cuDNN, так как оно предлагает новые методы для повышения производительности и упрощает процесс разработки. Оптимизация вычислений с помощью графов операций может значительно улучшить эффективность работы с глубокими нейронными сетями и другими задачами машинного обучения.