20 октября 2026 года на конференции PyTorch была представлена новая разработка от Google — TorchTPU, нативный бэкенд для PyTorch, предназначенный для работы с Cloud TPUs. Этот инструмент позволяет пользователям интегрировать TPU в свои проекты на PyTorch, используя стандартный синтаксис, что упрощает процесс разработки и оптимизации моделей.

TorchTPU заменяет предыдущую реализацию PyTorch/XLA и рекомендуется для всех новых рабочих нагрузок. В рамках проекта были открыты четыре репозитория, включая TorchTPU и vLLM-TorchTPU, которые доступны на платформе PyPI. Разработка поддерживает Python 3.11 и лицензирована под Apache 2.0, что делает ее доступной для широкой аудитории разработчиков.

Значимость TorchTPU заключается в том, что он обеспечивает более высокую производительность и упрощает процесс разработки для пользователей Cloud TPUs. С поддержкой различных форматов чекпоинтов и возможностью масштабирования до 8192 чипов Ironwood, этот инструмент может значительно ускорить обучение моделей, что особенно актуально в условиях растущих требований к вычислительным ресурсам в области машинного обучения.