DGX Spark
Последние новости и упоминания на vestka
- Развертывание LLM локально: опыт с vLLM и DGX Spark
ИИ·Хабр ИИ·
Статья описывает опыт развертывания локальных языковых моделей (LLM) на платформе NVIDIA DGX Spark. Автор делится инженерными аспектами, связанными с производительностью и задержками при использовании таких моделей.