На конференции KubeCon + CloudNativeCon Japan 2026 в Иокогаме основное внимание уделялось вопросам распределения GPU и оптимизации их использования в машинном обучении. Антон Алексеев, ML Ops-инженер из Авито, отметил, что многие доклады касались схожих тем, таких как изоляция тенантов и квоты на использование ресурсов.
Алексеев поделился опытом Авито в решении задач, связанных с распределением GPU, и рассказал о шести докладах, которые были особенно интересны. Он подчеркнул, что в компании уже применяются некоторые из предложенных подходов, а также рассматриваются новые идеи для оптимизации LLM-инференса.
Данная конференция подчеркивает растущую важность эффективного использования ресурсов в области машинного обучения. Обсуждение вопросов, связанных с GPU, имеет значительное значение для компаний, стремящихся оптимизировать свои рабочие процессы и улучшить производительность моделей.