Глава OpenAI Сэм Альтман раскритиковал локальный инференс — запуск моделей искусственного интеллекта на собственных компьютерах. Он назвал такой подход крайне неэффективным распределением дефицитных ресурсов и отметил, что появление моделей с открытым исходным кодом не устраняет потребность в мощностях дата-центров.
По словам Альтмана, при глобальном рассмотрении локальные вычисления нерациональны, поскольку значительная часть мирового запаса оперативной памяти оказывается задействована в отдельных компьютерах. В предоставленном фрагменте не приводятся оценки объёма этих запасов или конкретные данные о потреблении памяти.
Заявление отражает позицию OpenAI в дискуссии о том, где следует запускать ИИ-модели: на персональных устройствах или в централизованных дата-центрах. Альтман не представил в цитируемом фрагменте количественного сравнения эффективности двух подходов.