Дайджест
Fortune19:42Кен Гриффин жертвует рекордные $3 миллиарда Карнеги-Меллон для создания кампуса в МайамиNYT Education12:02Крупнейший подарок в истории университетов: $3 миллиарда для Carnegie MellonBBC Health02:41Эпидемия кори и малярии в Индии: 32 ребенка погиблиNasdaq02:14Micron Technologies значительно увеличила доходыMarkTechPost00:30Google DeepMind представила модель Gemini 4 Argon с рекордным объемом выводаNASA00:11NASA анонсировала новые научные исследования для лунной базыMarkTechPost00:09OpenAI выпустила GPT-6.1 Sol с улучшенной производительностью и сниженной ценойThe Verge23:41Google представляет AI-модель Gemini 4 для киберзащитыMarketWatch23:32Рост доходности облигаций США достигает рекордных уровнейBitcoin Magazine23:14Великобритания вводит полное регулирование криптоиндустрии под контролем FCA

vestka

Amazon SageMaker AI внедряет новые подходы к оптимизации генеративных ИИ-эндпоинтов

Amazon SageMaker AI анонсировал внедрение 'concurrency sweeps', нового метода для оптимизации генеративных ИИ-эндпоинтов. Данная методика помогает находить типы инстансов и конфигурации обслуживания, которые обеспечивают максимальное соотношение цены и производительности, сохраняя при этом допустимые уровни задержки.

Без системного подхода к оптимизации, процесс 'правильного подбора' может быть трудоемким, требуя многократного развертывания, нагрузочного тестирования и корректировок. Использование слишком большого количества инстансов может привести к неэффективным расходам, в то время как недостаточное количество может вызвать очереди запросов и увеличение задержки.

Метод 'concurrency sweeps' устраняет эти проблемы, позволяя проводить систематическое тестирование с контролируемым увеличением уровня одновременного трафика. Эта функция интегрирована в Amazon SageMaker AI Inference Recommendations, что исключает необходимость в создании и поддержке собственной инфраструктуры для нагрузочного тестирования.

Главное

  • Метод 'concurrency sweeps' помогает оптимизировать генеративные ИИ-эндпоинты.
  • Данная методика позволяет находить оптимальные конфигурации серверов для максимальной производительности.
  • Интеграция в Amazon SageMaker AI Inference Recommendations исключает необходимость в создании собственной инфраструктуры.

Упомянуто

Amazon SageMaker AI

Важное из дайджеста

  • Кен Гриффин жертвует рекордные $3 миллиарда Карнеги-Меллон для создания кампуса в Майами

    Fortune · около 12 часов назад

    Генеральный директор Citadel Кен Гриффин объявил о рекордном подарке в $3 миллиарда университету Карнеги-Меллон, который станет крупнейшим индивидуальным вкладом в высшее образование. Подарок включает создание нового кампуса в Майами и поддержку существующего кампуса в Питтсбурге.

  • Крупнейший подарок в истории университетов: $3 миллиарда для Carnegie Mellon

    NYT Education · около 19 часов назад

    Хедж-фондовый управляющий Кеннет С. Гриффин сделал рекордный подарок в размере $3 миллиардов для Carnegie Mellon University. Это крупнейший университетский подарок в истории, превышающий предыдущий рекорд в $2 миллиарда, переданный Oregon Health and Science University.

  • Эпидемия кори и малярии в Индии: 32 ребенка погибли

    BBC Health · около 5 часов назад

    С начала мая в индийском округе Балагхат зарегистрировано 32 случая смерти детей в результате вспышек кори и малярии. Эти заболевания продолжают представлять серьезную угрозу для здоровья населения в удаленных районах страны.

  • Micron Technologies значительно увеличила доходы

    Nasdaq · около 5 часов назад

    Компания Micron Technologies сообщила о более чем четырехкратном увеличении доходов, превысив ожидания аналитиков Уолл-стрит. В компании также представили прогноз, который оказался сильнее ожиданий рынка.

  • Google DeepMind представила модель Gemini 4 Argon с рекордным объемом вывода

    MarkTechPost · около 7 часов назад

    Google DeepMind анонсировала новую модель Gemini 4 Argon, предназначенную для программирования, юридической и финансовой работы, а также киберзащиты. Модель может генерировать до 1 миллиона токенов в одном ответе, что значительно превышает возможности предыдущих моделей.

  • NASA анонсировала новые научные исследования для лунной базы

    NASA · около 7 часов назад

    NASA выбрала три новых научных исследования для поддержки создания первой лунной базы. Эти исследования помогут понять ресурсы Луны и оценить экологические риски для будущих миссий.

  • OpenAI выпустила GPT-6.1 Sol с улучшенной производительностью и сниженной ценой

    MarkTechPost · около 7 часов назад

    OpenAI анонсировала выпуск модели GPT-6.1 Sol, которая предлагает результаты, близкие к Astra, по сниженной цене. Модель доступна в API OpenAI и предназначена для профессионального использования в кодировании и работе с компьютерами.

  • Google представляет AI-модель Gemini 4 для киберзащиты

    The Verge · около 8 часов назад

    Компания Google анонсировала новую модель искусственного интеллекта Gemini 4 Argon, предназначенную для сложных рабочих процессов в области программного обеспечения и кибербезопасности. Доступ к модели вначале будет ограничен для 'доверенных киберзащитников'.

Открыть полный дайджест →