Дайджест
TechCrunch·Guidewire покупает Hyperexponential за $1,7 млрд наличными для развития ИИ-агентовVC.ru AI·Meta объявила о привлечении до $95 млрд для развития ИИ-инфраструктурыArs Technica·Уязвимость CVE-2026-97631 с оценкой 9,5 из 10 затрагивает прошивку UEFI на базе TianoCore EDK IIBitcoinist·OCC разрешило криптобиржам продолжать выплаты вознаграждений по стейблкоинамRB.ru·Nvidia инвестирует $3 млрд в акции Meta* и расширит сотрудничество в сфере ИИThe Verge·Суд Нью-Мексико обязал Meta выплатить $25 млрд по делу о Cambridge AnalyticaUS Department of Energy·Минэнерго США объявило условный кредит до $5 млрд на модернизацию АЭС Constellation EnergyOilPrice·Крупнейшие участники OPEC+ намерены сохранить квоты на добычу нефти в декабреArs Technica·Apple выпустила складной iPhone Duo с двумя экранами по цене от 1 999 долларовN+1·Модели OpenAI и Anthropic сформулировали в Lean доказательства против гипотезы экспоненциального времени

vestka

НовостиФинансы
ЭкономикаБизнесНаукаТехнологииИИКриптаМедицинаСпортЭнергетикаЭкологияГеймдевMMAКосмосАвтоОбразованиеРынок труда·Финансы

Ещё по теме

  • Доктор философии из Принстона подал 2300 заявок на работу за 2 года, но не нашел работу

    9 дней назад · Entrepreneur

  • Исследователи Принстона разработали новый подход к ядерному синтезу

    15 дней назад · OilPrice

  • Новая технология минимально инвазивной стимуляции нервов обещает изменить лечение хронической боли

    17 дней назад · Хабр Новости

  • Профессор социологии Дэвид Гринберг скончался в 2024 году, оставив наследие и миллионы

    18 дней назад · NYT Education

  • Исследование: Ожирение связано с пониженным риском смерти при деменции

    21 день назад · N+1

  • Искусственный интеллект Ataraxos одержал победу в игре Stratego

    27 дней назад · Ars Technica

  • Искусственный интеллект предсказывает расположение атомов водорода в молекулах

    около 1 месяца назад · Phys.org

  • Математик из Нью-Йорка решает уравнения Навье-Стокса в условиях конкуренции

    около 2 месяцев назад · NYT Science

Главная/ИИ/

Исследователи представили FlashMap, ускоряющий декодирование Qwen3 до 6,14 раза

MarkTechPost·около 8 часов назад·Нейтрально

Исследователи из Polymathic AI, Принстонского университета, USC ISI, Нью-Йоркского университета и Flatiron Institute представили FlashMap — черновик на основе непрерывной карты потоков для спекулятивного декодирования. Он формирует блок из 16 согласованных токенов за один проход модели. На Qwen3-8B авторы сообщили об ускорении до 6,14 раза на GSM8K без потери точности.

Черновик содержит около 0,5 млрд параметров и запускается на том же GPU, что и основная модель. В тестах на одном NVIDIA H200 NVL при параллелизме 1 и формате bf16 ускорение составило от 2,28 раза на Alpaca при температуре 1 до 6,14 раза на GSM8K при температуре 0. На Qwen3-8B FlashMap в среднем примерно на 7% превзошёл переобученный DFlash; на Qwen3-4B он уступил DFlash в четырёх из девяти задач.

Веса для Qwen3-8B и Qwen3-4B опубликованы на Hugging Face, также доступны плагины для vLLM и SGLang. FlashMap предлагает способ ускорить генерацию текста на совместимом оборудовании, однако приведённые результаты относятся к конкретной конфигурации и наборам тестов.

Ранее

  • Джек Уайз подал 2300 заявок на работу за два года.

    Доктор философии из Принстона подал 2300 заявок на работу за 2 года, но не нашел работу · 9 дней назад

  • Новая модель предлагает более энергоэффективный способ достижения ядерного синтеза.

    Исследователи Принстона разработали новый подход к ядерному синтезу · 15 дней назад

  • Устройство размером с небольшое семечко вводится через обычную иглу.

    Новая технология минимально инвазивной стимуляции нервов обещает изменить лечение хронической боли · 17 дней назад

  • Дэвид Гринберг скончался в 2024 году.

    Профессор социологии Дэвид Гринберг скончался в 2024 году, оставив наследие и миллионы · 18 дней назад

  • Исследование охватывает данные 4523 человек старше 50 лет.

    Исследование: Ожирение связано с пониженным риском смерти при деменции · 21 день назад

Упомянуто

  • Принстонский университет

    Доктор философии из Принстона подал 2300 заявок на работу за 2 года, но не нашел работу · 9 дней назад

  • Нью-Йоркский университет

    Новая технология минимально инвазивной стимуляции нервов обещает изменить лечение хронической боли · 17 дней назад

  • Flatiron Institute
  • Polymathic AI
  • FlashMap
  • USC ISI
  • DFlash

    Проверка технологий Nvidia: обещанные 15x на DFlash не оправдали ожиданий · около 2 месяцев назад

  • SGLang

Ещё по теме

  • Доктор философии из Принстона подал 2300 заявок на работу за 2 года, но не нашел работу

    Джек Уайз, доктор философии из Принстона, подал 2300 заявок на различные вакансии за последние два года, но до сих пор не получил ни одного предложения.

    9 дней назад · Entrepreneur

  • Исследователи Принстона разработали новый подход к ядерному синтезу

    Команда ученых из Принстонского университета представила модель, которая предлагает более энергоэффективный способ достижения ядерного синтеза.

    15 дней назад · OilPrice

  • Новая технология минимально инвазивной стимуляции нервов обещает изменить лечение хронической боли

    Ученые разработали миниатюрное медицинское устройство, которое может трансформировать подход к лечению хронической боли и двигательных расстройств.

    17 дней назад · Хабр Новости

  • Профессор социологии Дэвид Гринберг скончался в 2024 году, оставив наследие и миллионы

    Дэвид Гринберг, профессор социологии в Нью-Йоркском университете, скончался в 2024 году, оставив после себя значительное наследие.

    18 дней назад · NYT Education

  • Исследование: Ожирение связано с пониженным риском смерти при деменции

    Новое исследование показало, что у людей с ожирением риск смерти при диагнозе деменции ниже.

    21 день назад · N+1

  • Искусственный интеллект Ataraxos одержал победу в игре Stratego

    Команда исследователей из нескольких университетов разработала ИИ Ataraxos, который смог победить известного игрока в Stratego Пима Ниемейера.

    27 дней назад · Ars Technica

  • Искусственный интеллект предсказывает расположение атомов водорода в молекулах

    Исследователи Нью-Йоркского университета разработали модель искусственного интеллекта, способную анализировать 4,6 миллиона соединений за считанные часы.

    около 1 месяца назад · Phys.org

  • Математик из Нью-Йорка решает уравнения Навье-Стокса в условиях конкуренции

    Тристан Бакмастер, математик из Нью-Йоркского университета, продолжает свои исследования по решению уравнений Навье-Стокса на фоне активности компаний OpenAI и Anthropic.

    около 2 месяцев назад · NYT Science