Исследователи из Polymathic AI, Принстонского университета, USC ISI, Нью-Йоркского университета и Flatiron Institute представили FlashMap — черновик на основе непрерывной карты потоков для спекулятивного декодирования. Он формирует блок из 16 согласованных токенов за один проход модели. На Qwen3-8B авторы сообщили об ускорении до 6,14 раза на GSM8K без потери точности.
Черновик содержит около 0,5 млрд параметров и запускается на том же GPU, что и основная модель. В тестах на одном NVIDIA H200 NVL при параллелизме 1 и формате bf16 ускорение составило от 2,28 раза на Alpaca при температуре 1 до 6,14 раза на GSM8K при температуре 0. На Qwen3-8B FlashMap в среднем примерно на 7% превзошёл переобученный DFlash; на Qwen3-4B он уступил DFlash в четырёх из девяти задач.
Веса для Qwen3-8B и Qwen3-4B опубликованы на Hugging Face, также доступны плагины для vLLM и SGLang. FlashMap предлагает способ ускорить генерацию текста на совместимом оборудовании, однако приведённые результаты относятся к конкретной конфигурации и наборам тестов.