Авторы эксперимента изучили способ сократить размерность эмбеддингов EmbeddingGemma 2 с 768 до 512 координат. Для преобразования применили QR-разложение выходной проекции модели, ранг которой равен 512; по описанию, подход позволяет сохранить косинусное сходство векторов.
Тестирование провели на видеокарте RTX 5090. Качество поиска проверили на наборах SciFact и FiQA, а потребление памяти и задержку точного поиска FAISS измерили на корпусах MS MARCO размером до пяти миллионов документов. Также авторы оценивали время конвертации и сравнивали QR-варианты со штатным механизмом MRL.
Материал описывает технический эксперимент по снижению размерности эмбеддингов и его возможному влиянию на эффективность поиска. В предоставленном фрагменте не приведены численные результаты сравнения, поэтому оценить выигрыш в качестве, скорости или памяти по нему нельзя.