Расскажи про гибридный ретрив в RAG — какую модель выбрал для dense-векторов?

В гибридном retrieval dense-модель дополняет лексический поиск смысловой близостью. Выбор нужно обосновать качеством на своих запросах, языками, длиной документов и бюджетом инференса.

Короткий ответ

Что ответить на собеседовании

В гибридном retrieval dense-модель дополняет лексический поиск смысловой близостью. Выбор нужно обосновать качеством на своих запросах, языками, длиной документов и бюджетом инференса.

Подробный разбор

Ответ с пояснениями

В гибридном retrieval dense-модель дополняет лексический поиск смысловой близостью. Выбор нужно обосновать качеством на своих запросах, языками, длиной документов и бюджетом инференса.

Как кандидатов можно сравнивать multilingual E5 и BGE-M3, но нельзя назвать одну универсально лучшей. На интервью укажите фактическую модель, способ подготовки query/document, chunking, размер индекса и результат offline-оценки. Dense и BM25 обычно извлекают кандидатов отдельно, затем результаты объединяются и при необходимости переранжируются. Смена модели требует новой индексации; смешивать векторы разных пространств без специального преобразования нельзя.

Источник: arxiv.org, arxiv.org.

ИИ-помощник для собеседований

Хочешь уверенно проходить собеседования?

Попробуй ИИ-помощник для собеседований: слышит вас и собеседника, анализирует экран, подсказывает ответы в реальном времени, работает без VPN и не попадает в захват экрана.

Подробнее