Скоры BM25 и dense-поиска имеют разные масштабы и распределения. Простая сумма может случайно отдать весь вес одному поиску; используют нормализацию с весами либо объединение рангов.
Почему нельзя просто сложить скоры BM25 и dense-эмбеддинга?
Скоры BM25 и dense-поиска имеют разные масштабы и распределения. Простая сумма может случайно отдать весь вес одному поиску; используют нормализацию с весами либо объединение рангов.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Скоры BM25 и dense-поиска имеют разные масштабы и распределения. Простая сумма может случайно отдать весь вес одному поиску; используют нормализацию с весами либо объединение рангов.
Весовую сумму калибруют на размеченных запросах: даже нормализация не делает источники одинаково полезными. RRF объединяет позиции документов в выдачах, не требуя сравнимых исходных скоров. После объединения кандидатов можно применить reranker. Качество оценивают по релевантности итоговой выдачи, а не величине полученного числа.
Источник: www.elastic.co.