Соберите набор реальных запросов с релевантными документами и измеряйте retrieval отдельно от генерации. Recall@k показывает покрытие, MRR и NDCG — качество порядка выдачи.
Как измерить, что embedding-модель и retrieval работают нормально?
Соберите набор реальных запросов с релевантными документами и измеряйте retrieval отдельно от генерации. Recall@k показывает покрытие, MRR и NDCG — качество порядка выдачи.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Соберите набор реальных запросов с релевантными документами и измеряйте retrieval отдельно от генерации. Recall@k показывает покрытие, MRR и NDCG — качество порядка выдачи.
Проверьте редкие запросы, языки, опечатки и фильтрацию по правам. Сравнивайте embedding-модели на одинаковом корпусе и зафиксированных настройках chunking. Для ANN отделяйте потерю от приближённого поиска от качества самого embedding. Затем измеряйте ответы end-to-end, latency и долю запросов без достаточных источников.