Как измерить, что embedding-модель и retrieval работают нормально?

Соберите набор реальных запросов с релевантными документами и измеряйте retrieval отдельно от генерации. Recall@k показывает покрытие, MRR и NDCG — качество порядка выдачи.

Короткий ответ

Что ответить на собеседовании

Соберите набор реальных запросов с релевантными документами и измеряйте retrieval отдельно от генерации. Recall@k показывает покрытие, MRR и NDCG — качество порядка выдачи.

Подробный разбор

Ответ с пояснениями

Соберите набор реальных запросов с релевантными документами и измеряйте retrieval отдельно от генерации. Recall@k показывает покрытие, MRR и NDCG — качество порядка выдачи.

Проверьте редкие запросы, языки, опечатки и фильтрацию по правам. Сравнивайте embedding-модели на одинаковом корпусе и зафиксированных настройках chunking. Для ANN отделяйте потерю от приближённого поиска от качества самого embedding. Затем измеряйте ответы end-to-end, latency и долю запросов без достаточных источников.

ИИ-помощник для собеседований

Хочешь уверенно проходить собеседования?

Попробуй ИИ-помощник для собеседований: слышит вас и собеседника, анализирует экран, подсказывает ответы в реальном времени, работает без VPN и не попадает в захват экрана.

Подробнее