Расскажи, как работает реранкер — вдавался в подробности или использовал его как готовый инженерный кирпичик?

Реранкер повторно оценивает небольшой набор найденных кандидатов относительно запроса. Типичный cross-encoder обрабатывает запрос и документ совместно, точнее учитывая их взаимодействие.

В отличие от предварительно вычисленных embeddings, такая оценка дороже для каждой пары, поэтому её применяют после retrieval. В ответе отделите понимание механизма от своего опыта настройки: модель, длина контекста, top-k, метрика и latency. Использовать готовый компонент допустимо, если ясны его ограничения.