Разделите задержку embedding, сети, поиска Qdrant и reranking. Настраивайте top-k, фильтры и ширину ANN-поиска по измеренному компромиссу latency и recall.
Как работали с запросами в векторное хранилище (Qdrant) и их влиянием на латентность агента?
Разделите задержку embedding, сети, поиска Qdrant и reranking. Настраивайте top-k, фильтры и ширину ANN-поиска по измеренному компромиссу latency и recall.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Разделите задержку embedding, сети, поиска Qdrant и reranking. Настраивайте top-k, фильтры и ширину ANN-поиска по измеренному компромиссу latency и recall.
Проверьте наличие индекса и индексов payload для фильтров, размеры возвращаемых полей и состояние сегментов. Рост hnsw_ef расширяет поиск и обычно увеличивает время. Кешируйте только с корректным учётом прав и версии данных; приводя результаты проекта, указывайте фактические замеры.
Источник: qdrant.tech.