По закону Литтла среднее число запросов в обработке — 1000 × 0,05 = 50. Но это не готовый размер пула БД: нужны время удержания соединения и число обращений к БД.
Калибровка пула соединений для устойчивой нагрузки
По закону Литтла среднее число запросов в обработке — 1000 × 0,05 = 50. Но это не готовый размер пула БД: нужны время удержания соединения и число обращений к БД.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Условие
Запущено приложение, предоставляющее один GET‑метод по пути /get/{id}. При нагрузке в 1000 запросов в секунду среднее время ответа составляет 50 мс. Требуется подобрать настройки пула соединений, чтобы система могла стабильно обслуживать такой поток запросов.
Ответ
По закону Литтла среднее число запросов в обработке — 1000 × 0,05 = 50. Но это не готовый размер пула БД: нужны время удержания соединения и число обращений к БД.
Если соединение удерживается весь запрос, 50 — средняя потребность при этих допущениях, не запас на пики. Замерьте ожидание пула, p99 и пропускную способность БД, затем подберите ограничение нагрузочным тестом. Учтите количество экземпляров приложения. Слишком большой пул увеличивает конкуренцию в БД; слишком маленький переносит задержку в очередь.