Есть внешний сервис, который отвечает ровно 1 секунду. В какой момент и почему наш сервис упадёт при увеличении нагрузки?

Точный порог без лимитов системы неизвестен. При времени внешнего вызова 1 секунда поток λ запросов в секунду требует примерно λ одновременных запросов к зависимости, пока система стабильна.

Короткий ответ

Что ответить на собеседовании

Точный порог без лимитов системы неизвестен. При времени внешнего вызова 1 секунда поток λ запросов в секунду требует примерно λ одновременных запросов к зависимости, пока система стабильна.

Подробный разбор

Ответ с пояснениями

Точный порог без лимитов системы неизвестен. При времени внешнего вызова 1 секунда поток λ запросов в секунду требует примерно λ одновременных запросов к зависимости, пока система стабильна.

Если пул позволяет только C одновременных операций, его пропускная способность для такого вызова примерно C запросов/с, не считая остальной работы. При превышении появляются очередь, рост задержек и таймауты; без ограничений могут закончиться память, потоки или сокеты. Async уменьшает стоимость ожидания, но не делает ресурс бесконечным. Нужны bounded concurrency, backpressure и отказ в лишней нагрузке, а не ожидание конкретного числа, когда процесс «упадёт».

ИИ-помощник для собеседований

Хочешь уверенно проходить собеседования?

Попробуй ИИ-помощник для собеседований: слышит вас и собеседника, анализирует экран, подсказывает ответы в реальном времени, работает без VPN и не попадает в захват экрана.

Подробнее