Точный порог без лимитов системы неизвестен. При времени внешнего вызова 1 секунда поток λ запросов в секунду требует примерно λ одновременных запросов к зависимости, пока система стабильна.
Есть внешний сервис, который отвечает ровно 1 секунду. В какой момент и почему наш сервис упадёт при увеличении нагрузки?
Точный порог без лимитов системы неизвестен. При времени внешнего вызова 1 секунда поток λ запросов в секунду требует примерно λ одновременных запросов к зависимости, пока система стабильна.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Точный порог без лимитов системы неизвестен. При времени внешнего вызова 1 секунда поток λ запросов в секунду требует примерно λ одновременных запросов к зависимости, пока система стабильна.
Если пул позволяет только C одновременных операций, его пропускная способность для такого вызова примерно C запросов/с, не считая остальной работы. При превышении появляются очередь, рост задержек и таймауты; без ограничений могут закончиться память, потоки или сокеты. Async уменьшает стоимость ожидания, но не делает ресурс бесконечным. Нужны bounded concurrency, backpressure и отказ в лишней нагрузке, а не ожидание конкретного числа, когда процесс «упадёт».