Как развернуть и масштабировать микросервисы, воркеры и обработчики соединений на нескольких машинах и управлять этой инфраструктурой?

Нужны воспроизводимые образы, оркестрация процессов, балансировка, внешнее хранение состояния и наблюдаемость; масштабировать роли следует независимо.

HTTP-сервисы масштабируют по нагрузке, workers — по очереди и времени обработки, долгие соединения — с учётом распределённой доставки событий. Предусмотрите health checks, graceful shutdown, retries, идемпотентность и управление секретами. Оркестратор упрощает размещение, но не решает согласованность данных и перегрузку зависимостей.