Почему не стоит задавать тысячу партиций каждому топику Kafka?

Каждая партиция Kafka расходует ресурсы на metadata, файлы, репликацию и управление; тысяча партиций без потребности увеличивает эксплуатационную стоимость.

Короткий ответ

Что ответить на собеседовании

Каждая партиция Kafka расходует ресурсы на metadata, файлы, репликацию и управление; тысяча партиций без потребности увеличивает эксплуатационную стоимость.

Подробный разбор

Ответ с пояснениями

Каждая партиция Kafka расходует ресурсы на metadata, файлы, репликацию и управление; тысяча партиций без потребности увеличивает эксплуатационную стоимость.

Большое число усложняет recovery и rebalance, но не ускоряет обработку, если bottleneck находится в consumers или внешней системе. Выбирайте количество по throughput и параллелизму с измеренным запасом, а не одинаково для всех топиков.

ИИ-помощник для собеседований

Хочешь уверенно проходить собеседования?

Попробуй ИИ-помощник для собеседований: слышит вас и собеседника, анализирует экран, подсказывает ответы в реальном времени, работает без VPN и не попадает в захват экрана.

Подробнее