Каждая партиция Kafka расходует ресурсы на metadata, файлы, репликацию и управление; тысяча партиций без потребности увеличивает эксплуатационную стоимость.
Почему не стоит задавать тысячу партиций каждому топику Kafka?
Каждая партиция Kafka расходует ресурсы на metadata, файлы, репликацию и управление; тысяча партиций без потребности увеличивает эксплуатационную стоимость.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Каждая партиция Kafka расходует ресурсы на metadata, файлы, репликацию и управление; тысяча партиций без потребности увеличивает эксплуатационную стоимость.
Большое число усложняет recovery и rebalance, но не ускоряет обработку, если bottleneck находится в consumers или внешней системе. Выбирайте количество по throughput и параллелизму с измеренным запасом, а не одинаково для всех топиков.