Что из реквизитов Kafka можно записать при отправке, а что доступно только на чтении?
В Kafka при отправке сообщения (продюсером) можно указать следующие реквизиты:
Читать ответПодготовка к интервью
Разбирайте реальные вопросы, сверяйтесь с подробными ответами и готовьтесь по технологиям и компаниям.
Проверьте, насколько резюме подходит выбранной позиции, и получите рекомендации по улучшению.
Каталог
В Kafka при отправке сообщения (продюсером) можно указать следующие реквизиты:
Читать ответИспользование material code как ключа партиции в Kafka имеет следующий недостаток:
Читать ответПаттерн request-reply на Kafka реализуется через использование двух топиков: один для запросов, другой — для ответов.
Читать ответВ большинстве компаний ответственность за установление числа партиций в топиках Kafka лежит на команде, которая управляет инфраструктурой или на архитекторах данных.
Читать ответВ Apache Kafka доставка сообщений потребителю гарантируется через механизм подтверждений (acknowledgments) и управление смещениями (offsets). Если сообщение не было успешно обработано потребителем, то:
Читать ответВ Apache Kafka гарантированная доставка сообщений достигается за счет сочетания нескольких механизмов:
Читать ответДля реализации веб-сервиса, который синхронно отправляет сообщение в Kafka и ждёт ответа из другого топика, можно использовать следующий подход:
Читать ответKafka обеспечивает отсутствие дублей внутри consumer group за счёт механизма распределения партиций топика между консьюмерами группы.
Читать ответПроблема в том, что HTTP-вызов или отправка сообщения в Kafka не входят в транзакцию базы данных, поэтому при ошибке после этих действий может возникнуть рассогласование данных.
Читать ответZooKeeper — это распределённый сервис координации, который Kafka использует для управления метаданными кластера, выбора лидеров партиций и хранения информации о состоянии брокеров.
Читать ответЭто позволяет брокерам оставаться максимально простыми и масштабируемыми, а логику обработки состояния переносить в приложения, которые могут гибко управлять и восстанавливать своё состояние.
Читать ответВ Apache Kafka auto-commit — это механизм автоматического подтверждения (commit) смещений (offsets) сообщений, которые потребитель уже обработал.
Читать ответ