За что отвечает Row Group в структуре Parquet-файла?

Row group — горизонтальная группа строк Parquet, внутри которой для каждой колонки хранится свой column chunk. Чанки состоят из страниц.

Короткий ответ

Что ответить на собеседовании

Row group — горизонтальная группа строк Parquet, внутри которой для каждой колонки хранится свой column chunk. Чанки состоят из страниц.

Подробный разбор

Ответ с пояснениями

Row group — горизонтальная группа строк Parquet, внутри которой для каждой колонки хранится свой column chunk. Чанки состоят из страниц.

Такая организация позволяет читать выбранные колонки и делить обработку файла на крупные независимые участки. Метаданные и статистика помогают движку пропускать группы, не подходящие фильтру, если это поддерживается чтением.

Большие row groups могут улучшать сжатие, но требуют больше ресурсов на обработку и уменьшают число участков для параллельного чтения. Маленькие увеличивают накладные расходы. Row group не равен Spark-партиции: движок самостоятельно планирует чтение.

Источник: Документация Apache Kafka.

ИИ-помощник для собеседований

Хочешь уверенно проходить собеседования?

Попробуй ИИ-помощник для собеседований: слышит вас и собеседника, анализирует экран, подсказывает ответы в реальном времени, работает без VPN и не попадает в захват экрана.

Подробнее