Да, большой Parquet-файл может читаться несколькими задачами Spark: границы файлов не обязаны совпадать с границами вычислительных partitions.
Можно ли читать данные параллельно из одного Parquet-файла в Spark, или только одним ядром в одной таске?
Да, большой Parquet-файл может читаться несколькими задачами Spark: границы файлов не обязаны совпадать с границами вычислительных partitions.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Да, большой Parquet-файл может читаться несколькими задачами Spark: границы файлов не обязаны совпадать с границами вычислительных partitions.
Parquet состоит из row groups, которые позволяют делить работу между чтениями. Реальный параллелизм зависит от их размера и числа, конфигурации файловых partitions, доступных ресурсов и чтения из хранилища. Один огромный row group может ограничить полезное разделение. Утверждение «один файл — всегда одна task» для Parquet неверно.
Источник: Документация Apache Kafka, Документация Apache Kafka.