На подготовке raw-данных выравнивают схему, типы, время и служебные метаданные, сохраняя возможность восстановить исходник. Формат S3 выбирают под последующее чтение.
Что происходит на этапе нормализации сырых данных перед раскладкой? В каком формате данные хранятся в S3 и чем затем читаются?
На подготовке raw-данных выравнивают схему, типы, время и служебные метаданные, сохраняя возможность восстановить исходник. Формат S3 выбирают под последующее чтение.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
На подготовке raw-данных выравнивают схему, типы, время и служебные метаданные, сохраняя возможность восстановить исходник. Формат S3 выбирают под последующее чтение.
Например, исходные ответы API сохраняют как JSON, а очищенные табличные наборы — как Parquet с разумным партиционированием. Их могут читать Spark, Trino или другой совместимый движок. Это пример архитектуры, а не обязательная схема конкретного проекта. Отдельно уточните, означает ли «нормализация» очистку полей или приведение реляционной модели к нормальным формам.