Кастомные проверки оправданы небольшим набором специфичных правил и простым сопровождением. Готовый движок полезен, когда нужны стандартизация, отчётность и повторное использование.
Почему для Data Quality выбрали кастомные скрипты на Python/Airflow, а не готовый движок, например Great Expectations?
Кастомные проверки оправданы небольшим набором специфичных правил и простым сопровождением. Готовый движок полезен, когда нужны стандартизация, отчётность и повторное использование.
Короткий ответ
Что ответить на собеседовании
Подробный разбор
Ответ с пояснениями
Кастомные проверки оправданы небольшим набором специфичных правил и простым сопровождением. Готовый движок полезен, когда нужны стандартизация, отчётность и повторное использование.
Сравните стоимость внедрения, интеграции и дальнейшего развития. Собственные скрипты быстро закрывают задачу, но потребуют единого формата ошибок, метрик и документации.
Не объявляйте готовый инструмент лишним только из-за первоначальной сложности. На интервью называйте реальные ограничения команды и критерии, по которым решение можно пересмотреть.