Механизмы DataOps What is DataOps? And How To Not Screw It Up, отличаются ли они от Data Governance. Мы обсудили практики работы с данными, нашли аналогии и различия с DevOps.

Обсудили статью Data Mesh / Data Product Security Pattern в которой Data Mesh рассматривается с новой стороны, как подход в котором удобно защищать данные и можно выстроить периметры data продуктов, а так же следить какие чувствительные данные кто из коллег запрашивает.

Ребята из lakeFS нарисовали красивую картинку про State of Data Engineering 2022, а мы её упомянули в дайджесте #20. С этой картинкой всё совсем непросто, так что там прямо есть что обсудить, а можно и что-то новое узнать!

Одна из самых сложных штук в распределённых системах — распределённый консенсус, кворум, консенсус и всё вокруг них. На удивление у нас нет общего видения того, как правильно и поэтому не только рассказываем, но и выясняем истину по ходу дела.

Здесь мы обсуждаем статью How The Modern Data Stack Is Reshaping Data Engineering из дайджеста #15

Здесь мы обсуждаем статью The Future of the Data Engineer из дайджеста #14

Is the data engineer still the “worst seat at the table?” Thoughts on the past, present, and future of tooling, processes, and culture in our industry.

Разговариаем про всякое — и про худи, и про DWH, и про DataLake, и про C# с LINQ'ом

Здесь мы обсуждаем статью Why you should try something else than Airflow for data pipeline orchestration из дайджеста #12

Здесь мы обсуждаем статью 4 Things You Need to Know When Solving for Data Quality из дайджеста #10

К нам присоединяется Сергей Ярымов, вместе с которым мы говорим про лайнэйдж, зачем он нежен, кто как его делает и, в частности, как его делает Slack.

В процессе выпуска всплыл тул sqlglot — парсер и транспайлер SQL, написанный на голом пайтоне.

Здесь мы обсуждаем статью 4 Things You Need to Know When Solving for Data Quality из дайджеста #7

В целом обсуждаем TDD, тестирование данных и другие аспекты жизни дата инжинера, связанные с качеством