
Atualmente, a criação de pipelines de dados recaem sob a responsabilidade das pessoas Engenheiras de Dados. No passado, desenvolvedores(as) de software escreviam cron jobs para orquestrar dados com agendas definidas, monitorias e definição de dependências. Porém, nos últimos anos, vimos o surgimento de várias estruturas e ferramentas de orquestração de dados e acreditamos que seja um componente central da stack de dados moderna. Vamos contar como isso tudo evoluiu e como temos feito por aqui. O episódio conta com a participação de Rafael Ribaldo e Pedro Oliveira, líderes do time de Data Engineering do QuintoAndar.