Na semana passada, escrevi um artigo sobre pipeline de dados (confira aqui) onde foram apresentadas as principais características para um desenvolvimento robusto e de forma otimizada, preferencialmente utilizando um…
Pipeline é um termo inglês que se pode traduzir por “tubagem” ou “canalização”. Esse conceito é utilizado na nossa língua para fazer referência a uma arquitetura da informática. Estas canalizações virtuais são criadas…
Há alguns anos empresas de todo o mundo já se utilizam do imenso valor que o Big Data pode agregar aos seus negócios. A implementação de ecossistemas Big Data é uma realidade no mercado mundial e brasileiro. Com cada…
Imagine uma equipe formada por um desenvolvedor SQL, um profissional de Pyhton e um colaborador de Scala. Todos eles trabalham juntos em prol de realizar ingestões de dados no seu Datalake, Datawarehouse um simplesmente…
Cada vez mais famoso e utilizado, o Apache Hive é um sistema de data warehouse para Hadoop . O Hive permite o resumo de dados, consultas e análise de dados. Consultas de hive são escritas em HiveQL , que é uma linguagem…
Neste artigo, apresentarei as principais operações Hadoop para manipular o HDFS por meio de comandos shell. Para testar, você pode utilizar esses comandos usando algumas das VMs da Cloudera, Hortonworks, HDInsight, ou…
Ao longo dos anos, os data warehouses têm sido a principal ferramenta para a tomada de decisão e análise da empresas. Estes incluem ferramentas OLAP e ETL convencionais fornecidas por inúmeros fornecedores de hardware e…