{"id":2012,"date":"2015-05-10T16:21:14","date_gmt":"2015-05-10T19:21:14","guid":{"rendered":"http:\/\/efagundes.com\/artigos\/?p=2012"},"modified":"2020-12-13T12:32:12","modified_gmt":"2020-12-13T15:32:12","slug":"solucoes-de-gerenciamento-de-dados-para-analytics","status":"publish","type":"post","link":"https:\/\/efagundes.com\/artigos\/solucoes-de-gerenciamento-de-dados-para-analytics\/","title":{"rendered":"Solu\u00e7\u00f5es de gerenciamento de dados para Analytics"},"content":{"rendered":"\n<p>O grande desafio das empresas \u00e9 integrar dados estruturados de seus bancos de dados relacionais e seus Data Warehouse com dados de outras bases, em diferentes formatos e formas de acesso. O uso de bases externas cresce, exponencialmente, com m\u00e9todos de aquisi\u00e7\u00e3o como o REST e web services. Cresce, tamb\u00e9m, o uso de dados provenientes de dispositivos remotos, usando Internet of Things (IoT) ou outros tipos de conex\u00f5es M2M (Machine-to-Machine), como medidores eletr\u00f4nicos de energia. Para manipular todos esses dados \u00e9 necess\u00e1rio uma solu\u00e7\u00e3o capaz de extrair, transformar e carregar os dados para as ferramentas anal\u00edticas possam operar. Manipular grandes volumes de dados para analises, principalmente, em tempo real n\u00e3o \u00e9 algo trivial.<\/p>\n\n\n\n<p>Resumindo, precisamos de uma solu\u00e7\u00e3o completa de software que suporte e gerencie dados de um ou mais sistemas de gerenciamento de arquivos que possa processar estruturas relacionais e suportar acessos e disponibilizar dados de ferramentas anal\u00edticas independentes com diferentes interfaces.<\/p>\n\n\n\n<p>Esses sistemas conhecidos como DMSA (Data Management Solution for Analytics) devem suportar novas estruturas de dados, como XML, JSON, textos, documentos, geoposicionamento e acessar dados externos, independentemente, da aplica\u00e7\u00e3o de front-end.<\/p>\n\n\n\n<p>Existem v\u00e1rias solu\u00e7\u00f5es dispon\u00edveis dos principais fornecedores de tecnologia internacionais: Actian; Amazon Web Services (AWS); Cloudera; HP; IBM; Microsoft; SAP; Oracle e Teradata. Cada solu\u00e7\u00e3o, tecnologicamente, tem suas vantagens e restri\u00e7\u00f5es dependendo do ambiente de dados da empresa.<\/p>\n\n\n\n<p>Entretanto, em muitos casos a sele\u00e7\u00e3o de uma solu\u00e7\u00e3o n\u00e3o est\u00e1 apenas na tecnologia, mas na disponibilidade e quantidade de m\u00e3o de obra especializada e na rela\u00e7\u00e3o custo\/benef\u00edcio.<\/p>\n\n\n\n<p>Embora seja muito mais f\u00e1cil adotar uma solu\u00e7\u00e3o seguindo a tecnologia e servi\u00e7os especializados j\u00e1 implantados na empresa, como \u00e9 o caso da Oracle e SAP, \u00e9 necess\u00e1rio avaliar alternativas de mercado, principalmente para justificar o dinheiro investido para os acionistas.<\/p>\n\n\n\n<p>Apenas para refor\u00e7ar, n\u00e3o estamos falando de ferramentas de BI e Data Warehouse, simplesmente. Estamos falando de um ambiente mais amplo que permite analises em tempo real com o uso de novas solu\u00e7\u00f5es, como o uso de tecnologias in-memory.<\/p>\n\n\n\n<p>A Actian (<a href=\"http:\/\/www.actian.com\">www.actian.com<\/a>), uma jovem empresa americana, faz a integra\u00e7\u00e3o dos dados para a sua ferramenta anal\u00edtica atrav\u00e9s de um portf\u00f3lio de produtos chamados de megavendors, dispon\u00edveis para IBM, Oracle, Microsoft e outros, com pre\u00e7os bem atraentes. A base do DBMS da Actian \u00e9 o Redshift da Amazon, embora utilizem sistemas de arquivos diferentes. O software \u00e9 dispon\u00edvel para uso gratuito para arquivos de at\u00e9 500GB. O desafio \u00e9 a pouca base instalada do software e, consequentemente, a disponibilidade de m\u00e3o de obra. Entretanto, pelo seu custo e facilidades vale a pena formar especialistas nas empresas.<\/p>\n\n\n\n<p>A Amazon Web Service (<a href=\"aws.amazon.com\">aws.amazon.com<\/a>) oferece sua solu\u00e7\u00e3o Amazon Redshift, um servi\u00e7o de data warehouse na nuvem, o AWS Data Pipeline, desenhado para orquestrar os dados armazenados na AWS e, o Elastic MapReduce (EMR). Esse servi\u00e7o tem sinergia com as aplica\u00e7\u00f5es de usu\u00e1rios que tem suas aplica\u00e7\u00f5es hospedadas no AWS. Os servi\u00e7os de DBMS permitem a integra\u00e7\u00e3o dos dados e analises sem a necessidade de migra\u00e7\u00e3o para outros ambientes.<\/p>\n\n\n\n<p>A AWS possui parcerias com a SAP, incluindo o SAP Hana, e outros fornecedores de solu\u00e7\u00f5es de BI, como o Microestrategy, aumentando sua competitividade com as ofertas de IaaS (Infrastructure as a Services) e PaaS (Platforma as a Services). Entretanto, a efetiva atratividade por esses servi\u00e7os est\u00e1, diretamente, ligada a rede de parceiros da AWS que dever\u00e3o estar capacitados a configurar e treinar os profissionais das empresas no uso das ferramentas.<\/p>\n\n\n\n<p>A Cloudera (<a href=\"http:\/\/www.cloudera.com\">www.cloudera.com<\/a>) tem solu\u00e7\u00f5es de armazenamento de dados e uma plataforma de processamento baseada no Apache Hadoop, e ferramentas de gerenciamento de dados para design, desenvolvimento e opera\u00e7\u00e3o. Uma das vantagens da Cloudera \u00e9 a integra\u00e7\u00e3o com um grande n\u00famero de solu\u00e7\u00f5es de BI. Isso garante os investimentos j\u00e1 realizados em outras plataformas, como Teradata e Microsoft. O desafio da Cloudera \u00e9 a gest\u00e3o dos metadados e a pouca disponibilidade de m\u00e3o de obra especializada.<\/p>\n\n\n\n<p>A HP (<a href=\"http:\/\/www.hp.com\">www.hp.com<\/a>) possui solu\u00e7\u00f5es baseadas no HAVEn, um conceito que combina varias aquisi\u00e7\u00f5es de ferramentas anal\u00edticas debaixo de um \u00fanico nome. As solu\u00e7\u00f5es s\u00e3o da Vertica, Autonomy e Hadoop. A Vertica \u00e9 uma robusta solu\u00e7\u00e3o de software coluna-vetor para plataformas padr\u00f5es, exceto Windows, e atrav\u00e9s de uma edi\u00e7\u00e3o de colabora\u00e7\u00e3o gratuita, at\u00e9 1TB de dados e tr\u00eas nodes. A solu\u00e7\u00e3o re\u00fane as duas vis\u00f5es de data warehouse, a vis\u00e3o tradicional e a vis\u00e3o avan\u00e7ada utilizada pelas modernas ferramentas anal\u00edticas.<\/p>\n\n\n\n<p>A IBM (<a href=\"http:\/\/www.ibm.com\">www.ibm.com<\/a>) oferce solu\u00e7\u00f5es stand-alone, apliances para data warehouse e a z\/OS. A solu\u00e7\u00e3o dashDB \u00e9 um servi\u00e7o de data warehouse em Cloud Computing. Possui uma variedade de apliances: IBM zEnterprise Analytics System, PureData System, IDAA, IBM Smart Analytics System e outros. A abordagem da IBM para a nuvem inclui solu\u00e7\u00f5es de integra\u00e7\u00e3o e transforma\u00e7\u00e3o de dados para analytics. Seu PaaS para data warehouse usando dashDB, incluindo o formato linha-coluna na modalidade in-memory, pode ser integrada com o servi\u00e7o da banco de dados na nuvem Cloudant baseado em noSQL. Ou seja, a IBM tem um conjunto de solu\u00e7\u00f5es para gerenciamento de dados e ferramentas anal\u00edticas. Dif\u00edcil saber se a pr\u00f3pria IBM consegue avaliar qual a melhor solu\u00e7\u00e3o para seus clientes.<\/p>\n\n\n\n<p>A Microsoft (<a href=\"http:\/\/www.microsoft.com\">www.microsoft.com<\/a>) comercializa o SQL Server e o Microsoft Analytics Platform System, que combina o SQL Parallel Data Warehouse e HDInsight, al\u00e9m da sua solu\u00e7\u00e3o para a nuvem Azure. O SQL Server 2014 tem suporte para fun\u00e7\u00f5es anal\u00edticas e transacionais in-memory, dispon\u00edveis tamb\u00e9m no Azure. A Microsoft tem uma enorme base instalada e cresce r\u00e1pido no mercado com suas solu\u00e7\u00f5es anal\u00edticas. O Azure Stack, que permite a transi\u00e7\u00e3o do ambiente tradicional para a nuvem, dentro de uma vis\u00e3o de nuvem h\u00edbrida, permite a concentra\u00e7\u00e3o dos dados corporativos em uma \u00fanica plataforma e facilita o uso de ferramentas anal\u00edticas.<\/p>\n\n\n\n<p>A Oracle (<a href=\"http:\/\/www.oracle.com\">www.oracle.com<\/a>) tem v\u00e1rias solu\u00e7\u00f5es de DBMS, incluindo appliance para Hadoop, chamado Oracle Big Data Appliance. Provavelmente, a Oracle \u00e9 o maior fornecedor de solu\u00e7\u00f5es tradicionais de data warehouse. Isso acontece pelo alinhamento natural dos clientes que utilizam os bancos de dados Oracle. Entretanto, esse dom\u00ednio pode ser abalado com as solu\u00e7\u00f5es \u201cbest-fit\u201d dos outros fornecedores. As quest\u00f5es de custos e a forte depend\u00eancia de um \u00fanico fornecedor tiram a flexibilidade de solu\u00e7\u00f5es tecnol\u00f3gicas e de negocia\u00e7\u00e3o comercial dos clientes, tornando saud\u00e1vel uma diversifica\u00e7\u00e3o das tecnologias.<\/p>\n\n\n\n<p>A SAP (<a href=\"http:\/\/www.sap.com\">www.sap.com<\/a>) oferece solu\u00e7\u00f5es de linha-coluna (SAP IQ) e o SAP Hana uma solu\u00e7\u00e3o in-memory para analytics. Tamb\u00e9m oferecido como appliance. Talvez, a SAP seja a empresa que melhor esteja explorando os recursos da sua base instalada. O lan\u00e7amento do SAP S\/4HANA em 2015 para analises em tempo na nuvem, simplifica o acesso tanto de grandes clientes como de pequenos clientes. A grande vantagem da SAP \u00e9 a sua rede de canais que conhecem bem os clientes e est\u00e3o espalhados geograficamente, facilitando o suporte a solu\u00e7\u00e3o e empatia com os clientes.<\/p>\n\n\n\n<p>A Teradata (<a href=\"http:\/\/www.teradata.com\">www.teradata.com<\/a>) \u00e9 um tradicional fornecedor de solu\u00e7\u00f5es de data warehouse. Suas solu\u00e7\u00f5es incluem licen\u00e7as de DBMS, appliances e solu\u00e7\u00f5es para nuvem. A Teradata chama esse conjunto de solu\u00e7\u00f5es de Unified Data Architecture (UDA). Eles colecionam mais de 10.000 casos de sucesso em centenas de \u00e1reas de neg\u00f3cios. Existe um caso da Swisscom que, segundo eles, conseguiram reduzir em 40% os custos anteriores com a Oracle. Embora, segundo pesquisas, os clientes reclamam dos altos pre\u00e7os. Espera-se que a solu\u00e7\u00e3o em nuvem possa reduzir os pre\u00e7os.<\/p>\n\n\n\n<p>Como comentei no in\u00edcio, a sele\u00e7\u00e3o de uma solu\u00e7\u00e3o para gerenciamento de dados n\u00e3o \u00e9 trivial e requer um estudo cuidadoso e for\u00e7ar provas de conceito (PoC) de pelo tr\u00eas fornecedores para assegurar que a empresa est\u00e1 fazendo a melhor escolha. Isso inclui as solu\u00e7\u00f5es dispon\u00edveis na nuvem, que devem ser o foco dos novos servi\u00e7os dos fornecedores.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>O grande desafio das empresas \u00e9 integrar dados estruturados de seus bancos de dados relacionais e seus Data Warehouse com dados de outras bases, em diferentes formatos e formas de acesso. O uso de bases externas cresce, exponencialmente, com m\u00e9todos de aquisi\u00e7\u00e3o como o REST e web services. Cresce, tamb\u00e9m, o uso de dados provenientes [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[352,2,3,318,326],"tags":[328,329,319,330,331,321,204,323,322,332],"class_list":["post-2012","post","type-post","status-publish","format-standard","hentry","category-artigos","category-big-data-2","category-blog","category-cloud-computing","category-iot","tag-actian","tag-amazon-web-services","tag-aws","tag-cloudera","tag-hp","tag-ibm","tag-microsoft","tag-oracle","tag-sap","tag-teradata"],"jetpack_featured_media_url":"","jetpack_shortlink":"https:\/\/wp.me\/p8yInB-ws","jetpack-related-posts":[{"id":955,"url":"https:\/\/efagundes.com\/artigos\/inteligencia-de-mercado-com-big-data-e-cloud-computing\/","url_meta":{"origin":2012,"position":0},"title":"Intelig\u00eancia de mercado com Big Data e Cloud Computing","author":"Eduardo Fagundes","date":"1 de novembro de 2013","format":false,"excerpt":"O sonho dourado dos empreendedores e executivos de empresas \u00e9 criar produtos e servi\u00e7os para mercados de baixa concorr\u00eancia e com grande margem de lucro. Muitas vezes esse produto \u00e9 um \u201cOvo de Colombo\u201d. Aquele onde as pessoas dizem: \u201cComo n\u00e3o pensei nisso antes?\u201d. Um novo produto \u00e9 resultado da\u2026","rel":"","context":"Em &quot;Artigos&quot;","block_context":{"text":"Artigos","link":"https:\/\/efagundes.com\/artigos\/category\/artigos\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":398,"url":"https:\/\/efagundes.com\/artigos\/uma-nova-organizacao-para-big-data\/","url_meta":{"origin":2012,"position":1},"title":"Uma nova organiza\u00e7\u00e3o para Big Data","author":"Eduardo Fagundes","date":"26 de junho de 2014","format":false,"excerpt":"Qual a principal diferen\u00e7a entre Data Warehouse (DW) e Big Data? O DW \u00e9 utilizado para melhorar as tomadas de decis\u00e3o e o Big Data \u00e9 usado para a inova\u00e7\u00e3o. As empresas ter\u00e3o que tomar a decis\u00e3o de dividir seus sistemas de informa\u00e7\u00e3o no m\u00e9dio prazo. Uma para atender aos\u2026","rel":"","context":"Em &quot;Artigos&quot;","block_context":{"text":"Artigos","link":"https:\/\/efagundes.com\/artigos\/category\/artigos\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":1170,"url":"https:\/\/efagundes.com\/artigos\/manufatura-inteligente-e-a-internet-da-coisas\/","url_meta":{"origin":2012,"position":2},"title":"Manufatura Inteligente e a Internet das Coisas","author":"Eduardo Fagundes","date":"4 de dezembro de 2014","format":false,"excerpt":"Um estudo da American Society for Quality (ASQ) de dezembro de 2013 mostrou que apenas 13% das empresas de manufatura usavam conceitos e tecnologias de manufatura inteligente (Smarter Manufacturing) nas suas opera\u00e7\u00f5es, nos Estados Unidos. Das empresas que adotaram, 82% melhoram sua efici\u00eancia, 49% reduziram os defeitos de seus produtos\u2026","rel":"","context":"Em &quot;Artigos&quot;","block_context":{"text":"Artigos","link":"https:\/\/efagundes.com\/artigos\/category\/artigos\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":1252,"url":"https:\/\/efagundes.com\/artigos\/a-digitalizacao-da-operacao\/","url_meta":{"origin":2012,"position":3},"title":"A Digitaliza\u00e7\u00e3o da Opera\u00e7\u00e3o","author":"Eduardo Fagundes","date":"22 de janeiro de 2015","format":false,"excerpt":"A introdu\u00e7\u00e3o das tecnologias na ind\u00fastria \u00e9 feita em ondas. A Internet tem gerado v\u00e1rias ondas, come\u00e7ou com B2C (Business-to-Consumer), B2B (Business-to-Bussiness) e eGov (Governo Eletr\u00f4nico). Avan\u00e7ou para dispositivos m\u00f3veis (smartphones, tablets, console de games), ou seja, a Internet est\u00e1 em todos os lugares \u2013 Internet Everywhere. Agora chegou a\u2026","rel":"","context":"Em &quot;Artigos&quot;","block_context":{"text":"Artigos","link":"https:\/\/efagundes.com\/artigos\/category\/artigos\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":545,"url":"https:\/\/efagundes.com\/artigos\/big-data-o-desafio-da-coleta-transformacao-e-carga-de-dados\/","url_meta":{"origin":2012,"position":4},"title":"Big Data: O desafio da coleta, transforma\u00e7\u00e3o e carga de dados","author":"Eduardo Fagundes","date":"11 de novembro de 2014","format":false,"excerpt":"Comentar sobre os benef\u00edcios do Big Data \u00e9 desnecess\u00e1rio no atual est\u00e1gio do mercado. Quem ainda n\u00e3o se convenceu est\u00e1 fora do jogo. Basta lembrar que o McKinsey Global Institute apontou o Big Data entre as cinco oportunidades para o crescimento da economia americana. Um dos desafios para muitas empresas\u2026","rel":"","context":"Em &quot;Artigos&quot;","block_context":{"text":"Artigos","link":"https:\/\/efagundes.com\/artigos\/category\/artigos\/"},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":1273,"url":"https:\/\/efagundes.com\/artigos\/scada-big-data-six-sigma\/","url_meta":{"origin":2012,"position":5},"title":"SCADA, Big Data, Six-Sigma","author":"Eduardo Fagundes","date":"5 de mar\u00e7o de 2015","format":false,"excerpt":"O grande desafio da automa\u00e7\u00e3o industrial, predial e de concession\u00e1rias de servi\u00e7os p\u00fablicos (energia, \u00e1gua, petr\u00f3leo, g\u00e1s entre outros) \u00e9 reduzir o n\u00famero de falhas para aumentar a efici\u00eancia, objetivando menores custos de opera\u00e7\u00e3o. O cen\u00e1rio tecnol\u00f3gico \u00e9 complexo, n\u00e3o apenas pelas caracter\u00edsticas de medi\u00e7\u00f5es e controles, mas pela quantidade\u2026","rel":"","context":"Em &quot;Artigos&quot;","block_context":{"text":"Artigos","link":"https:\/\/efagundes.com\/artigos\/category\/artigos\/"},"img":{"alt_text":"figura-SCADA-Big-Data-Six-Sigma-v81","src":"https:\/\/i0.wp.com\/efagundes.com\/artigos\/wp-content\/uploads\/sites\/2\/2015\/03\/figura-SCADA-Big-Data-Six-Sigma-v81.png?resize=350%2C200","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/efagundes.com\/artigos\/wp-content\/uploads\/sites\/2\/2015\/03\/figura-SCADA-Big-Data-Six-Sigma-v81.png?resize=350%2C200 1x, https:\/\/i0.wp.com\/efagundes.com\/artigos\/wp-content\/uploads\/sites\/2\/2015\/03\/figura-SCADA-Big-Data-Six-Sigma-v81.png?resize=525%2C300 1.5x"},"classes":[]}],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/posts\/2012","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/comments?post=2012"}],"version-history":[{"count":0,"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/posts\/2012\/revisions"}],"wp:attachment":[{"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/media?parent=2012"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/categories?post=2012"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/efagundes.com\/artigos\/wp-json\/wp\/v2\/tags?post=2012"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}