Modelo de Dados: Entendendo e “re-”construindo...

39
Modelo de Dados: Entendendo e “re-”construindo... Wesley Seidel Carvalho @wseidel [email protected] [email protected]

description

Apresentação realizada em 24 de Abril na iMasters no evento 7Masters especial OpenData.

Transcript of Modelo de Dados: Entendendo e “re-”construindo...

Page 1: Modelo de Dados: Entendendo e “re-”construindo...

Modelo de Dados:Entendendo e “re-”construindo...

Wesley Seidel Carvalho

@[email protected]@intelidados.com.br

Page 2: Modelo de Dados: Entendendo e “re-”construindo...

Arquitetura de dados

● Escopo/Contexto● Modelo de Negócios / Conceitual● Modelo de Sistema / Lógico● Modelo Tecnológico / Físico● Configuração de Componentes

Page 3: Modelo de Dados: Entendendo e “re-”construindo...

Arquitetura de dados● Arquitetura Conceitual de Dados

– Visão de alto nível que dá suporte ao atendimento das necessidades do negócio de uma organização

● Arquitetura Lógica de Dados– Uma arquitetura lógica de dados descreve com precisão as

propriedades e os relacionamentos de cada uma das entidades de dados envolvidas em um domínio organizacional;

● Arquitetura Física de Dados– Engloba "arquitetura de banco de dados", que vem a ser um

esquema da tecnologia de banco de dados utilizado para viabilizar a realização de um projeto de arquitetura de dados;

Page 4: Modelo de Dados: Entendendo e “re-”construindo...

Arquitetura de dados(Restrições e influências)

● Requisitos organizacionais● Direcionadores tecnológicos● Fatores econômicos● Políticas de negócios● Necessidades de processamento de dados

Page 5: Modelo de Dados: Entendendo e “re-”construindo...

Arquitetura de dados

● O quê ?● Como ?● Onde ?● Quem ?● Quando ?● Por quê ?

Page 6: Modelo de Dados: Entendendo e “re-”construindo...

M.E.R.

● É um modelo abstrato cuja finalidade é descrever, de maneira conceitual, os dados a serem utilizados em um sistema de informações ou que pertencem a um domínio.

Page 7: Modelo de Dados: Entendendo e “re-”construindo...
Page 8: Modelo de Dados: Entendendo e “re-”construindo...
Page 9: Modelo de Dados: Entendendo e “re-”construindo...
Page 10: Modelo de Dados: Entendendo e “re-”construindo...
Page 11: Modelo de Dados: Entendendo e “re-”construindo...
Page 12: Modelo de Dados: Entendendo e “re-”construindo...

Dicionário de dados

● É uma coleção de metadados que contêm definições e representações de elementos de dados.

Page 13: Modelo de Dados: Entendendo e “re-”construindo...
Page 14: Modelo de Dados: Entendendo e “re-”construindo...

Sistemas legados● Normalmente são aplicações

– complexas;

– antigas;

– difícil manutenção;

– que pelo grau de criticidade e custo para modernização, continuam ativas;

Page 15: Modelo de Dados: Entendendo e “re-”construindo...

Tá, eae? E sobre os dados abertos?● dados são abertos quando qualquer pessoa pode

livremente usá-los, reutilizá-los e redistribuí-los, estando sujeito a, no máximo, a exigência de creditar a sua autoria e compartilhar pela mesma licença.

Fonte: http://dados.gov.br/dados-abertos/

Page 16: Modelo de Dados: Entendendo e “re-”construindo...

Tá, eae? E sobre os dados abertos?● Os dados abertos também são pautados ...

– ...por três leis:1.Se o dado não pode ser encontrado e indexado na Web, ele

não existe;

2.Se não estiver aberto e disponível em formato compreensível por máquina, ele não pode ser reaproveitado; e

3.Se algum dispositivo legal não permitir sua replicação, ele não é útil.

Fonte: http://dados.gov.br/dados-abertos/

Page 17: Modelo de Dados: Entendendo e “re-”construindo...

Tá, eae? E sobre os dados abertos?● Os dados abertos também são pautados ...

– ...e oito principios:1.Completos.

2.Primários.

3.Atuais.

4.Acessíveis.

5.Processáveis por máquina.

6.Acesso não discriminatório.

7.Formatos não proprietários.

8.Livres de licenças.

Fonte: http://dados.gov.br/dados-abertos/

Page 18: Modelo de Dados: Entendendo e “re-”construindo...

Dados governamentais.● Nem sempre estão bonitos como queríamos, pois

geralmente:– Não seguem todas as pautas do OpenData;

– Não disponibilizam o dicionário de dados;● Talvez não tenha mesmo.

– Não disponibilizam o M.E.R.● Também talvez não tenham...

– Está em formato proprietário;

– Está em formato antigo;

– Etc, etc, etc....

Page 19: Modelo de Dados: Entendendo e “re-”construindo...

Dados governamentais.

● Em boa parte das vezes que está disponível podemos encontrá-los em:– XL$

– CSV

– DBF ( o.O )

– GDB

– TXT ( seja TSV ou campos posicionais )

– PDF

Page 20: Modelo de Dados: Entendendo e “re-”construindo...

Então...

Page 21: Modelo de Dados: Entendendo e “re-”construindo...
Page 22: Modelo de Dados: Entendendo e “re-”construindo...

Engenharia Reversa...

● ... consiste em usar a criatividade para, a partir de uma solução pronta, retirar os possíveis conceitos ali empregados

Page 23: Modelo de Dados: Entendendo e “re-”construindo...

Data Integration

FONTE TRANFORMAÇÕES CARGA

Page 24: Modelo de Dados: Entendendo e “re-”construindo...

Pentaho Data Integration

FONTE TRANFORMAÇÕES CARGA

-XL$-CSV-DBF-XML-JSON-TXT...-BLA-BLE-BLI

-SGBD-MySQL-Postgre-MariaDB...

AAAAA aaaaaa

3337775522 33.37.77.55-22

Page 25: Modelo de Dados: Entendendo e “re-”construindo...

Pentaho Data Integration

FONTE TRANFORMAÇÕES CARGA

Page 26: Modelo de Dados: Entendendo e “re-”construindo...

Pentaho Data Integration

FONTE TRANFORMAÇÕES CARGA

Page 27: Modelo de Dados: Entendendo e “re-”construindo...

Pentaho Data Integration

Page 28: Modelo de Dados: Entendendo e “re-”construindo...

Pentaho Data Integration

Page 29: Modelo de Dados: Entendendo e “re-”construindo...

Pentaho Data Integration

Page 30: Modelo de Dados: Entendendo e “re-”construindo...

Pentaho Data Integration (kettle)

● Onde obter:

– http://kettle.pentaho.com/

Page 31: Modelo de Dados: Entendendo e “re-”construindo...

Obrigado...

...se ainda tiver tempo...

Page 32: Modelo de Dados: Entendendo e “re-”construindo...

Pesquisas realizadas:

Page 33: Modelo de Dados: Entendendo e “re-”construindo...

Pesquisas realizadas:

http://www.cgu.gov.br/sorteios/index1.asp

Page 34: Modelo de Dados: Entendendo e “re-”construindo...

Pesquisas realizadas:

Alocando Locais de votação em setores censitários.

Page 35: Modelo de Dados: Entendendo e “re-”construindo...

Pesquisas realizadas:

Page 36: Modelo de Dados: Entendendo e “re-”construindo...
Page 37: Modelo de Dados: Entendendo e “re-”construindo...
Page 38: Modelo de Dados: Entendendo e “re-”construindo...

18.097.608

Page 39: Modelo de Dados: Entendendo e “re-”construindo...

Agora sim...

… Obrigado!

Wesley Seidel Carvalho

@[email protected]@intelidados.com.br