Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

47
Métodos Digitais para Análise de Dados Prof. Dalton Mar6ns [email protected] Faculdade de Informação e Comunicação Aula 07 – Fontes de informação digitais: 6pos de dados, formatos e suas caracterís6cas

Transcript of Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Page 1: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

MétodosDigitaisparaAnálisedeDados

[email protected]çãoeComunicação

Aula07–Fontesdeinformaçãodigitais:6posdedados,formatosesuascaracterís6cas

Page 2: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

FontesdeInformaçãol  Hádiversos6posdefontesdeinformaçãoquepodemserúteis

paraoJornalismodedados:-  Páginasweb-webscrapping

-  Qualquersiteéumafontedeinformaçãoempotencialparaserminerado-  Exemplos:Wikipedia,MercadoLivre,Google,TripAdvisor,Decolar,Booking,etc...

-  Mecanismosdebusca:l  Google,Yahoo,etc...

-  Sitesins6tucionais:l  Portaisdetransparência,portaisdedadosabertos;

-  Ins6tuiçõesdepesquisa:l  IBGE,IPEA,IMB,etc...

-  MídiasSociais:l  Blogs,twi]er,facebook,etc...

-  BibliotecasDigitais:l  BDTDs,etc...

-  Portaiscien^ficos:l  GoogleScholar,La]es,CNPq,CAPES,WebOfScience,Scielo,etc...

Page 3: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Páginasweb•  Hámuitoconteúdooriundodepáginaswebquepodemosterointeressede

coletareanalisar:–  Automa6zaracoletadegrandequan6dadedeinformação–tornandopra6camenteinviável

coletarmanualmente;–  Comoosdadosestãoorganizados;–  Encontrartendênciasepadrões;–  Encontrarnovidades;–  Aproveitaranálisescole6vasparafiltrarinformaçãoequalificarresultados;–  Tomardecisõesapar6rdeflutuaçõesdinâmicasnospadrõesdosdados...

•  Vejamos3exemplosdeaplicaçõesdecoletadedadosdepáginasweb(essaspesquisasseriampra6camenteimpossíveisdeseremfeitasmanualmente):

–  Coletarautoma6camentepreçosdeumprodutoparaavaliartendênciasdeoscilaçãoaolongotempoegerarsérieshistóricasdecomparaçãonoMercadoLivre;

–  Analisaroqueinternautasestãofalandosobreumhotel,avaliandoseuscomentárioselevandoessainformaçãoemconsideraçãoparaaçõesdegestãousandodadosdoTripAdvisor;

–  PesquisarsobrecomofilmesbrasileirossãodefinidosedescritosnaWikipedia.

Page 4: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais
Page 5: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais
Page 6: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais
Page 7: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais
Page 8: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Webscraping

Coletadadosdesestruturadosousemi-estruturadoseenviaparatecnologiasdeestruturaçãodainformação,taiscomoplanilhas,bancosdedados,documentos.

Page 9: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Mecanismosdebusca

São ferramentas de busca genéricas, identificando os sites mais relevantes para um tema de busca desejado. A relevância é construída com base na citação dos sites por outros sites, ou seja, quanto mais linkado um site for por outros mais próximo dos primeiros resultados de busca ele se torna → filtro de relevância social

Page 10: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Mecanismosdebuscal  Pontosposi6vosdosmecanismosdebusca:-  Potentefiltroderelevânciasocial;-  Permitempesquisaremdiferentesmídias,taiscomoimagens,vídeos,no^ciaseblogs;

-  Permitemrapidamenteobteralgunsresultadosrelevanteseresolveramaiorpartedasquestões.

l  Pontosnega6vosdosmecanismosdebusca:-  Temostempoedisposiçãodenavegarpelas2ou3primeiraspáginasnomáximo;

-  Ainformaçãoretornademaneiradesestruturada:édilcilcoletartodosossiteseavaliaramassadedadosemconjunto.

Page 11: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Mecanismosdebuscal  Existemalgumasferramentasqueajudamaterumpanoramageraldoquetemsidopesquisadonessesmecanismos:-  GoogleTrends

l  h]p://www.google.com/trends/?hl=pt-BR_ALLl  ferramentadogooglequepermitesabermosoquetemsidopesquisadono

mundo;l  Permitetambémcompararmostermosdebuscaparaanalisaradiferençade

interessenelesporpartedosusuáriosdogoogle.-  GoogleAlerta

l  h]ps://www.google.com.br/alertsl  Permitevocêcriarno6ficaçõesparareceberumlinktodavezquesua

expressãodeinteresseaparecernawebl  GoogleAdWords:

l  h]ps://adwords.google.com/KeywordPlanner?hl=pt-brl  Permitecompararvolumesdebuscasporpalavras-chave.

Page 12: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

MecanismosdebuscaGoogleTrends

Page 13: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

MecanismosdebuscaGoogleTrends

Page 14: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

MecanismosdebuscaGoogleAlerta

A informação chega até você!

Page 15: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais
Page 16: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Sitesins6tucionais

l  Devidoaimportantesmovimentossociais,háhojenoBrasilalgumasaçõesfundamentaisnosen6dodeforneceremdadosdeaçõesins6tucionais:-  LeideAcessoàinformação–18/11/2011

l  h]p://www.planalto.gov.br/ccivil_03/_ato2011-2014/2011/lei/l12527.htm

-  LeiComplementardaTransparência–27/05/2009l  h]p://www.planalto.gov.br/ccivil_03/leis/lcp/lcp131.htm

-  Porcontadisso,osgovernosfederal,estaduaisemunicipaispassaramadesenvolverPortaisdeTransparênciaedisponibilizardadosdaGestãoPúblicapara“fácil”acessoaocidadão!→fontesfundamentaisparaJornalismodeDados.

Page 17: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Sitesins6tucionais

l  GovernoFederal:h]p://www.portaltransparencia.gov.br/

Page 18: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Sitesins6tucionais

l  GovernoFederal:h]p://www3.transparencia.gov.br/TransparenciaPublica/

Page 19: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Sitesins6tucionaisl  GovernosEstaduaisl  Todososgovernos

possuemportais,emestágiosdiferentesdedesenvolvimento;

l  Atabelaaoladoécriadapelainicia6vaÍndicedeTransparência;

l  ParceriaentreOAB–OrdemdosAdvogadosdoBrasileCentrodeEstudosdeOpiniãoPública(CESOP)daUnicamp

Page 20: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Sitesins6tucionaisl  GovernosMunicipaisl  Ainicia6vatambém

avaliaváriascidadescommaisde200.000habitantes;

l  Atabelaaoladoapresentaoestadodascapitaisbrasileiras.

Page 21: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Sitesins6tucionais

l  Essessitesforneceminformaçõesvariadassobre:-  Gastosdogoverno;-  Formasdecontratação;-  Áreasdeinves6mento;-  Empresascontratadas;-  Descentralizaçãoderecursos;-  Saláriosdefuncionários;

l  Permitemamplaspesquisaecruzamentosdedados.

Page 22: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  IBGE–Ins6tutoBrasileirodeGeografiaeEsta^s6ca-  h]p://www.ibge.gov.br/home/-  Umadasprincipaisfontesdeesta^s6casbrasileiras-  Diversosestudosespeciais

l  h]p://www.ibge.gov.br/home/esta6s6ca/pesquisas/estudos_especiais.php

Page 23: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  IPEA–Ins6tutodePesquisaEconômicaAplicada-  Fornecesériesdedadosmacroeconômicos,regionaisesociais.

-  h]p://www.ipeadata.gov.br/

Page 24: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  IPEA–Ins6tutodePesquisaEconômicaAplicada-  Dadosmacroeconômicos:

l  Basededadoseconômicosefinanceirosman6dapeloIpeaincluindosériesesta^s6casdaeconomiabrasileiraedosaspectosquelhesãomaisper6nentesnaeconomiainternacional.Osdadossãoatualizadosedocumentadosdeformasistemá6caeapresentadosnamesmaunidademonetária.Recursosdisponíveispermitemamanipulaçãomatemá6caeaextraçãodosresultadosemplanilhasougráficos.

-  Dadosregionais:l  Basededadosdemográficos,econômicosegeográficosparaasregiões,estadosemunicípiosbrasileirosqueseiniciam

noCensoDemográficode1872.Abuscadassériesesta^s6caspodeserfeitapor"Palavras-chave"nasuadescrição,"Temas"ouassuntosdeinteresse,"Fontes"depublicaçãooupelo"Nívelgeográfico"paraoqualépossívelagregarosdados.

-  Dadossociais:l  Basededadoseindicadoressociaisabrangendotemasdiversos,comonívelderendapercapita,desigualdadena

distribuiçãoderendadosindivíduosedomicílios,desempenhoeducacional,condiçõesdesaúdeehabitação,inserçãonomercadodetrabalho,situaçãodosdireitoshumanosdapopulação,entreoutros.

Page 25: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  IPEA–Ins6tutodePesquisaEconômicaAplicada-  Possuiinteressanteericomaterialdepublicaçõesquesetornamfontedeconsultafundamentais

l  h]p://www.ipea.gov.br/portal/index.php?

op6on=com_alphacontent&view=alphacontent&Itemid=357

Page 26: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  INEP–Ins6tutoNacionaldeEstudosePesquisasEducacionaisAnísioTeixeira-  h]p://portal.inep.gov.br/-  PossuiricoacervodedadossobreeducaçãonoBrasil:censoescolardaeducaçãobásica,educaçãosuperior,indicadoresdedesempenho(ideb,enade,saebe,enem,etc...)

l  h]p://portal.inep.gov.br/ins6tucional-guia_sistemas

Page 27: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  DATASUS–empresadeprocessamentodedadosdoMinistériodaSaúde;-  PossuiumprojetochamadoTABNET–InformaçõesdeSaúde

l  h]p://www2.datasus.gov.br/DATASUS/index.php?area=02

Page 28: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  Ins6tutoMauroBorgesdeEsta^s6caseEstudosSócioEconômicos–IMB-  DadosespecíficosdoestadodeGoiás-  h]p://www.imb.go.gov.br/

Page 29: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Ins6tuiçõesdepesquisa

l  Háváriasoutrasins6tuiçõesdepesquisadeestados,municípiosemesmoprivadasquepodemserinteressantedesepesquisarsobreumdeterminadoassunto;

l  Valesempreavaliarseexistealguémouumains6tuiçãoquejáproduzpesquisaesérieshistóricasdeindicadoressobreumtema:-  Permiteanálisescompara6vasemesmoacrí6caaosmeiosdeconstruçãodessesindicadores.

Page 30: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

MídiasSociais

l  SistemasWebqueservemcomoplataformasdemídiassociaissãohojeumafonteenormedeinformaçãoparaproduçãodepesquisas;

l  Amaioriadessasplataformaspossuiumainterfaceparaconsultarseusdadosegeraranálises;

l  Hámuitosso�waresinteressantesquepermitemconsultaressesdadosemtemporealeentendermelhoroqueseususuáriosestãoproduzindo.

l  Vejamosporplataforma!

Page 31: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

APIs•  AformamaiscorretadenoscomunicarmoscomumamídiasocialépormeiodeumaAPI(pormeiodeumprogramadecomputador):

Page 32: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais
Page 33: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

APIFacebook

h]ps://developers.facebook.com/docs/graph-api?locale=pt_BR

Page 34: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Webscrapingdemídiassociais

•  Umaoutraformadecoletarmosdadosdemídiassociais,maisfáciltecnicamente,éu6lizarmosferramentasdewebscrapingemcimadessessites;

•  Osdadospodemsairmenosprecisosemaisdesorganizados,masemgeral,essatécnicapodesermaisrápidaefácilparacasosdepequenoamédioporte.

Page 35: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

BibliotecasDigitais

l  Sãorepositóriosdeconteúdosemgeralu6lizadasporuniversidadesparadepósitodedissertaçõesdemestradoetesesdedoutorado,entreoutros6posdemonografias.

l  UmadasmaisimportanteséaBDTD–BibliotecaDigitaldeTeseseDissertaçõesdoIBICT–Ins6tutoBrasileirodeInformaçãoCien^ficaeTecnológica:-  h]p://bdtd.ibict.br/-  Possuimaisde248.900documentosdigitalizadosemaisde90universidadesbrasileirasintegramorepositório.

Page 36: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

BibliotecasDigitais

l  Muitasuniversidadespossuemseusprópriosrepositóriosepodemserconsultadosparagerarpesquisaslocaisemapasdeconhecimentoins6tucionais:-  UFG-h]p://repositorio.bc.ufg.br/tede/-  USP-h]p://www.teses.usp.br/

l  Fornecemestudosqualificadossobretemasdeinteressealémdefacilitarencontrarpessoasegruposdepesquisaqueestãotrabalhandocomessestemas.

Page 37: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

PortaisCien^ficosl  Aproduçãocien^ficaéumadasáreasmaisavançadasemtermos

dedocumentaçãoeregistrodigitaldesuaprodução;l  Háváriasferramentasetecnologiasdeapoioqueajudama

iden6ficaremapearaproduçãodepesquisanoBrasilenomundo;l  Sãofontesestratégicasparaseconhecernovastendências,novas

pesquisas,áreasdeinovação,temasemergenteseproduzirumavisãogeralsobreinteressesdetemasdepesquisa.-  Permitemcri6carepropornovasáreas,perceberondehá

centrosdeexcelência,anecessidadedeinves6mentos,entrevárioselementosinteressantes.

Page 38: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

GoogleScholarl  h]p://scholar.google.com.br/l  Permitepesquisaemar6gos,livrosepublicaçõesacadêmicas.

Page 39: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

PlataformaLa]esl  Plataformaquecadastratodosospesquisadoresbrasileirosemdiversosníveise

áreasdeconhecimento.l  Permitebuscarpesquisadoresporáreadeinteresseeconhecerpessoasquesão

especializadaseproduzempesquisanessasáreas.l  h]p://la]es.cnpq.br/

Page 40: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

DiretóriodeGruposdePesquisa

l  h]p://dgp.cnpq.br/dgp/faces/consulta/consulta_parametrizada.jsfl  Plataformaquedáacessoaosgruposdepesquisaexistentesnopaísportemas,

pessoas,ins6tuiçãoelinhasdepesquisa.

Page 41: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

MapadeInves6mentosdoCNPq

l  h]p://efomento.cnpq.br/efomento/distribuicaoGeografica/distribuicaoGeografica.do?metodo=apresentarl  PermitevisualizaradistribuiçãodebolsasdoCNPqpelopaís,porcategorias,ins6tuições,estadosentreoutros...

Page 42: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

GeoCapesl  h]p://geocapes.capes.gov.br/geocapesds/#l  DistribuiçãodebolsasdaCAPESpelopaís

Page 43: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

PlataformaSucupiral  Plataformaqueagregatodaaproduçãocien^ficadosprogramasdeMestradoe

DoutoradodoBrasill  h]ps://sucupira.capes.gov.br/sucupira/

Page 44: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Scielol  Principalportalderevistascien^ficasdoBrasill  Agregamaisde500.000ar6gosdemaisde1100periódicos;l  h]p://www.scielo.org/php/index.php

Page 45: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

WebOfSciencel  Umdosprincipaisportaisderevistascien^ficasdomundo→permiteteruma

noçãodoqueasprincipaisins6tuiçõesdepesquisaestãofazendoedescobrirondetemasdeinteresseestãosendopesquisados;

l  h]p://www.webo�nowledge.com/

Page 46: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Scopusl  Étambémumdosprincipaisportaisderevistascien^ficasdomundo→permite

terumanoçãodoqueasprincipaisins6tuiçõesdepesquisaestãofazendoedescobrirondetemasdeinteresseestãosendopesquisados;

l  h]p://www.scopus.com/

Page 47: Métodos Digitais para Análise de Dados - Aula 07 - Fontes de informação digitais

Paraapróximaaula

•  Parafacilitariniciarmosotrabalhosobreoar6godeavaliaçãodadisciplina,considereasseguintesquestões:– Qualoproblemadepesquisavocêpretendetrabalhar?

– Que6podepesquisavocêpretenderealizar?(olhenasprimeirasaulasdadisciplina)

– Que6podeinformaçãovocêprecisacoletar?– Queperíododetempovocêprecisaparasuaanálise?– Quefontedeinformaçãovocêplanejau6lizar?