Slides machine learning festival path pdf

45
1 Machine Learning: o combustivel da inteliGENCIA ARTIFICIAL FABIO BOTTURA [email protected] http://facebook.com/casavaticano ´ ˆ

Transcript of Slides machine learning festival path pdf

1

Machine Learning:o combustivel da inteliGENCIA ARTIFICIAL

FABIO [email protected]

http://facebook.com/casavaticano

´ ˆ

Objetivo da apresentacao

NUNCA OUVI FALAR

SEI DO QUE SE TRATA

SEI COMO SE FAZ SEI FAZER

Fundamentos Matemáticos

Tecnologia

Regras de Negócio

Machine Learning

Pesquisa Tradicional

Zona de Perigo Data

Science

• oportunidades • aplicacoes • avaliar o impacto

2

3

Text

Partes da apresentacao

FUNDAMENTOS

APLICAÇÕES PRÁTICAS

APLICAÇÕES AVANÇADAS E FUTURO

O QUE E MACHINE LEARNING?

COMO RECONHECEMOS UMA PESSOA?

If (x=y) { faça isso } else { faça aquilo }

SOFTWARE TRADICIONAL

95%10%

60%

4

Onde e utilizado hoje?

5

Ficcao x realidade

ELON MUSKSTEPHEN HAWKING

6

COMO E POSSIVEL?

Inventadas por Newton e Leibiniz no século XVII.

DERIVADASInventadas na década de 40, tiveram grande desenvolvimento na década de 80.

REDES NEURAIS

7

Corrida do ouro

8

COMO ENSINAR UMA MAQUINA A PENSAR?

APRENDIZADO NÃO-SUPERVISIONADO

• AGRUPAMENTO

APRENDIZADO SUPERVISIONADO

• REGRESSÃO LINEAR • REGRESSÃO LOGÍSTICA

9

IDADE, SEXO, RENDA, SITES VISITADOS, BUSCAS REALIZADAS, COMPRAS ANTERIORES.

CÂMBIO, JUROS, BALANÇOS, COTAÇÕES ANTERIORES, OUTRAS EMPRESAS, ORDENS PENDENTES.

BID DE MÍDIA PROGRAMÁTICA

DOSAGEM DE MEDICAMENTOS

VALOR DE UMA AÇÃO

REGRESSAO LINEAR

OCORRÊNCIA DE PALAVRAS, NÚMEROS, VALORES MONETÁRIOS.

VALOR, LOCAL, ESTABELECIMENTO E HORÁRIO DE UMA TRANSAÇÃO.

CONTEÚDO DE TEXTOS E IMAGENS, AUTOR DO POST, INTERAÇÕES ANTERIORES, DATA, HORA.

SPAM

DETECÇÃO DE FRAUDE

TIMELINE DE REDES SOCIAIS

REGRESSAO LOGISTICA

PESO, IDADE, SEXO, EXAMES CLÍNICOS.

VALORES ESCALARES

VALORES BINÁRIOS (CLASSIFICAÇÃO)

10

X Y

Regressao linear: Previsao ou geracao de valores escalares

11

CJTO TREINO

CONJUNTO DE TREINO

CONJUNTO DE TESTE

PREVISÃO APÓS ALGORITMO TREINADO

Regressao linear: Previsao ou geracao de valores escalares

12

tipos de Funcoes x parametros

y=x

y=2x

y=1

1+ey= x

y=x

METRAGEM? IDADE?

13

Expandindo os PARAMETROS - POLINOMIAIS

14

Achando a formula: MINIMIZANDO O ERRO

1. Aplicar valores aleatórios para os pesos dos parâmetros.

2. Calcular as hipóteses (h) de valor com os pesos aleatórios.

3. Calcular o erro médio para todo o conjunto de exemplos de treino.

SE A DERIVADA FOR NEGATIVA, AUMENTAR O PESO DE X

SE A DERIVADA FOR POSITIVA, DIMINUIR O PESO DE X.

CURVA DO ERRO

15

Achando a formula: Gradient descent

1. Aplicar valores aleatórios para os pesos dos parâmetros.

2. Calcular as hipóteses (h) de valor com os pesos aleatórios.

3. Calcular o erro médio para todo o conjunto de exemplos de treino.

4. Calcular a derivada para cada parâmetro e ajustar os pesos de acordo.

5. Voilá! Temos um algoritmo treinado.

ESTE CICLO SE REPETE ATÉ ALCANÇAR O ERRO MÍNIMO

CURVA DO ERRO

16

Gradient descent passo a passo

17

PERMITINDO O USO DA DERIVADA E DO GRADIENT DESCENT PARA TREINAR O ALGORITMO.

Regressao logistica: classificacao

OS VALORES DA HIPÓTESE SÃO PASSADOS PELA FUNÇÃO SIGMÓIDE PARA RESTRINGIR OS RESULTADOS A 0 E 1.

NA REGRESSAO LOGÍSTICA, OS VALORES DO CONJUNTO DE TREINAMENTO SÃO NA FORMA 0 E 1.

18

REGRESSOES X REDES NEURAIS

REGRESSÃO LINEAR E REGRESSÃO LOGÍSTICA CONVENCIONAIS

CONEXÕES ENTRE NEURÔNIOS NO CÉREBRO HUMANO

19

20

Redes NEURAIS e deep learning

FORWARD PROPAGATION

BACK PROPAGATION

REDES NEURAIS E DEEP LEARNING

20

Redes NEURAIS e deep learning

FORWARD PROPAGATION

BACK PROPAGATION

REDES NEURAIS E DEEP LEARNING

NUM SEI, SÓ SEI QUE FOI

ASSIM

Intuicoes sobre o funcionamento

21

0 1

V

VD

D0 1

Intuicoes sobre o funcionamento

22

0 1

V

VD

D0 1

Intuicoes sobre o funcionamento

23

1=FACE 0=NÃO

Computer vision: reconhecimento de faces

CADA PIXEL É UM PARÂMETRO

24

DEEP LEARNING PARA RECONHECIMENTO DE IMAGENS

25

TUDO DEPENDE DOS DADOS ROTULADOS para treinamento

REGRESSÃO LINEAR

tristeza susto raiva repulsa surpresa alegria

leve

int

ensa

26

Conjuntos de treinamento artificiais

ÂNGULO LUZ FOCO MEIO COR

27

Deteccao em imagens nao normalizadas

STEPJANELA

FACE DETECTADA

28

VIDEO 1 - DIGITS RECOGNITION

29Vídeo de Yann LeCun: http://yann.lecun.com/

VIDEO 1 - DIGITS RECOGNITION

29Vídeo de Yann LeCun: http://yann.lecun.com/

George hotz: carro autonomo FEITO NUMA GARAGEM

30

Processamento de linguagem natural

• ANÁLISE DE SENTIMENTO. • RESUMO E EXTRAÇÃO DE IDÉIA CHAVE. • PERGUNTAS E RESPOSTAS. • TRADUÇÃO. • DETECÇÃO DE PLÁGIO.

31

Processamento de linguagem natural

• ANÁLISE DE SENTIMENTO. • RESUMO E EXTRAÇÃO DE IDÉIA CHAVE. • PERGUNTAS E RESPOSTAS. • TRADUÇÃO. • DETECÇÃO DE PLÁGIO.

1. Detecção das palavras: substantivos, adjetivos e verbos.

mulher

câmera gato

multidão

lilás

segurando

2. Formação de frases: • câmera segurando mulher lilás. • lilás segurando mulher na multidão.

3. Ranking de frases: #1 = mulher segurando câmera na multidão.WORDNET

32

Redes NEURAIS generativas

SONHAR / IMAGINAR: GERAR VALORES QUE ATENDAM AOS PESOS DA REDE NEURAL

33

Video 3 - imaginando digitos

34

Vídeo de Geoffrey Hinton: http://www.cs.toronto.edu/~hinton/adi/index.htm

Video 3 - imaginando digitos

34

Vídeo de Geoffrey Hinton: http://www.cs.toronto.edu/~hinton/adi/index.htm

IMAGENS GERADAS POR REDES NEURAIS

35

Leon A. Gatys, Alexander S. Ecker e Matthias BethgeUniversidade de Tubingen - Alemanha.

IMAGENS GERADAS POR REDES NEURAIS

36

37

ALGORITMOS GENETICOS E APRENDIZADO por comportamento

Vídeo de University of Wyoming: http://www.evolvingai.org/videos

37

ALGORITMOS GENETICOS E APRENDIZADO por comportamento

Vídeo de University of Wyoming: http://www.evolvingai.org/videos

HTM: hierarquical temporal memory

ESTRUTURA TRIDIMENSIONAL EM CAMADAS QUE SIMULAM A ESTRUTURA DO NEOCORTEX HUMANO.

LEVA EM CONSIDERAÇÃO A ORDEM DE CHEGADA DOS DADOS, ADICIONANDO A NOÇÃO DE TEMPO AO APRENDIZADO.

38

RESUMINDO: O CEU E O LIMITE

• PRATICAMENTE TUDO ONDE EXISTA UMA REGRA OBJETIVA OU SUBJETIVA, TEM POTENCIAL PARA SER APRENDIDO PELAS MÁQUINAS.

• IMPACTOS E OPORTUNIDADES NAS ÁREAS DE SAÚDE, SERVIÇOS, ENGENHARIAS, ENTRE MUITAS OUTRAS.

• A LONGO PRAZO, ATÉ MESMO O PRÓPRIO DESENVOLVIMENTO DE SOFTWARE PODE SER AFETADO. EX.: PBE PROGRAMMING BY EXAMPLE.

39

40

E O QUE VOCE ACHA DISSO TUDO?

TEMPO...

OPORTUNIDADES

APOCALIPSE DIGITAL?