III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e...

Post on 17-Apr-2015

115 views 0 download

Transcript of III Simpósio Brasileiro de Engenharia de Avaliações Redes Neurais Artificiais: Fundamentos e...

III Simpósio Brasileiro de Engenharia de AvaliaçõesIII Simpósio Brasileiro de Engenharia de Avaliações

Redes Neurais Artificiais: Redes Neurais Artificiais: Fundamentos e Aplicação na Fundamentos e Aplicação na Previsão de Séries TemporaisPrevisão de Séries Temporais

Prof. Dr. Cairo L. Nascimento Jr.Prof. Dr. Cairo L. Nascimento Jr.Divisão de Engenharia EletrônicaDivisão de Engenharia Eletrônica

Instituto Tecnológico de AeronáuticaInstituto Tecnológico de AeronáuticaE-mail: cairo@ita.brE-mail: cairo@ita.br

Home Page: http://www.ele.ita.br/~cairo/Home Page: http://www.ele.ita.br/~cairo/

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Problema atacado:– assumindo-se que existe a relação não-

linear y = f(x), onde a função f é desconhecida,

– conhecendo-se N pontos de pares (x,y),

– deseja-se reconstruir a função f.

Reconstrução de hipersuperfícies

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Abordagem Linear:

• Abordagem Neural:

P

jjj xwy

1

i

P

jjij

M

ii xwghy

11

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Modelo Linear com q saídas:y

1x

W 1 1

L

u n i d a d el i n e a r

LL L

y1

q p

c a m a d ad e e n t r a d a

2x x p

L L

W

q

L

y2 3

L

y

c a m a d ad e s a í d a

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Modelo Neural com q saídas:

N L

U n i d a d eN ã o L i n e a rN L ==

L

+ 1x x1 2

L

N L

+ 1N L

LU n i d a d eL i n e a r=

1 2

L L

y y

c a m a d ae s c o n d i d a

c a m a d ad e e n t r a d a

L

x3

L

x p

N L

3

LL c a m a d ad e s a í d a

y y q

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Parâmetros do modelo linear:– w1 até wp ,

– total: P+1 parâmetros

• Parâmetros do modelo neural:– função g (ex. tangente hiperbólica)

– h1 até hM, ; para cada hi: wi1 até wip, i

– total: M (P+1) + 1

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Cada unidade da camada escondida implementa um hiperplano.

• As funções AND e OR não precisam de camada escondida e são ditas funções linearmente separáveis.

• A função XOR não é linearmente separável.

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Funções OR, AND e XOR:

A N D

S . D .

0

0= 0 o r - 1

1X

10

2

1

S . D .

X O R 2

1

X

01

= 11

X0

S . D . 21

X1

1

2XS . D . 1

X O R

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• XOR:

1x x 2

x + x

00

3

x2

1x

4

- 0 . 5 1 1

- 1- 0 . 5

+ 1

- 11L

- 0 . 53

+ 1

x

1L

4x

y

3

o u ( 1 , 1 )( 0 , 0 ) 0

0x

1

( 1 , 0 )

S . D .

( x , x ) = ( 0 , 1 )1

1

x4

2= 1= 0

1

1

1 0

1

0

0 0

1 10

0 00

0 11

0 00

2xx 1 xx 3 y4

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• XOR:

( x , x ) = ( 0 , 1 )

o u ( 1 , 0 )

1 2

x

0 x1

0

2

x - x4 3

1

1

- 0 . 5

+ 1

+ 1

- 1 . 5

3 4

L11 1

x

L

- 0 . 5

1

x

- 1x

1

y

x

( 1 , 1 )

S . D .

( 0 , 0 ) 0

0

1

21

x4

= 0

x3

= 1

1

1

0

111 0

1

1

0

00

1 1

1

xx

0

1

0

x

00

x2 3

0

y4

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• XOR com ligação direta entrada-saída:

0

0

0

1

x ( 1 , 1 , 1 )

- 2

- 1 . 5

+ 1x 1

1L

- 0 . 5x 3

1

x 2

1L 11

01

1

00

10

xx 1 2

y

x

( 0 , 1 , 0 )

x

( 0 , 0 , 0 )0

1 2

0

1

y33

( 1 , 0 , 0 ) x 1

= 0 = 1

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Princípio do método para obtenção dos pesos a partir dos N pares (x,y):– selecionar um par (x,y) do conjunto de

treinamento,

– calcular este x a saída da RNA = yRNA,

– calcular E = y - yRNA,

– alterar o peso na direção que diminui E2.

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

Problema de Reconhecimento de Imagens Ruidosas

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Abordagem Neural:

biasbiasxwghy i

N

jjij

M

ii

11

biasbiasjtxwghty i

N

jij

M

ii

11

1)(

biasbiasjtxwghty i

N

jij

M

ii

11

1)(

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Abordagem Linear:

biasxwyN

iii

1

biasitxwtyN

ii

0

biasjtyhitxwtyM

jj

N

ii

10

RNAs: Fundamentose Aplicação na Previsão de Séries Temporais

• Abordagem Neural:

biasbiasxwghy i

N

jjij

M

ii

11

biasbiasjtxwghty i

N

jij

M

ii

11

1)(

biasbiasjtxwghty i

N

jij

M

ii

11

1)(

Como Tornar uma Máquina Inteligente

Entertainment Robot AIBO (http://www.aibo.com)

Como Tornar uma Máquina Inteligente

• Inteligência das máquinas atuais

• Estudo da Inteligência

• Tipos e Medição de Inteligência– Humana, Animal, das Máquinas,

– Extra-terrestre (SETI@home)

Como Tornar uma Máquina Inteligente

• Comportamento Inteligente– Importante para Competição (Seleção Natural)– Adaptação (mudanças no meio-ambiente) – Reconhecimento de Padrões (visão, fala,

diagnóstico de falhas/doenças, aplicações financeiras)

– Planejamento (Modelos, Otimização) e Auxílio a Tomada de Decisões

– Cooperação e Comunicação com outros indivíduos

Como Tornar uma Máquina Inteligente

Exemplos de desenvolvimento de

Equipamento Inteligente no ITA

Como Tornar uma Máquina Inteligente

Exemplos de desenvolvimento de

Equipamento Inteligente no ITA

Como Tornar uma Máquina Inteligente

Exemplos de desenvolvimento de

Equipamento Inteligente no ITA

http://www.ele.ita.br/~kawakami/barco/

Como Tornar uma Máquina Inteligente

X

O

Como Tornar uma Máquina Inteligente

Como Tornar uma Máquina Inteligente

Redes Neurais

Como Tornar uma Máquina Inteligente

Conclusões

• Estamos aos poucos aumentando o nível de inteligência das nossas máquinas.

• Área altamente multi-disciplinar e desafiadora.

Como Tornar uma Máquina Inteligente

Conclusões

• Aplicações extremamente práticas. Alguns exs:– classificação de empresas de telecomunicações,

– classificação de sinais eletrocardiográficos,

– temporarização de semafóros de tráfego urbano,

– otimização de sequências de montagens,

– previsão de preços de produtos

• Grandes benefícios para a indústria nacional.

Como Tornar uma Máquina Inteligente

Para mais detalhes:Livro “Inteligência Artificial em

Controle e Automação”, 2000Cairo L. Nascimento Jr. eTakashi YoneyamaEd. Edgard Blücher e FAPESP

http://www.ele.ita.br/ia_contaut/