Introdução às Redes Neurais Artificiais e aplicações
Transcript of Introdução às Redes Neurais Artificiais e aplicações
![Page 1: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/1.jpg)
Introdução às
Redes Neurais Artificiais
e aplicações
Luiz P. Calôba.
[email protected], www.lps.ufrj.br/~caloba
Minicurso IC - 2011
![Page 2: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/2.jpg)
Redes Neurais Artificiais
O que é isto ?
Para que serve ?
De onde veio ?
![Page 3: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/3.jpg)
Neurônio biológico
![Page 4: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/4.jpg)
... s
Neurônio
Processador
MISO
e1
e2
en-1
en
Neurônio biológico
![Page 5: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/5.jpg)
Comunicação entre neurônios:
![Page 6: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/6.jpg)
x 1
x j
x N
x0=1
.
.
.
.
.
.
iiii iiii iiii
iiii iiii iiii
ui
si
wi0
wi1
wij
win
)(
...2211
uvsaída
xwxwxwu nn
=
+++=
Neurônio - elemento de processamento
![Page 7: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/7.jpg)
Arquitetura da Rede
x1
x2
x3
y2
y1
![Page 8: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/8.jpg)
( )y xϕ=%
Rede Neural
Mapeador não linear, universal
=
=
614,0
097,0~ 7,0
1,0yx
tgh
tgh
tgh
lin
tgh
1
x 1
x 2
1
.2 - .1
- .1
.3 .1
.2 - .1
.1
.2 .3
.9
. 1
.5
- .1
- .1
.2
1.1
4
5
2
1 1 y ~
2 y ~
0,1
0,7
0,09
0,61
![Page 9: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/9.jpg)
E a memória,
onde está ?
nas sinapses !
![Page 10: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/10.jpg)
Memória:
E o aprendizado ? Alteração das sinapses !
![Page 11: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/11.jpg)
Redes Neurais FeedForward, “Backpropagation”
( )y xϕ=%
RN
y ~
x
3
tgh
tgh
tg
h
lin
tgh
1
x 1
x 2
1
.2 - .1
- .1
.3 .1
.2 - .1
.1
.2 .3
.9
. 1
.5
- .1
- .1
.2
1.1
4
5
2
1 1 y ~
2 y ~
0,1
0,7
0,09
0,61
![Page 12: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/12.jpg)
( )y xϕ=%
Para que serve ?
Aplicações:
Simuladores; Controladores;
Classificadores;
Reconhecimento de padrões;
Filtragem não linear;
etc...
RN
y ~ x
![Page 13: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/13.jpg)
Simulação (modelagem) de Sistemas:
Mundo real Simulador
X Y
X Simulador Y
Entradas:
x1 = velocidade atual
x2 = posição do acelerador
x3 = posição do freio
x4 = inclinação
x5 = número de passageiros
x6 = etc.
Saídas:
y1 = velocidade após 3 s
y2 = distância para parar
![Page 14: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/14.jpg)
Modelagem clássica de um problema:
Mundo Real objetos físicos
Representação Matemática
dos
objetos físicos por
objetos matemáticos x1 x2 e
fórmulas
![Page 15: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/15.jpg)
Uma nova maneira de ver:
Mundo Real objetos físicos
Representação Neural
dos
objetos físicos por
sinais biológicos
e uma
estrutura neural
Representação Matemática dos
sinais biológicos por
objetos matemáticos x1 x2
e da
estrutura neural por
fórmulas conhecidas
![Page 16: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/16.jpg)
P k ,..., 2 , 1 ) , ( = k k y x
ϕ ) ( k k
x y ϕ =
Simulador
w
ϕ ~ k
x k
y ~
+
_
k ε k
y
w ∆ aprendizado
ou
treinamento
k x
Simulação de Sistemas:
Planta
![Page 17: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/17.jpg)
P k ,..., 2 , 1 ) , ( = k k y x
ϕ ) ( k k
x y ϕ =
Simulador
w
ϕ ~ k
x k
y ~
+
_
k ε k
y
w ∆ aprendizado
ou
treinamento
k x
Aprendizado, Treinamento ou Ajuste do Simulador:
Planta
![Page 18: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/18.jpg)
( ) ( )[ ]2~,...1| yyEiwF i −==
Treinamento = Otimização = Minimização do erro na saída Função Objetivo à Minimizar = EMQ na saída
Método: Gradiente descendente
iii
i
ii wwww
Fww ∆+←
∂
∂−=∆ α
![Page 19: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/19.jpg)
Demo: OCR
...
...
![Page 20: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/20.jpg)
Rede Neural
![Page 21: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/21.jpg)
Robustez Morte de neurônios
![Page 22: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/22.jpg)
NeuralTB Sistema de Apoio ao Diagnóstico de Tuberculose Bacteriana
HU & COPPE / UFRJ
![Page 23: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/23.jpg)
![Page 24: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/24.jpg)
Exemplos de aplicações:
• Modelagem de um Conversor
Siderúrgico da CSN
• Modelagem de plantas de
destilarias da Petrobras
• Previsão de atrazo no pagamento
por clientes (pessoas e instituições)
• Previsão do PIB brasileiro
• Previsão de volatilidade de opções
Telebrás
• Previsão de demanda de pico de
energia
• Identificação do locutor e do
conteúdo da alocução
• Identificação da confiabilidade de
informantes
• Identificação de patologias em
eletrocardiogramas
• Identificação de malignidade em
anomalias na mama
• Classificação de defeitos em soldas
via radiografia ou ultra-som
• Detecção de defeitos em dutos e
risers para transporte de petróleo
![Page 25: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/25.jpg)
25
Aprendizado sem professor Aprendizado supervisionado e não-supervisionado
Critério:
classificação por similaridade
RN
∆w
ε
+ -
y~[ ]yx, RN
∆w
ε
+ -
y~[ ]yx, RN
∆w
x y~RN
∆w
x y~
![Page 26: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/26.jpg)
26
Classificação por Similaridade
Classes agrupam elementos `similares` entre si
![Page 27: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/27.jpg)
27
Ex: OCR: Figuras com ruído
Entradas ruidosas
Rede
Counter
propagation
Padroes
![Page 28: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/28.jpg)
28
Detecção de padrões desconhecidos Ex 1: Dolphin Ecolocation
![Page 29: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/29.jpg)
29
Time to frequency patterns:
Pattern determination
![Page 30: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/30.jpg)
30
Ex 2: Sonar Passivo A Caçada Ao Outubro Vermelho (The Hunt For Red October)
![Page 31: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/31.jpg)
31
Classificador de Contatos Sonar (IPqM / UFRJ):
Classificação de alvos via análises Lowfar e Demon do ruído irradiado
utilizando-se reconhecimento de padrões através de redes neurais.
![Page 32: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/32.jpg)
32
Compressão de informações Compressão de imagens
1y
2y
my
0u
x
w1
2w
mw
0y
1y
2y
my
0u
x
w1
2w
mw
0y
+ s
p1
p2
pm
1y
2y
my
1y
2y
my
i
![Page 33: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/33.jpg)
33
Exemplo de Compressao
Imagens original e comprimidas (1x) (11x) (15x) (28x)
![Page 34: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/34.jpg)
34
Problemas de otimização combinatória Redes Realimentadas - redes de Hopfield
![Page 35: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/35.jpg)
35
Caixeiro Viajante:
Solução ótima Vizinho mais próximo
![Page 36: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/36.jpg)
36
O problema das Quatro cores:
Demo 4 cores:
![Page 37: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/37.jpg)
37
Time Segment Permutation
![Page 38: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/38.jpg)
38
Resultados:
Percentual de acertos
Apresentação dos Sons
Exemplos School Vega
Tipo de processo % acertos
Som Criptografado ≈ 0 ≈ 0
Simulated Ann. e Busca exaustiva
73 91
Som Original 100 100
![Page 39: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/39.jpg)
39
Últimos Comentários Redes Neurais Modelam sistemas e fenômenos que não somos capazes de modelar Tem capacidade de aprender sózinhas Resolvem problemas de otimização
mas não são a panacéia universal !!
![Page 40: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/40.jpg)
40
Quando usar ?
Existe um algoritmo satisfatório ?
SIM - então use o algoritmo
NÃO - então pense em usar redes neurais
Como usar ?
Emular em PC ( 99% dos casos)
![Page 41: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/41.jpg)
41
Para saber mais:
1 – Ivan Silva, I.; Spatti, D. e Flauzini, R. - "Redes Neurais Artificiais para engenharia e
ciências aplicadas", Artliber,2010
2 -Wasserman, P. – “Neural Computing”, Van Nostrand Reinhold, 1989, Cap 1-6.
3 - Sarle, W.S. - ftp://ftp.sas.com/pub/neural/FAQ.html - uma página com
muitas informações interessantes.
![Page 42: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/42.jpg)
42
INNS
International Neural Networks Society
INTERNATIONAL NEURAL NETWORK SOCIETY
![Page 43: Introdução às Redes Neurais Artificiais e aplicações](https://reader034.fdocumentos.com/reader034/viewer/2022050415/6270e043d2c5921dd92776c7/html5/thumbnails/43.jpg)
43
Fim.
Obrigado pelo interesse.