Support Vector Machine - SVM Lucas Araújo Lopes - [email protected]@ufpi.edu.br UFPI...
16
Support Vector Machine - SVM Lucas Araújo Lopes - [email protected] UFPI – DIE – PPgCC – Mestrado em Ciência da Computação 23/08/12 1
Transcript of Support Vector Machine - SVM Lucas Araújo Lopes - [email protected]@ufpi.edu.br UFPI...
Support Vector Machine - SVMLucas Araújo Lopes - [email protected] – DIE – PPgCC – Mestrado em Ciência da Computação
23/0
8/12
1
Visão Geral• Aprendizado supervisionado• Dado um conjunto de dados• (xi, yi) | xi: exemplo; yi: rótulo• deve-se produzir um classificador capaz de predizer o rótulo de
novos dados• Encontrar um hiperplano que separe as classes• Reconhecer padrões
23/0
8/12
2
Características• São baseadas em um modelo teórico – Teoria do Aprendizado
Estatístico (TEA)• Garantia teórica sobre sua performance• Não é afetada por mínimos locais – Lagrange• Não sofre da maldição da dimensionalidade• Solução ótima (maximizando as margens)
23/0
8/12
3
Classificação de Padrões Linearmente Separáveis• Determinar uma função que atribui um
rótulo (+1) se e (-1) caso contrário
23/0
8/12
4
Hiperplanos
23/0
8/12
5
Margem e Vetores de Suporte
23/0
8/12
6
Hiperplano Ótimo• Hiperplano ótimo
• Margens:
ou em outras palavras:
23/0
8/12
7
Distâncias
23/0
8/12
8
Margem• Margem (ρ)
• O hiperplano ótimo é dado pela maximização da margem, isto é, pela minimização da norma
23/0
8/12
9
Multiplicadores de Lagrange
23/0
8/12
10
Classificação de Padrões Não-Linearmente Separáveis
23/0
8/12
11
Classificação de Padrões Não-Linearmente Separáveis• Mapear o conjunto de dados S = em um
conjunto de dados S’, mapeados por uma função Φ, representado por .
23/0
8/12
12
Problema Não-Linear
23/0
8/12
13
Função Kernel• Função Kernel
23/0
8/12
14
Classificação Multiclasses – DAGSVM
23/0
8/12
15
Referências• LORENA, A. C; CARVALHO, A. C. P. L. F. de. Uma Introdução às
Support Vector Machines.• WESTON, J. Support Vector Machine (and Statistical Learning
Theory).• TAHIM, A. P. N. Máquinas de Vetores de Suporte (SVM).• FLETCHER, T. Support Vector Machines Explained.• GONÇALVES, A. R. Máquina de Vetores de Suporte.• BURGES, C. J. C. A Tutorial on Support Vector Machines for
Pattern Recognition.
23/0
8/12
16
