Support Vector Machine - SVM Lucas Araújo Lopes - lucaslopes@ufpi.edu.brlucaslopes@ufpi.edu.br UFPI...

Post on 21-Apr-2015

107 views 0 download

Transcript of Support Vector Machine - SVM Lucas Araújo Lopes - lucaslopes@ufpi.edu.brlucaslopes@ufpi.edu.br UFPI...

Support Vector Machine - SVMLucas Araújo Lopes - lucaslopes@ufpi.edu.brUFPI – DIE – PPgCC – Mestrado em Ciência da Computação

23/0

8/12

1

Visão Geral• Aprendizado supervisionado• Dado um conjunto de dados• (xi, yi) | xi: exemplo; yi: rótulo• deve-se produzir um classificador capaz de predizer o rótulo de

novos dados• Encontrar um hiperplano que separe as classes• Reconhecer padrões

23/0

8/12

2

Características• São baseadas em um modelo teórico – Teoria do Aprendizado

Estatístico (TEA)• Garantia teórica sobre sua performance• Não é afetada por mínimos locais – Lagrange• Não sofre da maldição da dimensionalidade• Solução ótima (maximizando as margens)

23/0

8/12

3

Classificação de Padrões Linearmente Separáveis• Determinar uma função que atribui um

rótulo (+1) se e (-1) caso contrário

23/0

8/12

4

Hiperplanos

23/0

8/12

5

Margem e Vetores de Suporte

23/0

8/12

6

Hiperplano Ótimo• Hiperplano ótimo

• Margens:

ou em outras palavras:

23/0

8/12

7

Distâncias

23/0

8/12

8

Margem• Margem (ρ)

• O hiperplano ótimo é dado pela maximização da margem, isto é, pela minimização da norma

23/0

8/12

9

Multiplicadores de Lagrange

23/0

8/12

10

Classificação de Padrões Não-Linearmente Separáveis

23/0

8/12

11

Classificação de Padrões Não-Linearmente Separáveis• Mapear o conjunto de dados S = em um

conjunto de dados S’, mapeados por uma função Φ, representado por .

23/0

8/12

12

Problema Não-Linear

23/0

8/12

13

Função Kernel• Função Kernel

23/0

8/12

14

Classificação Multiclasses – DAGSVM

23/0

8/12

15

Referências• LORENA, A. C; CARVALHO, A. C. P. L. F. de. Uma Introdução às

Support Vector Machines.• WESTON, J. Support Vector Machine (and Statistical Learning

Theory).• TAHIM, A. P. N. Máquinas de Vetores de Suporte (SVM).• FLETCHER, T. Support Vector Machines Explained.• GONÇALVES, A. R. Máquina de Vetores de Suporte.• BURGES, C. J. C. A Tutorial on Support Vector Machines for

Pattern Recognition.

23/0

8/12

16