MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

20
MAC499 - Trabalho de MAC499 - Trabalho de Formatura Formatura Supervisionado Supervisionado Sistema de Reconhecimento de Escrita On-Line

Transcript of MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

Page 1: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

MAC499 - Trabalho de Formatura MAC499 - Trabalho de Formatura SupervisionadoSupervisionado

Sistema de Reconhecimento de Escrita On-Line

Page 2: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 2

IntegrantesIntegrantes

Pedro Henrique Simões de Oliveirapedrohenriquesimoesdeoliveira at gmail.com

Eduardo Gusmão Caceres Pireseduardocacerespires at gmail.com

Ricky Ye Lun Chowrylchow at gmail.com

Orientadora: Prof. Dra. Nina S. T. Hiratanina at ime.usp.br

Page 3: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 3

RoteiroRoteiro

Motivação Objetivos Análise de Requisitos Desenvolvimento da Arquitetura Implementação de Algoritmos Reconhecimento de expressões SisTREO Conclusão

Page 4: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 4

MotivaçãoMotivação

Teclado e mouse são úteis, mas limitados Convergência entre dispositivos Novas formas de interação Homem-

Computador

Page 5: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 5

MotivaçãoMotivação

Tablet, Palm, Stylus: novas formas de interação e possibilidades

Algoritmos diversos para diferentes abordagens:– Textos– Ideogramas– Fórmulas matemáticas– Diagramas

Page 6: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 6

Escrita Online / OfflineEscrita Online / Offline

Escrita Online: Indicação de tempo sobre os pontos (ordem, traços)

Escrita Offline: Somente pontos/pixels

Page 7: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 7

ObjetivosObjetivos

Desenvolver um arcabouço voltado para o reconhecimento de escrita online

Utilizar o arcabouço para reconhecer fórmulas matemáticas e gerar seu código em LaTeX

Entrada SaídaPréProcessamento

Reconhecimento

Page 8: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 8

PassosPassos

Análise de Requisitos– Definições

– Estudo de Artigos e Teses

Desenvolvimento da Arquitetura Implementação de AlgoritmosTestes

Page 9: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 9

Análise de RequisitosAnálise de Requisitos

Definições– Ponto– Traço– Símbolo– Expressão– Caractere– Bounding Box

Expressão

Símbolo

Traço

Page 10: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 10

Análise de RequisitosAnálise de Requisitos

Pré-Processamento– Agrupar Traços em Símbolos

• Intersecção

• Ordem dos traços

• Árvore geradora mínima

– Interpolação de Pontos

= + i

Page 11: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 11

Análise de RequisitosAnálise de Requisitos

Pré-Processamento– Normalização do tamanho– Normalização da rotação– Suavização– Baseline

A : A

Page 12: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 12

Análise de RequisitosAnálise de Requisitos

Reconhecimento– Símbolos

• Redes Neurais• Hidden Markov Model (HMM)• Modelos Gaussianos

– Expressões• Gramática posicional• Árvore geradora mínima

Page 13: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 13

Desenvolvimento da ArquiteturaDesenvolvimento da Arquitetura

SisTREOFórmulas matemáticas para geração de LaTeX

– Agrupar traços: Intersecção

– Normalização do tamanho: Sampling

– Reconhecimento de símbolos: Redes neurais

– Reconhecimento de expressões: Gramática posicional, árvore geradora mínima e reta de regressão linear

Page 14: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 14

Implementação de AlgoritmosImplementação de Algoritmos

Redes Neurais(Reconhecimento de Símbolos)

Primeiro passo: dado um símbolo qualquer, transformá–lo na entrada da rede.

Page 15: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 15

Implementação de AlgoritmosImplementação de Algoritmos

Dado um conjunto de treinamento (entradas e as respectivas saídas desejadas), treinar a rede.

Guardar as informações do treinamento para o posterior reconhecimento.

Page 16: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 16

Reconhecimento de expressõesReconhecimento de expressões

Passo 1: fazemos uma reta de regressão linear dos pontos da expressão

Passo 2: computamos a árvore geradora mínima do grafo formado pela ligação dos centros de todos os símbolos (bounding box)

Page 17: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 17

Reconhecimento de expressõesReconhecimento de expressões

Imagem tirada do programa, com os símbolos reconhecidos, a reta de regressão linear, em azul, e as arestas da arvore geradora mínima, em vermelho.

Passo 3: com essas informações utilizamos algumas heurísticas para determinar a expressão

Page 18: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 18

SisTREOSisTREO(Sistema Titanium de Reconhecimento de Escrita Online)(Sistema Titanium de Reconhecimento de Escrita Online)

Sistema que utiliza o arcabouço desenvolvido 3 Modos:

– Modo Treinamento– Modo Reconhecimento– Eliminação de símbolos errados

Page 19: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 19

SisTREOSisTREO(Sistema Titanium de Reconhecimento de Escrita Online)(Sistema Titanium de Reconhecimento de Escrita Online)

Page 20: MAC499 - Trabalho de Formatura Supervisionado Sistema de Reconhecimento de Escrita On-Line.

16/11/06 SisTREO 20

ConclusãoConclusão

Estrutura de dados + Arquiteturacapazes de serem utilizados na solução de diversos problemas, em diversas abordagens

SisTREOmostra que mesmo com implementações simples de algoritmos o arcabouço é viável

Futurorealização de testes e disponibilização do arcabouço para próximos projetos, como a implementação de algoritmos mais poderosos