TDC2016SP - Colocando modelos de Machine Learning em produção.

20
Globalcode – Open4education Trilha – Machine Learning Colocando modelos de Machine Learning em Produção Gilmar Souza Jr. Head of Machine Learning @

Transcript of TDC2016SP - Colocando modelos de Machine Learning em produção.

Globalcode – Open4education

Trilha – Machine LearningColocando modelos de Machine

Learning em ProduçãoGilmar Souza Jr.

Head of Machine Learning @

Globalcode – Open4education

Situação

Você Gilmar Cerveja!

Globalcode – Open4education

Definição do Problema

• Dataset• Algoritmo• Parâmetros• Treinamento• Produção

Globalcode – Open4education

DadosRegras

Especialista

Realidade

Tempo

Visão

Roadmap and Desenvolvimento Management

Código

Desenvolvedor

Aplicação

Usuário

Roadmap and MachineLearning

Management

Modelo

Desenvolvedor

Realidade

Tempo Usuário

Aplicação

Globalcode – Open4education

O que é um modelo?

Fonte: https://upload.wikimedia.org/wikipedia/commons/3/3b/Function_machine2.svg

Dados

Modelo

Predições

Globalcode – Open4education

Como um modelo é criado

Dados

Modelo

Train

Ensemble / Hybrid

ParâmetrosAlgoritmos

Globalcode – Open4education

Ex: Inception-v3

- Treinado com 1.2 milhões de imagens- 2 semanas para treinar com 8 GPUs- Open-source e disponível para download:

http://download.tensorflow.org/models/image/imagenet/inception-v3-2016-03-01.tar.gz

Fonte: https://research.googleblog.com/2016/03/train-your-own-image-classifier-with.html

Globalcode – Open4education

Ex: Movidius Fathom

Fonte: http://www.movidius.com/solutions/machine-vision-algorithms/machine-learning

Globalcode – Open4education

Colocar em produção:

Disponibilizar o modelo para que ele possa servir predições para uma aplicação, permitindo que ele evolua através de feedback e aquisição de novos dados.

Globalcode – Open4education

Cenário Usual

Dados

Algoritmos

Parâmetros Modelo

Modelagem Produção

Modelo

DesenvolvedorCientista de Dados

Predições

Globalcode – Open4education

Problemas

Cientista de Dados Desenvolvedor

Globalcode – Open4education

S1: Re-implementação

DesenvolvedorCientista de Dados

Especificações

Modelagem Produção

Globalcode – Open4education

S2: Exportação

Modelo

ModeloSerializado ou PMML

Modelagem Produção

Predições

Globalcode – Open4education

S3: Projeção

Modelo

Modelagem Produção

Predições

Predições

Globalcode – Open4education

S4: Microserviço

Modelo

REST API

Predições

Globalcode – Open4education

S4: MLaaS

Globalcode – Open4education

MLaaS

Globalcode – Open4education

Demo

Globalcode – Open4education

?

Globalcode – Open4education

Obrigado!

/in/gilmarsouza

www.ciandt.com

Cheers!

https://github.com/gilmar