Processos Estocásticos

Luiz Affonso Guedes

Sumário• Probabilidade• Variáveis Aleatórias• Funções de Uma Variável Aleatória• Funções de Várias Variáveis Aleatórias• Momentos e Estatística Condicional• Teorema do Limite Central• Processos Estocásticos• Análise Espectral• Filtragem e Predição Estocástica• Processos Markovianos

Probabilidade

• Definições de probabilidade• Freqüência relativa• Axiomas da probabilidade• Métodos de Contagem• Probabilidade Condicional• Teorema de bayes

Introdução• Fenômenos Determinísticos

– Conhecidos com certeza– Não sujeitos às leis do acaso

• Ex.: o ano atual, idade de uma pessoa jovem

• Fenômenos Probabilísticos– Não conhecidos com certeza– Sujeitos às leis do acaso

• Ex.: face de um dado, se vai chover amanhã, se o Remo vai ser campeão

Introdução• Experimentos que ao serem repetidos nas

mesmas condições não produzem o mesmo resultado são denominados de experimentos aleatórios.

• Mas por quê isto ocorre?

Experimento

Entradas/causasobservadas Saídas/efeitos

observados

Entradas/causasobservadas

Espaço Amostral

• Definiremos Espaço Amostral (S) associado a um experimento o conjunto de seus resultados possíveis.– Conjunto de todos os resultados possíveis de

ocorrer.– Pode ser discreto (finito ou infinito) ou

contínuo.

Exemplos de Espaço Amostral

• Exemplo1: Experimento de lançamento de um dado.– O espaço amostral do experimento é o conjunto

S = {1,2,3,4,5,6}.• Exemplo2: Experimento de lançamento de

dois dados simultaneamente.– O espaço amostral do experimento é o conjunto

S(primeira face, segunda face) = {????}

Exemplos de Espaço Amostral

• Exemplo3: Experimento de obtenção do tempo de vida de uma lâmpada.– O espaço amostral do experimento é o conjunto S = {x:

x real, x>0}.

• Processo estocástico é uma seqüência de experimentos, no qual cada um tem um número finito de resultados, com uma dada atribuição de probabilidade

Exemplos de Processos Estocásticos

• Processo estocástico do exemplo1.• Processo estocástico do exemplo3.

• Como um fabricante deve calcular o tempo de garantia de um produto seu. Uma TV, por exemplo?

Eventos

• São qualquer subconjunto de um Espaço Amostral.

• Os eventos podem ser simples ou compostos

• S evento certo• Ø evento vazio (impossível)

Exemplos de Eventos

• Exemplo1: – Dar um número par– Dar um número maior que 4– Dar um número entre 1 e 6

• Exemplo2:– A soma dos resultados seja igual a 4– Que a soma dos resultados seja par

Operações entre Eventos• União: A U B Se ocorrer pelo menos um

dos eventos• Interseção: A B Se ocorrer ambos os

eventos• Complementar: Ac É o evento que

ocorre quando A não ocorrer.

A B

Exemplos de Operações com Eventos

• Uma urna contém bolas de um a quinze. Uma bola é retirada da urna e seu número anotado. Sejam A e B os seguintes eventos: A: o número da bola retirada é par, B: o número da bola retirada é múltiplo de 3. Determine:– S,A, B, AUB, A B e Ac

Operações entre Eventos

• Implicação: A B, A implica em B.• Igualdade: A B e A B A = B.• Mutuamente exclusivo: A B = Ø

– Se a união de n eventos mutuamente exclusivos é o próprio S, dizemos que tais eventos são mutuamente exclusivos e exaustivos, ou formam uma partição em S.

– Exemplos em diagrama de Venn

Propriedades das Operações entre Eventos

1. (AUB) C = (A C) U (B C) 2. (A B) U C = (A U C) (B U C)3. (A U B)c = Ac Bc

4. (A B)c = Ac U Bc

A B

C

A B

C

Probabilidade

• Vem da idéia de mensurar eventos aleatórios.

• Procedimento de cálculo de propriedades de eventos aleatórios

• Número que reflita as chances de ocorrência de um evento aleatório.

Probabilidade: definição clássica

• Dado um espaço amostral S com N eventos igualmente possíveis. Se A é um evento em S composto de m eventos simples, a probabilidade de ocorrência de um evento A num experimento é calculada por:– P(A) = m / N– É a razão entre os eventos desejáveis dentre o

universo dos possíveis.

Probabilidade: definição clássica

• Conseqüências:1. P(A) = 0, para todo A S;2. Se A e B são eventos mutuamente

exclusivos, então:- P(AUB) = P(A) + P(B)

3. P(S) = 14. P(AUB) = P(A) + P(B) – P(AB)

Probabilidade: definição freqüentista

• Repetir um experimento sob as mesmas circunstâncias.

• A probabilidade de ocorrência de um evento A seria:

– P(A) = lim M/ N N– M é o número de ocorrência do evento A– N é o número total de experimentos.

Probabilidade: definição subjetiva

• Quando não a possibilidade de se aplicar os conceitos clássicos e freqüentista de probabilidade:

– Baseia-se em opinião sobre ocorrência de um evento.

• Probabilidade do resultado de um jogo.• Probabilidade de haver aula.

Probabilidade: definição axiomática

• Supõe as seguintes verdades absolutas:– Dado um espaço amostral S e eventos A e B,

tem-se.1. P(A) 0;2. P(S) = 1;3. Se A e B são mutuamente exclusivos, P(A+B) = P(A) + P(B)

Propriedades da Probabilidade1. P(Ø) = 02. P(S) = 13. P(A U B U C) = P(A) + P(B) + P(C), se

A, B e C são mutuamente exclusivos.4. P(Ac) = 1 – P(A)5. P(AUB) = P(A) + P(B) – P(A B)6. Se A B P(A) P(B)7. P(AUB) = P(A) + P(AC B)

Métodos de Contagem

• Para se calcular a probabilidade de um evento é necessário saber sua proporção dentro do universo dos eventos possíveis

A P(A) = ???Supondo eventos equiprováveis

S

Princípio Fundamental da Contagem

• Se uma tarefa é completada em N etapas seqüenciais, com ni possibilidade em cada etapa. Então, o número total de maneiras de realizar a tarefa é:– Número Total = n1 x n2 x . . . nN

? ? ?

Etapa 1 Etapa 2 Etapa 3

Tipos de Experimentos

• Com reposição ou sem reposição de amostras

• Elementos das amostras podem ser ordenados ou não ordenados

Tipos de Experimentos

• Experimento sem reposição ordenado:– Dada uma turma de N alunos, escolher 01

presidente, 01 tesoureiro e 01 secretário.• Arranjo

• Experimento sem reposição não ordenado:– Dada uma turma de N alunos, escolher 03

representantes.• Combinação

Tipos de Experimentos

• Cálculo de experimento sem reposição ordenado:– Ordenar n amostras de um conjunto de N

elementos, sem reposição. (N)n = N (N-1) ... (N-n+1) = N! / (N-n)!– Escolher 01 goleiro e 01 centroavante entre 8

jogadores.– Escolher 01 presidente, 01 tesoureiro,

01secretário numa turma de 15 formandos.

Tipos de Experimentos

• Cálculo de experimento com reposição ordenado:– Ordenar n amostras de um conjunto de N elementos,

com reposição.

Nn = N N ... N (já que há reposição)

– Escolher 01 goleiro e 01 capitão dentre 11 jogadores.– Escolher 01 presidente e 01 tesoureiro dentre 15 alunos,

sendo que há a possibilidade de se acumular os cargos.

Tipos de Experimentos

• A probabilidade é o razão entre os eventos desejados e os possíveis:– Qual é a probabilidade de se lançar um dado 03

vezes e não ocorrer repetição de números?– Na maternidade Parto Feliz nasceram 05

crianças numa determinada semana. Qual era a probabilidade de todas as crianças terem nascido em dias distintos?

– P(A) = (N)n / Nn

Tipos de Experimentos

• Permutação– Se N = n Pn = n!

– (n)n = n (n-1) ... (n-n+1)

– Quantas palavras de 03 letras não repetidas posso formar com o seguinte conjunto de letras?

• L = {A, I, B}

Tipos de Experimentos

• Experimento sem reposição não ordenado:– Combinação de N elementos n a n.– Dada uma turma de N alunos, escolher 03

representantes.• Há menos possibilidades do que no caso ordenado,

certo?

– CN,n = (N)n/ Pn = N!/(n! (N-n)!) (analisar!!!)

Tipos de Experimentos

• Experimento sem reposição não ordenado:– CN,n = (N)n/ Pn = N!/(n! (N-n)!) – 8 times participam de um torneio de futebol.

Cada equipe enfrenta todas as demais apenas uma vez. Quantos jogos serão realizados?

– E se houver jogos de ida e de volta?– Escolher 03 pessoas num grupo de 10.

Partição de Conjuntos

• CN,n – Equivale dividir S em dois subconjunto: A e Ac

• A com n elementos e Ac com n1 elementos, sendo:N = n + n1

A

S

- A possui n elementos- S possui N elementos

Partição de Conjuntos• Generalização do problema:

– Dividir um conjunto S de N elementos em k subconjuntos, sendo que

• N = n1+ n2+ ... +nk (ni – número de elemento do i-ésimo subconjunto)

• Corresponde a k problemas encadeados de combinações (veja o diagrama de Venn)

– CN,n1 C(N-n1),n2 ... Cnk,nk

Partição de Conjuntos• Generalização do problema:

– Que matematicamente é equivalente a:• N! / (n1! n2! ... nk!)

• CN,n1 C(N-n1),n2 ... Cnk,nk

• Será que isto é verdade?– CN,n = N! / (n! (N-n)! ) (lembrete)

Partição de Conjuntos• Exemplos:

– O jogo de bridge corresponde a dividir o baralho de 52 entre 04 jogadores. Quantas maneiras há de se dividir o baralho?

• Resp. C52,13 C39,13 C26,13 C13,13

Partição de Conjuntos• Exemplos:

– O jogo de pôquer com 04 jogadores utiliza 32 cartas, distribuídas igualmente entre os 04 naipes.

• Baralho = {Naipes X Cartas}• Naipes = {paus,espada,ouro,copas}• Cartas = {7,8,9,10,Valete,Dama,Rei, Ás}• Se um jogador receber na primeira mão 05 cartas, qual é a

probabilidade dele receber só um par de ases (evento A)?

• Resp. P(A) = C4,2C7,3 ( C4,1C4,1C4,1 ) / C32,5 = 0,11 (0,0667)

ÁS ÁS ÁS ÁS ÁS

Partição de Conjuntos• Processos de Bernoulli

– Qual é a probabilidade de ocorrer k vezes um eventos A dentre N tentativas, sendo p a sua probabilidade do ocorrência?

• P(A) = p , P(Ac) = 1 – p• P(A) P(A)...P(A) P(Ac)...P(Ac) = pk (1-p)N-k

– Pode-se combinar esse conjunto de eventos de N, k a k maneiras.

• P{A ocorrer exatamente k vezes} =

CN,k p (1- p)N-k

Partição de Conjuntos• Processos de Bernoulli

– P{A ocorrer apenas exatamente k vezes} = CN,k p (1- p)N-k

– Exemplo: Qual é a probabilidade que em uma família com 04 filhos, 02 serem meninas?

• Resolução por Bernoulli ou de forma exaustiva.• Resp. = 3/8

Partição de Conjuntos• Processos de Bernoulli

– P{A ocorrer apenas exatamente k vezes} = CN,k pk (1- p)N-k

– Exemplo: Um atirador tem três chances de acertar um alvo. Para ele vencer a competição deverá acertar pelo menos duas vezes no alvo. Sabendo-se que ele tem probabilidade de 0,4 de acerta um tiro, qual é a probabilidade dele vencer a competição?

• Resp. = 0,352

Próxima Aula

• Probabilidade condicional, eventos independentes e teorema de Bayes

Probabilidade Condicional• Sejam dois eventos A e B de um mesmo

espaço amostral e supondo que P(A) > 0, a probabilidade condicional de B ocorrer dado que A ocorreu é dada por:– P(B/A) = P(A B) / P(A)

• É a probabilidade de ocorrer A e B dentro do subconjunto dos eventos de A.

A B P(B/A) =

Probabilidade Condicional• Dado:

– P(B/A) = P(A B) / P(A)• A probabilidade de ocorrer os eventos A e

B é igual a:– P(A B) = P(B/A) P(A) = P(A) P(B/A)

• A probabilidade de ocorrer A e ocorrer B dado que ocorreu A

A B P(B/A) =

Probabilidade Condicional• Exemplo:

– P(B/A) = P(A B) / P(A)

1 2 3 4 5 6

654321

• Exemplo: experimentos seqüenciais que a ocorrência de um eventos na k-ésima etapa depende das etapas anteriores– Dada uma urna com 03 bolas azuis e 07 vermelhas. Se 02

bolas são retiradas sem reposição, determine:• Espaço amostral:• P(A1A2)• P(A1V2)• P(V1A2)• P(V1V2)

– P(A/B) = P(A B) / P(B)

Probabilidade Condicional

Probabilidade Condicional

• Generalização da probabilidade condicional:– P(A1A2 ... An) = P(A1) P(A2/A1)P(A3/A1A2) ...

P(An/A1A2 ...An-1)– Interpretação:

P(A) P(B/A) P(C/BA)

P(ABC)

Probabilidade Condicional

• Exemplo: Dada uma urna com 03 bolas azuis e 07 vermelhas. Se 02 bolas são retiradas sem reposição, qual é a probabilidade de ocorrer a seguinte seqüência de eventos:– P(A1A2V3V4A5) = 1/120

– P (A1A2A3V4V5) = ?

– P (V1V2A3A4A5) = ?– ...

Probabilidade Total• P(A) = P(A/B1) P(B1) + P(A/B2) P(B2) ...

P(A/Bn) P(Bn)

A

B1

B2

Bn

• P(A) = P(AB1) + P(AB2) + ... + P(ABn)

Conjuntos disjuntos

Probabilidade Total• Exemplo: dada 03 urnas com as seguintes

composições:– Urna 1: 03 bolas brancas e 05 bolas vermelhas.– Urna 2: 04 bolas brancas e 02 bolas vermelhas.– Urna 2: 01 bola branca e 03 bolas vermelhas.– A probabilidade de escolha das urnas é,

respectivamente: 2/6, 3/6 e 1/6.– Qual é a probabilidade de se escolher uma bola branca?

Resp. = ½– Interpretação via média ponderada.

Teorema de Bayes

• Dado dois eventos A e B, num mesmo espaço amostral, pela probabilidade condicional, temos:– P (A B) = P(A) P(B/A)– P (B A) = P(B) P(A/B)– P(A) = P(B) P(A/B) / P(B/A)– P(A/B) = P(A). P(B/A) / P(B)

Ponderação

Teorema de Bayes

• Exemplo: dado um baralho com 52 cartas– Qual é a probabilidade de se tirar uma Rainha,

sabendo-se que a carta é uma figura?– Qual é a probabilidade de se tirar uma Rainha,

sabendo-se que a carta é de espada?– Qual é a probabilidade de se tira uma Rainha de

espada, sabendo-se que a carta é uma figura preta?

Teorema de Bayes

• Exemplo:– Um meteorologista acerta 80% dos dias em que chove e

90% dos dias em que não chove. Costuma chover em 10% dos dias. Tendo havido previsão de chuva para amanhã, qual é a probabilidade de realmente vir a chover?

Prev. Ch. Prev. sol Total

Chove

Sol

Total 1,0

Teorema de Bayes

• Generalização:– Dadas duas partições de S (S=A1 U A2), então:– P(A1/B) = P(A1) P(B/A1) /

( P(A1) P(B/A1) + P(A2) P(B/A2) ) – Uma vez que:

• P(B) = P(A1) P(B/A1) + P(A2) P(B/A2) – Para o caso de n partições:

P(Ai/B) = P(Ai) P(B/Ai) / ( P(Ak) P(B/Ak) )

Média ponderada

Teorema de Bayes

• Exemplo:– Um companhia produz peças em 03 fábricas (A1,A2 e A3), na

proporção de 15%, 35% e 50%, respectivamente. Suas probabilidades de produzirem peças defeituosas são: 1%, 5% e 2%.

– Dado que o controle de qualidade detectou uma peça com defeito, qual é a probabilidade de ter sido produzida por cada uma das fábricas?

» P(Ai/D) = ?

Independência entre Eventos

• Dois eventos são independente se a ocorrência de um dele não alterar a probabilidade de ocorrência do outro e vice-versa.

• Sejam dois eventos A e B, sendo P(A) > 0. O evento B é dito independente de A se:– P(B/A) = P(B)

Independência entre Eventos

• Como:– P(B/A) = P(B) (eventos independentes)– P(A B) = P(A) P(B)– Se B é independente de A, logo o inverso

também é verdadeiro?

Independência entre Eventos• Exemplo:

– Experimento: lançamento de 02 moedas– Eventos: A1 (cara no 10 lançamento), A2 (cara no

20 lançamento) e A3 (ocorrência da mesma face nos dois lançamentos).

– Verifique:• P(A1), P(A2), P(A3)

• P(A1A2), P(A1A3) e P(A2A3)

• P(A1A2A3)

Independência entre Eventos• Exemplo:

– P(A), P(B), P(A B), P(A) P(B), P(A/B) e P(B/A)

1 2 3 4 5 6

654321

Independência é uma questão de proporção

Independência entre Eventos

• Com seria a independência de 03 eventos simultaneamente?

• E para n eventos?