Introduc¸ao˜ a` Probabilidade e aos Processos Estocasticos´valente/a03_ia886.pdf · Aula 3...

26
Aula 3 Introduc ¸˜ ao ` a Probabilidade e aos Processos Estoc ´ asticos Vin´ ıcius A. Armentano 1 Paulo A. Valente Ferreira 2 1 Departmento de Engenharia de Sistemas 2 Departamento de Telem´ atica Faculdade de Engenharia El´ etrica e Computac ¸˜ ao Universidade Estadual de Campinas Vin´ ıcius,Valente Introduc ¸˜ ao ` a Probabilidade e aos Processos Estoc ´ asticos

Transcript of Introduc¸ao˜ a` Probabilidade e aos Processos Estocasticos´valente/a03_ia886.pdf · Aula 3...

Aula 3

Introducao a Probabilidade eaos Processos Estocasticos

Vinıcius A. Armentano1 Paulo A. Valente Ferreira2

1Departmento de Engenharia de Sistemas

2Departamento de Telematica

Faculdade de Engenharia Eletrica e ComputacaoUniversidade Estadual de Campinas

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Aula 3

Conteudo

1 Probabilidade CondicionalRegra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

2 IndependenciaIndependencia Condicional

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Regra da MultiplicacaoAssuma que todos os eventos condicionantes temprobabilidades positivas. Dado que

P(∩ni=1Ai) = P(A1)

P(A1 ∩ A2)

P(A1)·

·P(A1 ∩ A2 ∩ A3)

P(A1 ∩ A2)· · ·

P(∩ni=1Ai)

P(∩n−1i=1 Ai)

,

obtem-se

P(∩ni=1Ai) = P(A1)P(A2 | A1) ·

· P(A3 | A1 ∩ A2) · · ·P(An | ∩n−1i=1 Ai).

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Visualizacao

PSfrag replacements

A1 A2 A3 An−1 An

P(A1) P(A2 | A1) P(A3 | A1 ∩ A2) P(An | ∩n−1i=1 Ai)

A1 ∩ A2 ∩ A3 A1 ∩ A2 ∩ · · · ∩ An

P(A1 ∩ A2 ∩ A3) = P(A1)P(A2 | A1)P(A3 | A1 ∩ A2).

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo

Tres cartas sao retiradas sem reposicao de um baralho (52cartas). Qual a probabilidade de nenhuma ser um ouro?Qualquer carta tem a mesma probabilidade de ser retirada.

Seja Ai = a i-esima carta nao e ouro, i = 1, 2, 3. Deseja-seobter P(A1 ∩ A2 ∩ A3). As probabilidades condicionais sao

P(A1) =3952

, P(A2 | A1) =3851

, P(A3 | A1 ∩ A2) =3750

.

Logo,

P(A1 ∩ A2 ∩ A3) =3952

·3851

·3750

≈ 0.41.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo

Uma classe consiste de 4 alunos de pos-graduacao e 12alunos de graduacao. A classe e dividida aleatoriamenteem 4 grupos de 4 alunos.

Aleatoriamente significa: dada a alocacao de algunsalunos a certas vagas, os alunos restantes tem a mesmachance de serem alocados as vagas restantes.

Qual a probabilidade de cada grupo inclua um aluno degraduacao? Defina aluno de graduacao 1, 2, 3 e 4 e

A1 = alunos 1 e 2 em grupos diferentes,

A2 = alunos 1, 2 e 3 em grupos diferentes,

A3 = alunos 1, 2, 3 e 4 em grupos diferentes.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo (Continuacao)

Deseja-se obter

P(A3) = P(A1 ∩ A2 ∩ A3) = P(A1)P(A2 | A1)P(A3 | A1 ∩ A2).

Existem 12 vagas em grupos diferentes dos do aluno 1 e 15vagas no total, excluindo o aluno 1. Logo,

P(A1) = 12/15.

Existem 8 vagas em grupos diferentes dos dos alunos 1 e 2, e14 vagas no total, excluindo os alunos 1 e 2. Logo,

P(A2 | A1) = 8/14.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo (Continuacao)

Existem 4 vagas em grupos diferentes dos dos alunos 1, 2 e 3,e 13 vagas no total, excluindo os alunos 1, 2 e 3. Logo,

P(A3 | A1 ∩ A2) =4

13.

A probabilidade desejada e

P(A3) = P(A1)P(A2 | A1)P(A3 | A1 ∩ A2)

=1215

·8

14·

413

≈ 0.14.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Sejam A1, A2, . . . , An eventos disjuntos que formam umaparticao do espaco amostral Ω.

Teorema da Probabilidade Total (TPT)Assuma que P(Ai) > 0 para i = 1, 2, . . . , n. Entao

P(B) = P(A1 ∩ B) + P(A2 ∩ B) + · · · + P(An ∩ B)

= P(A1)P(B | A1) + · · · + P(An)P(B | An).

A probabilidade que B ocorra e uma media ponderada dasua probabilidade condicional sob cada cenario (evento).

A ponderacao de cada cenario e a sua probabilidadeincondicional.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Visualizacao

PSfrag replacementsA1A1

A2

A2 A3

A3

B

B

B

B

Bc

Bc

Bc

An

A1 ∩ B

A2 ∩ B

A3 ∩ B

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo

Voce entra num torneio de xadrez no qual sua probabilidade devencer e de

0.3 contra metade dos jogadores - tipo 1.

0.4 contra um quarto dos jogadores - tipo 2.

0.5 contra um quarto dos jogadores - tipo 3.

Voce joga com um jogador escolhido ao acaso. Qual e a suaprobabilidade de vencer? Defina

Ai = jogar com jogador do tipo i, i = 1, 2, 3.

Neste caso, P(A1) = 0.5, P(A2) = 0.25 e P(A3) = 0.25.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo

Seja B o evento em que voce vence um jogador escolhido aoacaso. As probabilidades condicionais foram dadas:

P(B | A1) = 0.3, P(B | A2) = 0.4, P(B | A3) = 0.5.

A probabilidade de que voce venca e

P(B) = P(A1)P(B | A1) + P(A2)P(B | A2) + P(A3)P(B | A3)

= 0.5 · 0.3 + 0.25 · 0.4 + 0.25 · 0.5 = 0.38.

O TPT e util para calcular a probabilidade de eventos Bpara os quais as probabilidades P(B | Ai) sao conhecidas.A escolha da particao A1, A2, . . . , An e crucial.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Sejam A1, A2, . . . , An eventos disjuntos que formam umaparticao do espaco amostral. Assuma P(Ai) > 0 para todo i .

Regra de BayesPara todo evento B tal que P(B) > 0,

P(Ai | B) =P(Ai)P(B | Ai)

P(B)

=P(Ai)P(B | Ai)

P(A1)P(B | A1) + · · · + P(An)P(B | An).

A regra de Bayes relaciona probabilidades condicionaisP(A | B) com probabilidades na forma reversa, P(B | A).

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

InferenciaA regra de Bayes e usada frequentemente para se fazer umainferencia.

Assuma que existam varias causas que podem resultarnum certo efeito.

Exemplo: surge um ponto na tela do radar (efeito). Oponto e causado por uma aeronave ou por outra coisa.

Observa-se o efeito, evento B. Deseja-se determinar acausa, um dos eventos A1, A2, . . . , An.

P(B | Ai) e a probabilidade de se observar o efeito Bquando a causa Ai esta presente.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo (Deteccao por Radar)

Considere os eventos A = uma aeronave esta presente eB = o radar registra a presenca. As probabilidades saoP(A) = 0.05, P(B | A) = 0.99 e P(B | Ac) = 0.1.

Defina A1 = A, A2 = Ac . A probabilidade da aeronave estarpresente dado que o radar fez um registro e

P(A | B) =P(A)P(B | A)

P(B)

=P(A)P(B | A)

P(A)P(B | A) + P(Ac)P(B | Ac)

=0.05 · 0.99

0.05 · 0.99 + 0.95 · 0.1≈ 0.34.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo (Problema do Falso-Positivo)

Um teste para uma certa doenca rara e positivo comprobabilidade 0.95 se a pessoa tem a doenca.

O mesmo teste e negativo com probabilidade 0.95 se apessoa nao tem a doenca.

Uma pessoa selecionada de uma certa populacao temprobabilidade 0.001 de ter a doenca.

Dado que o teste da pessoa e positivo, qual aprobabilidade da pessoa ter a doenca?

Seja A o evento ”pessoa tem a doenca” e B o evento ”o teste epositivo”. Deseja-se determinar P(A | B).

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Regra da MultiplicacaoTeorema da Probabilidade TotalRegra de Bayes

Probabilidade Condicional

Exemplo (Continuacao)

Pela Regra de Bayes

P(A | B) =P(A)P(B | A)

P(B)

=P(A)P(B | A)

P(A)P(B | A) + P(Ac)P(B | Ac)

=0.001 · 0.95

0.001 · 0.95 + 0.999 · 0.05≈ 0.02.

Embora o teste seja relativamente preciso, e poucoprovavel que uma uma pessoa cujo teste seja positivotenha a doenca.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Um importante caso particular da probabilidade condicionalsurge quando a ocorrencia de B nao altera a probabilidadedo evento A ocorrer.

IndependenciaDiz-se que os eventos A e B sao independentes se

P(A | B) = P(A).

Pela definicao de probabilidade condicional, A e B saoindependentes se P(A ∩ B) = P(A)P(B).

Por simetria, se A e independente de B, entao B eindependente de A.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Dois eventos sao independentes se forem disjuntos? SeP(A) > 0, P(B) > 0 e P(A ∩ B) = 0, os eventos nao saoindependentes!

Exemplo

Experimento envolvendo dois lancamentos sucessivos de umdado tetraedrico. Dezesseis resultados igualmente provaveis.

a) Os eventos Ai = 1o. lancamento e i eBj = 2o. lancamento e j sao independentes?

P(Ai ∩ Bj) = 1/16, P(Ai) = 4/16, P(Bj) = 4/16.

Como P(Ai ∩ Bj) = P(Ai)P(Bj), independentes.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Exemplo (Continuacao)

b) Os eventos A = 1o. lancamento e 1 eB = a soma dos lancamentos e 5 saoindependentes? Sim, pois

P(A ∩ B) = 1/16, P(A) = 4/16, P(B) = 4/16.

c) Os eventos A = maximo dos lancamentos e 2e B = mınimo dos lancamentos e 2 saoindependentes? Nao, pois

P(A ∩ B) = 1/16, P(A) = 3/16, P(B) = 5/16.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Dado um evento C, os eventos A e B sao condicionalmenteindependentes se

P(A ∩ B | C) = P(A | C)P(B | C).

Pela definicao de probabilidade condicional e regra damultiplicacao,

P(A ∩ B | C) =P(A ∩ B ∩ C)

P(C)

=P(C)P(B | C)P(A | B ∩ C)

P(C)

= P(B | C)P(A | B ∩ C).

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Comparando as experessoes

P(A ∩ B | C) = P(A | C)P(B | C) e

P(A ∩ B | C) = P(B | C)P(A | B ∩ C)

obtem-se (P(B | C) 6= 0)

P(A | B ∩ C) = P(A | C).

Dado que C ocorreu, a informacao de que B tambemocorreu nao altera a probabilidade de A.

A independencia de dois eventos com respeito aprobabilidade incondicional nao implica em independenciacondicional ou vice-versa.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Exemplo

Dois lancamentos independentes de uma moeda. Existemquatro resultados igualmente provaveis. Defina

H1 = 1o. lancamento e cara,

H2 = 2o. lancamento e coroa,

D = os lancamentos tem resultados diferentes.

Os eventos H1 e H2 sao independentes. Porem

P(H1 | D) = 1/2, P(H2 | D) = 1/2, P(H1 ∩ H2 | D) = 0.

e H1 e H2 sao condicionalmente dependentes.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Exemplo

Duas moedas, uma azul, outra vermelha. Escolhe-se umaao acaso (probabilidade 1/2) e faz-se dois lancamentosindependentes.

As moedas sao polarizadas: com a azul, a probabilidadede cara e 0.99; com a vermelha, 0.01.

Seja B o evento em a moeda azul e selecionada. Seja Hi

o evento em que o i-esimo lancamento resulta em cara.

Escolhida a moeda, os eventos H1 e H2 sao condicionalmenteindependentes. Assim

P(H1 ∩ H2 | B) = P(H1 | B)P(H2 | B) = 0.992 ≈ 0.98.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Exemplo (Continuacao)

Entretanto, os eventos H1 e H2 nao sao independentes. Se o1o. lancamento e cara, suspeita-se que a moeda seja azul.Matematicamente, pelo TPT,

P(H1) = P(B)P(H1 | B) + P(Bc)P(H1 | Bc)

= 0.5 · 0.99 + 0.5 · 0.01 = 0.5.

Do mesmo modo, P(H2) = 0.5. Alem disso,

P(H1 ∩ H2) = P(B)P(H1 ∩ H2 | B) + P(Bc)P(H1 ∩ H2) | Bc)

= 0.5 · 0.992 + 0.5 · 0.012 ≈ 0.5,

e os eventos H1 e H2 sao dependentes.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos

Probabilidade CondicionalIndependencia

Independencia Condicional

Independencia

Se A e B sao eventos independentes, o mesmo ocorrecom os eventos A e Bc .

Independencia de uma Colecao de EventosDiz-se que os eventos A1, A2, . . . , An sao independentes se

P

(

n⋂

i∈S

Ai

)

=n∏

i=1

P(Ai)

para todo subconjunto S de 1, 2, . . . , n.

Exemplo

Se n = 3, entao a igualdade acima deve ser verificada paraS = 1, 2, S = 1, 3, S = 2, 3 e S = 1, 2, 3.

Vinıcius,Valente Introducao a Probabilidade e aos Processos Estocasticos