Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 -...

108

Transcript of Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 -...

Page 1: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Mestrado em Engenharia ElétricaDisciplina: Probabilidade e Processos Estocásticos

Parte 2: Variáveis e Vetores Aleatórios

José Raimundo Gomes [email protected]

1 de Novembro de 2018

Page 2: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Referências:

KAY, S. Intuitive Probability and Random Processes using

MATLAB. Springer, 2006.

ROSS, S. M. Introduction to Probability Models. Ninth

Edition. Academic Press, 2007

LEON-GARCIA, A. Probability, Statistics, and Random

Processes for Electrical Engineering. 3rd. Edition. Pearson,2008

DEKKING, F.M.; KRAAIKAMP, C.; LOPUHAÃ, H.P. eMEESTER, L.E. A Modern Introduction to Probability and

Statistics. Understanding Why and How. Springer, 2005.

KAY, S. M. Fundamental of Statistical Signal Processing.

Volume I: Estimation Theory. Prentice Hall, 1993.

WASSERMAN, A. All of Statistics. A Concise Course in

Statistical Inference. Springer, 2004.

Page 3: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variáveis Aleatórias

Em problemas reais, empregamos modelos probabilísticos paradescrever o comportamento das observações de fenômenos ouexperimentos, não determinísticos, sendo analisados. Asobservações são tratadas como resultantes de um experimentoaleatório e associamos números reais a cada resultado doexperimento.

De�nição: Uma variável aleatória é uma função X (·) que associaum número real X (s) a cada elemento s ∈ S .

Em alguns casos os elementos s ∈ S são numéricos, podemos terX (s) = s.

O objetivo é obter a probabilidades da ocorrência de valores deinteresse para a variável aleatória.

Page 4: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.1

1. Lançar três vezes uma moeda e observar o número de �caras�obtido

X : o número de caras

2. Contar o número de �voice packets� contendo somente silêncioproduzido por N �locutores� em um período de 10ms.

Y : o número de �voice packets� somente com silêncio

3. Realizar experimentos para medir o consumo de energia naexecução de um código em um sistema embarcado

T : o consumo de energia

Page 5: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Classi�cação de Variáveis Aleatórias

DISCRETA se o conjunto dos seus valores é �nito ou in�nitoenumerável.

Exemplo:Contar o número de �voice packets� contendo somente silêncioproduzido por N �locutores� em um período de 10ms.

Y : o número de �voice packets� somente com silêncio

CONTÍNUA se assume valores em um intervalo, ou uma coleção deintervalos, de números reais.

Exemplo:Realizar experimentos para medir o consumo de energia naexecução de códigos em sistemas embarcados

T : o consumo de energia

Page 6: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Eventos com Variáveis Aleatórias

A ocorrência de particulares valores de interesse para uma v.a. sãoeventos no espaço amostral associado ao experimento

Para eventos de�nidos para uma v.a. X , temos as equivalências

{X = x1} ≡ {s ∈ S : X (s) = x1}

{X ≤ x2} ≡ {s ∈ S : X (s)≤ x2}

{X > x3} ≡ {s ∈ S : X (s) > x3}

{x4 ≤ X ≤ x5} ≡ {s ∈ S : x4 ≤ X (s)≤ x5}

onde xi ∈ R, i = 1,2,3,4,5

Portanto, para qualquer I ⊂ R,

P(X ∈ I ) = P(s ∈ S : X (s) ∈ I )

Page 7: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função de Distribuição - de�nição

A função de distribuição (f.d.), ou função de distribuição

acumulada (f.d.a.), para uma v.a. X é de�nida por

F (x) = P(X ≤ x), ∀x ∈ R.

X ∀x ∈ R, 0≤ F (x)≤ 1

X Descreve a distribuição de probabilidade sobre R, pode serempregada para caracterizar completamente a distribuição deprobabilidade da v.a.

X A probabilidade de qualquer evento para uma v.a. pode serdescrita pela sua f.d.Referência:ROSS(2007), Chapter 2KAY(2006), Chapter 5.

Page 8: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.2

Considere o experimento de lançar três vezes uma moeda(honesta!).

(a) Obter o espaço amostral para o experimento.

(b) Considere a v.a.

X : o número de caras nos lançamentos

e determine:(b.1) P(X = 2)(b.2) P(X ≤ 1)(b.3) a f.d. de X .

Page 9: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função de Distribuição - propriedades

1. F (x) é não decrescente em x , isto é,

x1 < x2 ⇒ F (x1)≤ F (x2).

2. limx→−∞F (x) = F (−∞) = 0.

3. limx→∞F (x) = F (∞) = 1.

4. Para x1 < x2.

P(x1 < X ≤ x2) = F (x2)−F (x1).

5. P(X > x) = 1−F (x).

Exercício.Veri�car as propriedades da função de distribuição apresentadas.

Page 10: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variável Aleatória Discreta

Para uma v.a. discreta X , com valores x1,x2,x3, ..., é de�nida afunção de probabilidade (f.p.) por

P(X = xi ), para cada xi ∈ {x1,x2,x3, ...}

Propriedades:

1. 0≤ P(X = xi )≤ 1, i = 1,2,3, ..

2. P(X = x) = 0, ∀x 6= xi , i = 1,2,3, ..

3. ∑i P(X = xi ) = 1

4. FX (x) = ∑xi≤x P(X = xi )

Referência:ROSS(2007), Chapter 2KAY(2006), Chapter 5.

Page 11: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.3:

Uma fonte gera símbolos, aleatoriamente e independentemente, apartir de quatro letras do alfabeto a,b,c, e d , com probabilidades,respectivamente, de 1/2, 1/4, 1/8 e 1/8. Um procedimentocodi�ca esses símbolos em códigos binários como

a≡ 0, b ≡ 10, c ≡ 110, d ≡ 111

Seja X uma v.a. que descreve o número de símbolos binários nacodi�cação.

(a) Construa a f.p. de X .

(b) Encontre P(X > 1).

(c) Obtenha a f.d. de X .

Page 12: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo de Bernoulli

Considere uma v.a X discreta que assume valores em {0,1}, e parap ∈ (0,1),

P(X = 1) = p e P(X = 0) = 1−p.

Podemos escrever

P(X = x) = px(1−p)1−x , x ∈ {0,1}.

1. Experimentos de Bernoulli: experimentos que admitem apenasdois resultados possíveis, denotados por

�Sucesso� = 1 �Fracasso� = 0.

2. Notação: X ∼ Bernoulli(p)

Page 13: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.4:

Considere o experimento de selecionar ao acaso uma peça em umlote com 96 peças boas e 4 defeituosas. De�na a v.a.

X =

{1 se a peça é defeituosa0 se a peça é boa

Temos P(X = 1) = 0,04 e P(X = 0) = 0,96

X ∼ Bernoulli(p = 0,04)

P(X = x) = (0,04)x(1−0,04)1−x , x = 0,1

Page 14: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Binomial

Considere m repetições independentes de um experimento com doisresultados de interesse, denominados de �sucesso� e �fracasso� ,com suas respectivas probabilidades constantes em todas asrepetições, de�na a v.a.

Y : o número de �sucessos� nas m repetições.

Então,

P(Y = y) =

(m

y

)py (1−p)m−y , y = 0,1,2, ...,m.

onde p = P(“sucesso ′′).

1. Experimento Binomial (Sequência de Bernoulli): sãorepetições independentes de um experimento de Bernoulli(p),com p constante em todas as repetições.

2. Notação: Y ∼ Binomial(m,p)

Page 15: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.5:

Os itens produzidos por uma máquina são defeituosos comprobabilidade 0,2, independentemente de qualquer outro item.Sendo selecionada ao acaso uma amostra de cinco itens, qual aprobabilidade de:

(a) obtermos um defeituoso?

(b) obtermos no máximo três defeituosos?

(c) obtermos pelo menos um defeituoso?

ExercícioVeri�que que a f.p. de Y ∼ Binomial(m,p) satisfaz

m

∑y=0

P(Y = y) = 1

Page 16: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.6:

Considere as seguintes situações:

(a) Dos alunos de uma grande universidade, sorteamos ao acaso 5alunos e contamos quantos se declararam usuários de drogas.

(b) Selecionamos 20 lâmpadas ao acaso em um supermercado,sendo 10 de uma marca A e 10 de outra marca B. Contamos onúmero de defeituosas.

(c) Um motorista é submetido a um teste de �baliza�. Em 10tetativas contamos o número de vezes que o motoristaestacionou corretamente.

O modelo Binomial é adequado para estas situações?

Page 17: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Geométrico (1)

Considerando repetições independentes de um experimento deBernoulli(p), p constante em todas as repetições, de�na a v.a.

Y : o número de repetições até a ocorrência do 1o �sucesso�.

Então,

1. Os valores de Y pertencem a {1,2,3, ....}2. A f.p. é

P(Y = k) = (1−p)k−1p, k = 1,2,3....

3. Notação: Y ∼ Geométrica(p)

Page 18: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Geométrico (2)

Com relação as repetições independentes de um experimento deBernoulli(p), p constante em todas as repetições, podemostambém considerar a v.a.

X : o número de repetições antes da ocorrência do 1o �sucesso�.

Neste caso,

1. Os valores de X pertencem a {0,1,2,3, ....}2. A f.p. é

P(X = k) = (1−p)kp, k = 0,1,2,3....

3. Temos a relação Y = X +1

Page 19: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.7:

Considere exemplo anterior, sobre os itens produzidos por umamáquina com probabilidade 0,2 de ser defeituoso,independentemente de quaisquer outros. Suponha agora que ositens são inspecionados um após outro. Qual a probabilidade de sernecessário inspecionar cinco itens até ocorrer o primeiro defeituoso?

Exercício.Veri�que que a f.p. de Y ∼ Geométrica(p) satisfaz

∑y=1

P(Y = y) = 1

Page 20: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo de Poisson

Uma v.a. X discreta que assume valores em {0,1,2,3, ....} e comfunção de probabilidade

P(X = x) =e−λ λ x

x!, λ > 0, x = 0,1,2, ...

1. Emprega-se esse modelo para descrever o número deocorrências de eventos em intervalos (tempo, área, volume,...)

2. λ é a taxa média, ou intensidade, de ocorrência do evento nointervalo considerado

3. Notação: X ∼ Poisson(λ )

Page 21: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo de Poisson

Propriedade:

Seja X ∼ Binomial(m,p). Para m→ ∞ e p→ 0, tal que a taxaλ = m p permanece constante, então

P(X = x)≈ e−λ λ x

x!, x = 0,1,2, ...

X O modelo de Poisson aproxima a distribuição Binomial(m,p)quando m é grande e p pequeno.

Exercício.Fazer a veri�cação da propriedade apresentada para a distrbuiçãoX ∼ Poisson(λ ).

Page 22: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.8:

Em uma central telefônica o número de chamadas pode sermodelado por uma distribuição de Poisson, com taxa λ = 2/min.Admitindo este modelo como verdadeiro, encontre a probabilidadede:

(a) haver quatro chamadas em cinco minutos?

(b) haver doze chamadas em cinco minutos?

(c) haver, no mínimo, três chamadas em dois minutos?

(d) haver cento e trinta chamadas em uma hora?

Page 23: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.9:

No estudo de desempenho de uma central de computação, onúmero de acessos a unidade CPU é modelada por uma distribuiçãode Poisson com taxa λ = 4/seg . Essas requisições podem ser váriasnatureza, tais como, imprimir um arquivo, efetuar um cálculo,enviar uma mensagem, entre outras.

(a) Qual a probabilidade de dois acessos em um segundo?

(b) Qual a probabilidade do número de acessos não ultrapassardois acessos em um segundo?

(c) Considerando um intervalo de dez segundos, qual aprobabilidade de haver mais de cinquenta acessos?

Page 24: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Implementação Computacional:

Função de probabilidade: P(X = x)

Modelo Matlab RBinomial(m,p) binopdf (x ,m,p) dbinom(x ,m,p)Geométrica(p) geopdf (x ,p) dgeom(x ,p)Poisson(λ ) poisspdf (x ,λ ) dpois(x ,λ )

Função de distribuição: P(X ≤ x)

Modelo Matlab RBinomial(m,p) binocdf (x ,m,p) pbinom(x ,m,p)Geométrica(p) geocdf (x ,p) pgeom(x ,p)Poisson(λ ) poisscdf (x ,λ ) ppois(x ,λ )

Nota:No R X ∼ Geométrica(p) é de�nida como �antes do primeirosucesso� (Y = X +1)

Page 25: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função de uma V. A. Discreta

Há situações em que o interesse são transformações da v.a.observada.

Seja X discreta, com valores x1,x2,x3, ..., e considere uma funçãoY = g(X ) que gera valores y1,y2,y3, .... Então temos que

P(Y = yi ) = ∑{j :g(xj )=yi}

P(X = xj)

Exemplos:

Y = cX + b

Y = X k

Y =

{c1 se X ≤ cc2 se X > c

Page 26: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.10:

1. Considere o exemplo da fonte que gera símbolos, aleatoria eindependentemente, a partir das letras a,b,c , e d , comprobabilidades, respectivamente, de 1/2, 1/4, 1/8 e 1/8, e quesão codi�cadas em códigos binários como: a≡ 0; b ≡ 10;c ≡ 110; d ≡ 111. Para X : o número de símbolos binários na

codi�cação obtenha a f.p. de Y = 3x +5.

2. Seja X uma v.a. com f.p.

x -1 0 1P(X = x) 0,3 0,5 0,2

Obtenha a distribuição de Y = X 2.

Page 27: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Valor Esperado de uma V. A. Discreta

De�nição:A esperança (valor esperado, valor médio) para uma v.a. Xdiscreta, com valores x1,x2,x3, ..., é de�nida por

E [X ] = ∑i

xiP(X = xi )

X Caracteriza-se como uma �média ponderada�, cujos pesos são asprobabilidades e indica a região dos valores da v.a. com a maior�concentração de probabilidade�.

Referência:ROSS(2007), Chapter 2KAY(2006), Chapter 6.

Page 28: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.11:

1. Considere o experimento de lançar três vezes uma moeda(�honesta�). De�na a variável aleatória X como o número decaras obtido. Qual o valor esperado para o número de caras?

2. Considere o exemplo da fonte que gera símbolos, aleatoria eindependentemente, a partir das letras a,b,c , e d , comprobabilidades, respectivamente, de 1/2, 1/4, 1/8 e 1/8, e quesão codi�cadas em códigos binários como: a≡ 0; b ≡ 10;c ≡ 110; d ≡ 111. Sendo X : o número de símbolos binários na

codi�cação obtenha E (X ).

Exercício:Obter a esperança dos modelos de v.a. discretas apresentados.

Page 29: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Valor Esperado de Funções de V.A. Discretas

Seja X discreta, com valores x1,x2,x3, ..., e considere uma funçãoY = g(X ) que gera valores y1,y2,y3, .... Então por de�nição

E [Y ] = ∑i

g(xi )P(X = xi ).

De forma alternativa, podemos obter a distribuição de Y eempregá-la para obter a E (Y ) que por de�nição é dada por

E [Y ] = ∑j

yjP(Y = yj)

Page 30: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.12:

1. Considere o exemplo da fonte que gera símbolos, aleatoria eindependentemente, a partir das letras a,b,c , e d , comprobabilidades, respectivamente, de 1/2, 1/4, 1/8 e 1/8, e quesão codi�cadas em códigos binários como: a≡ 0; b ≡ 10;c ≡ 110; d ≡ 111. Para X : o número de símbolos binários na

codi�cação seja Y = 3x +5. Obtenha E (Y ).

2. Seja X uma v.a. com f.p.

x -1 0 1P(X = x) 0,3 0,5 0,2

Para Y = X 2 obtenha E (Y ).

Page 31: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variância de uma V. A. Discreta

De�nições:A variância de uma v.a. X é de�nida por

Var [X ] = E{(X −E [X ])2}.

Então, sendo X discreta com valores x1,x2,x3, ..., temos que

Var [X ] = ∑i

(xi −E [X ])2P(X = xi )

X Mensura a dispersão (ou variabilidade) da distribuição da v.a.com respeito a seu valor esperado.

O desvio padrão da v.a. X é de�nido por

dp[X ] = +√

Var(X )

X A informação da variância expressa na mesma unidade dosvalores associados a v.a.

Page 32: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Propriedades da Esperança e Variância

Seja X uma v.a. e a, b e c constantes.

1. E [c] = c

2. E [aX + b] = aE [X ] + b

3. Var [X ] = E [X 2]− (E [X ])2

4. Var [X ]≥ 0

5. Var [c] = 0

6. Var [cX ] = c2Var [X ]

7. Var [aX + b] = a2Var [X ]

Exercício:

1. Demonstrar cada uma das propriedades acima.

2. Obter a variância dos modelos de v.a. discretas apresentados.

Page 33: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Erro Quadrático Médio (EQM)

Considere o problem em um experimento de predizer o resultadopara uma v.a. X antes de sua ocorrência. O objetvo é escolher umnúmero b que, em média, esteja mais próximos do verdadeiro valorde resultado de X .

Erro Quadrático Médio (EQM) (Mean Square Error (MSE)):

EQM(X ,b) = E [(X −b)2]

Critério;Obter b que minimize EQM(X ,b), isto é, bopt = minb EQM(X ,b).

Exercício:

1. Obtenha o �melhor preditor em EQM para X� (bopt), o queminimiza o EQM.

2. Avalie EQM(X ,bopt), isto é, quão boa será a predição do valorde X .

Page 34: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função Característica de V.A. DiscretasA função característica (f.c.) de uma v.a. X é de�nida por

φX (t) = E [e jtX ], t ∈ R,

onde j =√−1. Sendo X discreta com valores x1,x2,x3, ..., então

φX (t) = ∑i

e jtxi P(X = xi ).

Propriedade:A f.c. sempre existe pois |φX (t)|< ∞.

O r - ésimo momento de uma v.a. X é de�nido por

µr = E [X r ], r = 1,2,3, ...

Propriedade:A f.c. gera os momentos E [X n] por

E [X r ] =1j r

φ(r)X (0), onde φ

(r)X (t) =

d r

dtrφX (t)

Page 35: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função Característica de V.A. Discretas

Unicidade da Função Característica:A função característica de uma v.a. X determina univocamente adistribuição de X . (a f.c. é uma representação da distribuição)

X A f.c. pode ser empregada para identi�car se uma dada v.a.segue uma distribuição cuja f.c. seja conhecida.

Exemplo 2.14

1. Considere uma v.a. X ∼ Bernoulli(p). Obter f.c. e empregarpara obter sua esperança e sua variância.

Exercício:

1. Obter a f.c. para os modelos de v.a. discretas apresentados.

2. Em KAY(2006) estudar o exemplo, relativo a �Property 6.6�,sobre a aproximação da Binomial(m,p) pela Poisson(λ ), comλ = mp.

Page 36: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelos Discretos:Esperança, Variância, Função Característica

Modelo (X ) E (X ) Var(X ) φX (t)Bernoulli(p) p p(1−p) pe jt +(1−p)

Binomial(m,p) mp mp(1−p)(pe jt +(1−p)

)mGeométrica(p) 1

p1−pp2

pe−jt−(1−p)

Poisson(λ ) λ λ eλ (e jt−1)

Nota:X ∼ Geométrica(p) de�nida como �até ocorrer o primeiro sucesso�

Page 37: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variáveis Aleatórias Contínuas

Em muitos experimentos aleatórios é possível, ou conveniente,associar seus resultados à um conjunto não enumerável de valores.Nestes casos, as respostas são modeladas por uma v.a. queassumem qualquer valor em um adequado intervalo de númerosreais.

Exemplo:Realizar experimentos para medir o consumo de energia naexecução de códigos em sistemas embarcados.

De�nição:Uma v.a. X é dita contínua se assume valores em um intervalo, ouuma coleção de intervalos, de números reais.

Referência:ROSS(2007), Chapter 2KAY(2006), Chapter 10.

Page 38: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variáveis Aleatórias Contínuas

A cada v.a. contínua estará associada uma função que descreve oseu comportamento probabilístico; é denominada função densidade

de probabilidade.

De�nição:Para uma v.a. contínua X , a função densidade de probabilidade

(f.d.p.) é uma função f (·) que satisfaz a:

(1) f (x)≥ 0 para todo x ∈ R(2)

∫∞

−∞f (x)dx = 1

(3) Para B ⊂ R, P(X ∈ B) =∫B f (x)dx

Page 39: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variáveis Aleatórias Contínuas

De�nição:Sendo X uma v.a. com f.d. F (·), dizemos que X é contínua seexiste uma função f (·)≥ 0, tal que

F (x) = P(−∞ < X ≤ x) =∫ x

−∞

f (t)dt, ∀x ∈ R.

1. Se X é contínua, então F (·), sendo uma integral de f (·), écontínua.

2. Pelas propriedades de F (·),

f (x) =

{F ′(x), se diferenciável em x0, se não diferenciável em x

Page 40: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variáveis Aleatórias Contínuas

· A função densidade de probabilidade descreve a distribuição deprobabilidade da v.a. contínua

· A probabilidade P(a≤ X ≤ b) equivale a área sob a curva def (·) entre a e b

· Pela de�nição, ∀a ∈ R,

P(X = a) =∫ a

af (x)dx = 0.

Portanto, temos que

P(a≤X ≤ b) = P(a≤X < b) = P(a < X ≤ b) = P(a < X < b)

· Podemos avaliar a probabilidade de X ocorrer �próximo� de acom o argumento matémático, com ε → 0,

P(a− ε

2≤ X ≤ a +

ε

2) =

∫ a+ ε

2

a− ε

2

f (x)dx ≈ εf (a),

Page 41: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.14:

Admita que o tempo de trasmissão de uma mensagem, em u.t., emum sistema de comunicação é descrito por uma v.a. X (contínua)tal que

P(X > x) = e−λx , ∀x ≥ 0,

para uma contante λ > 0.

(a) Qual a probabilidade do tempo de transmissãoser maior que 2 u.t.?

(b) Obtenha a f.d. de X .

(c) Obtenha a f.d.p. de X .

Page 42: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Uniforme Contínuo

Uma v.a. contínua X tem distribuição uniforme em (a,b)⊂ R sesua f.d.p. é

f (x) =

{1

b−a , se a < x < b

0, caso contrário

1. A função f (x) é constante em (a,b);

2. As probabilidades de intervalos são proporcionais a seuscomprimentos;

3. Notação: X ∼ Uniforme (a,b).

Exemplo 2.15

1. Obter a f.d. para X ∼ Uniforme (a,b).2. Seja X ∼ Uniforme (0,10). Determine:

(a) P(X < 3)(b) P(X > 7)(c) P(1< X < 6)

Page 43: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Exponencial

Uma v.a. contínua X com valores em [0,∞) é dita ter distribuiçãoExponencial de parâmeto λ se sua f.d.p. é

f (x) =

{λ e−λ x , se x ≥ 0, λ > 0

0, caso contrário

1. É empregado para modelar tempo de vida de componentes,duração de processos,...

2. A f.d. é

F (x) =

{1− e−λ x , se x ≥ 0

0, caso contrário

3. Notação: X ∼ Exponencial (λ ).

Page 44: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.16:

1. Obter a f.d. para X ∼ Exponencial (λ ).

2. Mostre que para X ∼ Exponencial (λ ) e 0< a < b,

P(a < X < b) = e−λ a− e−λ b

3. Assuma que o tempo de duração de ligações telefônicas (min)em uma empresa que trabalha com vendas pode ser modeladapor uma v.a X ∼ Exponencial (λ = 1/10). Determine aprobabilidade de:(a) a ligação demorar menos de cinco minutos?(b) a ligação demorar de cinco a dez minutos?

Page 45: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Gama

Uma v.a. contínua X com valores em [0,∞), de parâmetos λ > 0 eα > 0 e sua f.d.p. dada por

f (x) =

{1

Γ(α) λ α xα−1 e−λ x , se x ≥ 00, caso contrário

ondeΓ(α) =

∫∞

0

e−ssα−1ds,

é denominada função matemática gama.

Notação: X ∼ Gama (α,λ ).

Page 46: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Gama

1. A função matemática Γ(α) tem as propriedades:

1.1 Γ(1/2) =√

π

1.2 Γ(α +1) = αΓ(α)1.3 Se α = m inteiro, Γ(m) = (m−1)!

2. Gama (1,λ ) ≡ Exponencial(λ )

3. Se α = m inteiro, é conhecida como distribuição de Erlang .

f (x) =

{1

(m−1)! λm xm−1 e−λ x , se x ≥ 00, caso contrário

⇒ modela a soma dos tempos de vida de componentes queatuem independentemente em sistemas.

Page 47: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.17:

Considere no exemplo anterior o tempo de duas ligações telefônicasconsecutivas e admita que suas durações são eventosindependentes. Admita que os tempos de duração das ligaçõestelefônicas (min) podem ser modelados por v.a.

Xi ∼ Exponencial (λ = 1/10), i = 1,2.

Seja T a v.a. que descreve o tempo de duração das duas ligações,então T = X1 + X2. Neste caso, podemos modelar

T ∼ Gama (α = 2,λ = 1/10).

Qual a probabilidade do tempo das duas ligações ser menor quequinze minutos?

Page 48: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Normal (Gaussiano)

Uma v.a. contínua X tem distribuição normal com parâmetros µ eσ2, se sua f.d.p. é

fX (x) =1√2πσ

exp

{−12

(x−µ

σ

)2},−∞ < x < ∞

1. A distribuição é simétrica em torno do valor de µ .

2. A �extensão� do grá�co da densidade é dado pelo valor de σ .

3. É considerada distribuição mais importante, descreve ocomportamento de muitas características associadas aproblemas reais.

4. X ∼ N(µ;σ2)

Page 49: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelo Normal: Alguns Resultados

1. Sendo X ∼ N(µ;σ2) e Y = a X + b, com a 6= 0 e b ∈ R, entãoY ∼ N(aµ + b;a2σ2)

2. Sendo X ∼ N(µ;σ2) e fazendo

Z =X −µ

σ,

então Z ∼ N(0;1), denominada normal padronizada.

3. As probabilidades são calculadas por aproximações numéricas,obtidas com emprego de softwares ou tabelas da normal

padronizada

4. Para o emprego das tabelas, o procedimento é padronizar avariável em questão e obter a probabilidades correspondentepara N(0;1).

Page 50: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.18:

1. Seja Z ∼ N(0;1). Para esta variável determine:

(a) P(Z < 1,32)(b) P(Z <−1,96)(c) Um valor z tal que P(−z < Z < z) = 0,95

2. Os depósitos efetuados em uma agência bancária durante umdeterminado mês são modelados por uma v.a.X ∼ N(10.000,(1.500)2). Encontrar a probabilidade de que odepósito seja:

(a) um valor entre R$ 12.000,00 e R$ 15.000,00?(b) maior que R$ 19.000,00?

Page 51: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.19:

O tempo (em minutos) para a realização de um teste de aptidãoaplicado aos candidatos em um concurso é modelado como umav.a. com distribuição normal com parâmetros µ = 90 e σ = 20.Esse tempo é empregado como um dos critérios de seleção.

(a) Para ser aprovado no teste, o candidato deve completá-lo emmenos de 80 minutos. Se 65 candidatos �zeram o teste,quantos são esperados passar?

(b) Se os 5% melhores candidatos são alocados para os cargoscom melhor remuneração, quão rápido deve ser o candidatopara que obtenha esse cargo?

Page 52: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Implementação Computacional:

Função de distribuição:

Modelo MatlabX ∼ Uniforme(a,b) P(X ≤ x)≡ unifcdf (x ,a,b)X ∼ Exponencial(λ ) P(X ≤ x)≡ expcdf (x ,1/λ )X ∼ Gama(α,λ ) P(X ≤ x)≡ gamcdf (x ,α,1/λ )

X ∼ N(µ;σ2) P(X ≤ x)≡ normcdf (x ,µ,σ), σ =√

σ2

Modelo R softwareX ∼ Uniforme(a,b) P(X ≤ x)≡ punif (x ,a,b)X ∼ Exponencial(λ ) P(X ≤ x)≡ pexp(x ,λ )X ∼ Gama(α,λ ) P(X ≤ x)≡ pgamma(x ,α,λ )

X ∼ N(µ;σ2) P(X ≤ x)≡ pnorm(x ,µ,σ), σ =√

σ2

Page 53: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função de Distribuição Inversa

De�nição:Para uma v.a. X , com f.d. F (·), a f.d. inversa é de�nida por

F−1(p) = min{x : F (x)≥ p}, p ∈ [0,1].

Se F é estritamente crescente e contínua então F−1(p) é um úniconúmero x tal que

F (x) = P(X ≤ x) = p.

X Para p ∈ [0,1], determina um valor x que estabelece aprobabilidade p a sua esquerda na distribuição de X .

De�nição:A mediana da distribuição X é de�nida por

med(X ) = F−1X (0,5).

Page 54: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Implementação Computacional:

Função de distribuição inversa:

X v.a. contínua, p ∈ (0,1), obter x tal que F (x) = P(X ≤ x) = p

Modelo MatlabX ∼ Uniforme(a,b) F−1(p) = x : x = unifinv(p,a,b)X ∼ Exponencial(λ ) F−1(p) = x : x = expinv(p,1/λ )X ∼ Gama(α,λ ) F−1(p) = x : x = gaminv(p,α,1/λ )

X ∼ N(µ;σ2) F−1(p) = x : x = norminv(p,µ,σ), σ =√

σ2

Modelo R softwareX ∼ Uniforme(a,b) F−1(p) = x : x = qunif (p,a,b)X ∼ Exponencial(λ ) F−1(p) = x : x = qexp(p,λ )X ∼ Gama(α,λ ) F−1(p) = x : x = qgamma(p,α,λ )

X ∼ N(µ;σ2) F−1(p) = x : x = qnorm(p,µ,σ), σ =√

σ2

Page 55: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.20:

1. Para uma v.a. X determine um valor x quando:1.1 X ∼ Exponencial(1/100) e P(X > x) = 0,05.1.2 X ∼ Normal(0;1) e P(X < x) = 0,9751.3 X ∼ Normal(0;1) e P(−x < X < x) = 0,951.4 X ∼ Normal(90;400) e P(X > x) = 0,05

2. Considere uma v.a. X ∼ Gama (2;3). Obtenha a medianadesta distribuição.

3. Sendo X ∼ Normal (µ;σ2), qual a mediana da suadistribuição?

Page 56: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Valor Esperado de uma V. A. Contínua

De�nição:A esperança (valor esperado, valor médio) de uma v.a. contínua X ,com f.d.p f (x), é de�nida por

E [X ] =∫

−∞

x f (x)dx ,

X A interpretação é análoga a das v.a. discretas, um valornumérico que visa caracterizar �região central� da distribuição deprobabilidade da v.a.

X Se a distribuição de probabilidade da v.a. apresentar um pontode simetria, o valor esperado indicará este ponto.

Referência:ROSS(2007), Chapter 2KAY(2006), Chapter 11

Page 57: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.21:

1. Seja X uma v.a. contínua com f.d.p.

f (x) =

{3x2, se 0≤ x ≤ 10, caso contrário.

Obtenha a esperança de X .

2. Seja X ∼ Uniforme (a,b). Obter E [X ].

Exercício:Obter a esperança dos modelos de v.a. contínuas apresentados.

Page 58: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Valor Esperado de Funções de V. A. Contínuas

Sejam X uma v.a contínua, com f.d.p f (·), e g(·) uma função quegera uma v.a. Y = g(X ) também continua. Então, temos que

E [Y ] = E [g(X )] =∫

−∞

g(x) f (x)dx .

Observação:É possivel determinar a f.d.p de Y , fY (·), e empregá-la para obter

E [Y ] =∫

−∞

y fY (y)dy

Veja KAY(2006), Chapter 10, Appendix 10A.

Exemplo 2.22:Para a v.a. X ∼ Uniforme(−1,1) e Y = X 2, determine E [Y ].

Page 59: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variância de V. A. Contínuas

De�nições:A variância de uma v.a. X , com f.d.p f (x), é de�nida por

Var(X ) = E{(X −E [X ])2}.

EntãoVar(X ) =

∫∞

−∞

(x−E [X ])2 f (x)dx .

O desvio padrão da v.a. X é de�nido por

dp[X ] = +√

Var(X )

X A Interpretação é análoga a das v.a. discretas, mensura adispersão (ou a variabilidade) da distribuição da v.a. com respeito aseu valor esperado.

Page 60: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.23:

1. Seja X uma v.a. contínua com f.d.p.

f (x) =

{3x2, se 0≤ x ≤ 10, caso contrário.

Obtenha a variância de X .

2. Seja X ∼ Uniforme (a,b). Obter Var [X ].

Exercício:Obter a variância dos modelos de v.a. contínuas apresentados.

Page 61: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Propriedades da Esperança e Variância

Todas as propriedades da Esperança e Variância apresentadas paraas v.a. discretas são válidas para as v.a. contínuas,

1. E [c] = c

2. E [aX + b] = aE [X ] + b

3. Var [X ] = E [X 2]− (E [X ])2

4. Var [X ]≥ 0

5. Var [c] = 0

6. Var [cX ] = c2Var [X ]

7. Var [aX + b] = a2Var [X ]

Exercício:Demonstrar cada uma das propriedades acima sendo X uma v.a.contínua.

Page 62: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função Característica de V.A. Contínuas

De�nição:A função característica (f.c.) de uma v.a. X é de�nida por

φX (t) = E [e jtX ], t ∈ R,

onde j =√−1. Para X contínua com f.d.p f (x) temos que

φX (t) =∫

−∞

e jtx f (x)dx .

Propriedades

1. A f.c. sempre existe pois |φX (t)|< ∞.

2. Gera os momentos E [X n] por

E [X n] =1jn

φ(n)X (0), onde φ

(n)X (t) =

dn

dtnφX (t)

Page 63: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função Característica de V.A. Contínuas

Teorema da UnicidadeA função característica de uma v.a. X determina univocamente adistribuição de X . (a f.c. é uma representação da distribuição)

Exemplo 2.24

1. Considere uma v.a. X ∼ Exponencial(λ ). Obter f.c. eempregar para obter sua esperança e sua variância.

Exercício:

1. Obter a f.c. para os modelos de v.a. contínuas apresentados eempregar para obter a esperança e a variância.

2. Empregar a f.c. para mostrar que, sendo X ∼ N(µ;σ2), temosque:2.1 para Y = a X + b, com a 6= 0 e b ∈ R, então

Y ∼ N(aµ + b;a2σ2).

2.2 para Z = X−µ

σ, então Z ∼ N(0;1).

Page 64: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Modelos Contínuos:Esperança, Variância, Função Característica

Modelo (X ) E (X ) Var(X ) φX (t)

X ∼ Uniforme(a,b) a+b2

(b−a)212

e jtb−e jtbjt(b−a)

X ∼ Exponencial(λ ) 1λ

1λ2

λ

λ−jt

X ∼ Gama(α,λ ) α

λ

α

λ2

λ−jt

X ∼ N(µ ;σ2) µ σ2 e jtµ− 1

2t2σ2

Page 65: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição Conjunta de V. A.

Considere duas v.a. X e Y associadas a um experimento aleatório.

∀s ∈ S ⇒ RXY = {(X (s),Y (s)) ∈ R2}

A função de distribuição conjunta de X e Y é de�nida por

F (x ,y) = P(X ≤ x ,Y ≤ y), −∞ < x ,y < ∞.

A de�nição vale para mais v.a.: X1,X2, ...,Xd

F (x1,x2, ...,xd) = P(X1 ≤ x1,X2 ≤ x2, ...,Xd ≤ xd),

com −∞ < xi < ∞, i = 1,2, ...,d .

Referência:ROSS(2007), Chapter 2KAY(2006), Chapter 7 and Chapter 12.

Page 66: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição Conjunta de V. A.

Serão considerados os casos:

1. Para (X ,Y ) discretas de�nimos a f.p. conjunta

p(xi ,yj) = P(X = xi ,Y = yj),

para todo (xi ,yj) pares de valores de (X ,Y ).

2. Para (X ,Y ) conjuntamente contínuas temos f.d.p. conjuntaf (·, ·) tal que

P(X ∈ A,Y ∈ B) =∫A

∫B

f (x ,y)dx dy ,

para todo A e B em R.

Page 67: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuições Marginais

Podemos obter a distribuição marginal de cada uma das v.a. apartir da distribuição conjunta

1. (X ,Y ) discretas com f.p. conjunta p(xi ,yi )

P(X = x) = ∑yj

p(x ,yj),

P(Y = y) = ∑xi

p(xi ,y)

2. (X ,Y ) contínua com f.d.p. conjunta f (x ,y)

fX (x) =∫

−∞

f (x ,y)dy ,

fY (y) =∫

−∞

f (x ,y)dx ,

Page 68: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuições Marginais

Extensões:

1. (X1,X2, ...,Xd) discretas com f.p. conjunta p(x1,x2, ...,xd)

P(Xi = x) = ∑x1

... ∑xi−1

∑xi+1

...∑xd

p(x1, ...,xi−1,x ,xi+1, ...,xd)

para i = 1,2,3, ...,d

2. (X1,X2, ...,Xd) contínuas com f.d.p. conjunta f (x1,x2, ...,xd)

fXi(x) =

∫∞

−∞

...∫

−∞

f (x1, ..,xi−1,x ,xi+1, ..,xd)dx1..dxi−1dxi+1..dxd

para i = 1,2,3, ...,d

Page 69: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.24:

1. Seja (X ,Y ) v.a. bidimensional com f.p. conjunta

Y \X 0 1 22 0.25 0.10 0.153 0.25 0.05 0.20

Obtenha as distribuições marginais de X e de Y .

2. Seja (X ,Y ) com f.d.p. conjunta

f (x ,y) =

{x + y , 0≤ x ≤ 1, 0≤ y ≤ 10, c .c

Obtenha as distribuições marginais de X e de Y .

Page 70: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

V. A. Independentes

Considere os eventos

A = {s ∈ S : X (s)≤ x}B = {s ∈ S : Y (s)≤ y}

Então,

P(A∩B) = P(X (s)≤ x ,Y (s)≤ y) = F (x ,y)

Se A e B são independentes, temos

P(A∩B) = P(A)P(B)

F (x ,y) = P(X (s)≤ x)P(Y (s)≤ y)

F (x ,y) = FX (x)FY (y)

Page 71: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

V. A. Independentes

De�nição: As v.a. X e Y são independentes se e somente se

F (x ,y) = FX (x)FY (y) ∀(x ,y) ∈ R2

A de�nição implica que:

1. Para (X ,Y ) discreta

P(X = xi ,Y = yj) = P(X = xi )P(Y = yj) ∀(xi ,yj)

2. Para (X ,Y ) contínua com f.d.p. conjunta f (x ,y)

f (x ,y) = fX (x)fY (y).

Exemplo 2.25:Veri�que se no exemplo anterior as v.a. são independentes.

Page 72: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Valor Esperado de g(X ,Y )

Seja (X ,Y ) v.a. bidimensional e g(·, ·) uma função real.

De�nição:

1. Para (X ,Y ) v.a. bidimensional discreta

E [g(X ,Y )] = ∑xi

∑yj

g(xi ,yj)P(X = xi ,Y = yj)

2. Para (X ,Y ) v.a. bidimensional conjuntamente contínua

E [g(X ,Y )] =∫

−∞

∫∞

−∞

g(x ,y)f (x ,y)dx dy .

Page 73: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Algumas Propriedades:

1. X e Y v.a., a e b constantes

E [aX + bY ] = aE [X ] + bE [Y ]

2. X1,X2, ...,Xd v.a., a1,a2, ...,ad constantes

E [a1X1 + a2X2 + ...+ adXd ] =d

∑i=1

aiE [Xi ]

3. X e Y v.a. independentes, g(·) e h(·) funções

E [g(X )h(Y )] = E [g(X )]E [h(Y )]

4. X1, ...,Xd v.a. independentes, g1, ...,gd funções

E [g1(X1)g2(X2)...gd(Xd)] =d

∏i=1

E [gi (Xi )]

Page 74: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Covariância e Variância da Soma de V. A.

De�nição: A covariância entre duas v.a. X e Y é de�nida por

Cov(X ,Y ) = E{(X −E [X ])(Y −E [Y ])}

1. É uma medida de �variabilidade conjunta� entre as v.a.

2. Valores � + � indicam que as v.a. tendem a crescer no mesmosentido, e valores � - � indicam sentidos opostos.

3. Resultado:

Cov(X ,Y ) = E [XY ]−E [X ]E [Y ] = Cov(Y ,X )

⇒ é uma medida �simétrica�.

Exercício:Fazer a veri�cação deste resultado

Page 75: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.26:

1. Seja (X ,Y ) v.a. bidimensional com f.p. conjunta

Y \X 0 1 22 0.25 0.10 0.153 0.25 0.05 0.20

Obtenha a covariância entre X e Y .

2. Seja (X ,Y ) com f.d.p. conjunta

f (x ,y) =

{x + y , 0≤ x ≤ 1, 0≤ y ≤ 10, c .c

Obtenha a covariância entre X e Y .

Page 76: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Propriedades:

1. Cov(X ,X ) = Var(X )

2. Com X e Y independentes, Cov(X ,Y ) = 0.

3. Se a e b são constantes,

Cov(aX ,bY ) = a b Cov(X ,Y )

4. Cov(X ,Y + Z ) = Cov(X ,Y ) + Cov(X ,Z )

5. Com X1, ...,Xm e Y1, ...,Yn v.a. e sendo a1,a2, ...,ad eb1,b2, ...,bd constantes

Cov(m

∑i=1

aiXi ,n

∑j=1

bjYj) =m

∑i=1

n

∑j=1

aibjCov(Xi ,Yj).

Page 77: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Propriedades:

6. Com X1, ...,Xm v.a.

Var(m

∑i=1

Xi ) =m

∑i=1

Var(Xi )

+2m−1

∑i=1

m

∑j=i+1

Cov(Xi ,Yj)

7. Se X1, ...,Xm são v.a. conjuntamente independentes

Var(m

∑i=1

Xi ) =m

∑i=1

Var(Xi )

Exercício:

1. Fazer a veri�cação destas propriedades.

2. Estudar o problema de predição em KAY(2006), Section 7.9

Page 78: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.27:

Seja Y ∼ Binomial(m,p) e de�na, para cada repetição, as v.a.

Xi =

{1, se ocorre o sucesso0, se ocorre o fracasso

com i = 1,2, ..,m. Modele Y em termos das v.a. Xi ′s e obtenhaE [Y ] e Var [Y ].

Page 79: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Coe�ciente de Correlação

De�nição: O coe�ciente de correlação entre duas v.a. X e Y éde�nido por

ρ(X ,Y ) =Cov(X ,Y )√

Var(X )Var(Y ).

1. É uma medida que quanti�ca a associação linear entre as v.a.

2. −1≤ ρ(X ,Y ) ≤ 1.

3. ρ(X ,Y ) = 1 ⇔ Y = aX + b, a > 0 e b ∈ R4. ρ(X ,Y ) =−1 ⇔ Y = aX + b, a < 0 e b ∈ R.5. ρ(X ,Y ) = 0 ⇒ ausência de associação linear.

Page 80: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.28

1. Seja (X ,Y ) v.a. bidimensional com f.p. conjunta

Y \X 0 1 22 0.25 0.10 0.153 0.25 0.05 0.20

Obtenha o coe�ciente de correlação entre X e Y .

2. Seja (X ,Y ) com f.d.p. conjunta

f (x ,y) =

{x + y , 0≤ x ≤ 1, 0≤ y ≤ 10, c .c

Obtenha o coe�ciente de correlação entre X e Y .

3. Estudar a Seção 7.9, do Capítulo 7, em KAY(2006). Aborda aquestão de predição de Y , com base no conhecimento do valorde X .

Page 81: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função Característica Conjunta

De�nição:A função característica (f.c.) de uma v.a. bidimensional (X ,Y ) éde�nida por

φXY (t,s) = E [e j(tX+sY )], (t,s) ∈ R2,

onde j =√−1.

Para (X ,Y ) discreta, com f.p. conjunta p(xi ,yj), temos que

φXY (t,s) = ∑xk

∑yi

e j(txk+syi ) p(xk ,yi )

Para (X ,Y ) conjuntamente contínua, com f.d.p. conjunta f (x ,y),temos que

φXY (t,s) =∫

−∞

∫∞

−∞

e j(tx+sy) f (x ,y)dx dy .

Page 82: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Função Característica Conjunta: Propriedades

1. A f.c. sempre existe pois |φXY (t,s)|< ∞.

2. Gera os momentos conjuntos E [XmY n] por

E [XmY n] =1

jm+nφ

(m+n)XY (0,0); φ

(m+n)XY (t,s) =

dm+n

dtm dsnφXY (t,s)

3. Teorema da Unicidade também se veri�ca.

4. Função característica marginal

φX (t) = φXY (t,0) e φY (s) = φXY (0,s)

4. Para X e Y v.a. independentes, com f.c. φX (t) e φY (s), temos

φX+Y (t) = φX (t)φY (t)

Exercício:

1. Fazer a veri�cação da Propriedade 4.2. Para X ∼ Poisson(λ1), Y ∼ Poisson(λ2), v.a. independentes, e

Z = X + Y , mostrar que Z ∼ Poisson(λ ), com λ = λ1 + λ2.

Page 83: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição CondicionalDe�nição: Para (X ,Y ) v.a. com distribuição conjunta

1. (X ,Y ) discreta com f.p. conjunta P(X = x ,Y = y)

P(X = x |Y = y) =P(X = x ,Y = y)

P(Y = y), ∀y com P(Y = y) > 0

2. (X ,Y ) contínua com f.d.p. conjunta fXY (x ,y)

fX |Y (x |y) =fXY (x ,y)

fY (y), ∀y com fY (y) > 0.

X São distribuições de probabilidade, portanto

1. ∑x P(X = x |Y = y) = 1

2.∫

−∞fX |Y=y (x |y)dx = 1

Referência:KAY(2006), Chapter 8 and Chapter 13ROSS(2007), Chapter 3

Page 84: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição Condicional

Para (X ,Y ) com f.p. conjunta

1. A f.p conjunta determina a probablidade condicional

P(X = x |Y = y) =P(X = x ,Y = y)

∑j p(X = xj ,Y = y)

2. As probablidades condicionais estão relacionads

P(X = x |Y = y) =P(Y = y |X = x)P(X = x)

P(Y = y)

3. A condicional expressa como Teorema de Bayes

P(X = x |Y = y) =P(Y = y |X = x)P(X = x)

∑j P(Y = y |X = xj)P(X = xj)

Page 85: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição CondicionalPara (X ,Y ) com f.d.p. conjunta

1. A f.d.p. conjunta determina a probablidade condicional

fX |Y (x |y) =fXY (x ,y)∫

−∞f (x ,y)dx

2. As probablidades condicionais estão relacionads

fX |Y (x |y) =fY |X (y |x)fX (x)

fY (y)

3. A condicional e sua marginal gera a outra marginal

fY (y) =∫

−∞

fY |X (y |x)fX (x)dx

4. A condicional expressa como Teorema de Bayes

fX |Y (x |y) =fY |X (y |x)fX (x)∫

−∞fY |X (y |x)fX (x)dx

Page 86: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.29

1. Seja (X ,Y ) v.a. bidimensional com f.p. conjunta

Y \X 0 1 22 0.25 0.10 0.153 0.25 0.05 0.20

Obtenha a distribuição (condicional) de X dado Y = 2.

2. Seja (X ,Y ) com f.d.p. conjunta

f (x ,y) =

{6xy(2−x−y), 0≤ x ≤ 1, 0≤ y ≤ 10, c .c

Obtenha a distribuição (condicional) fX |Y=y (x |y).

3. Sejam X ∼ Poisson(λ1) e Y ∼ Poisson(λ2) independentes.Determine a distribuição de X dado X + Y = k

Page 87: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Esperança Condicional

De�nição:A esperança condicional de X dado Y = y é da forma

1. Para (X ,Y ) com f.p. conjunta P(X = x ,Y = y) eP(Y = y) > 0

E [X |Y = y ] = ∑x

x P(X = x |Y = y)

2. Para (X ,Y ) com f.d.p. conjunta fXY (x ,y) e fY (y) > 0

E [X |Y = y ] =∫

−∞

x fX |Y (x |y)dx

Exemplo 2.30:Com relação ao exemplo anterior, determinar as esperançascondicionais para as distribuições obtidas.

Page 88: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Esperança Condicional

Resultado 1: para a função E [X |Y ], cujo valor em Y = y é dadopor E [X |Y = y ], temos que

E [X ] = E{E [X |Y ]}

Com Y discreta

E [X ] = ∑y

E [X |Y = y ]P(Y = y)

Com Y contínua

E [X ] =∫

−∞

E [X |Y = y ] fY (y)dy

Resultado 2: Se X e Y são independentes, então

E [X |Y = y ] = E [X ] e E [Y |X = x ] = E [Y ]

Exercício:Fazer a veri�cação destes resultados.

Page 89: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Variância CondicionalDe�nição:A variância condicional de X dado Y = y é de�nida como

Var [X |Y = y ] = E{[X −E (X |Y = y)]2|Y = y}

Resultados:

1. Podemos empregar

Var [X |Y = y ] = E [X 2|Y = y ]− [E (X |Y = y)]2,

dependendo se Y discreta ou contínua, E [X 2|Y = y ] é

∑x

x2P(X = x |Y = y) ou∫

−∞

x2fX |Y (x |y)dx

2. A Var(X ) pode ser obtida como

Var [X ] = E [Var(X |Y )] + Var(E [X |Y ])

Exercício:Fazer a veri�cação destes resultados.

Page 90: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Aplicação:

A soma de um número aleatório de v.a:Sejam X1,X2,X3, ... v.a. independentes, todas com a mesmadistribuição (v.a.i.i.d), e seja N uma v.a. discreta com valores em{1,2,3, ....}. Considere que N é independente do Xi ′s e de�na

Y = X1 + X2 + X3 + ...+ XN .

Mostrar que

(a) E [Y ] = E [X1]E [N].

(b) Var [Y ] = Var [X1]E [N] + E 2[X1]Var [N].

(c) φY (t) = E{[φX1(t)]N}, onde φX1

(t) é a f.c. de X1.

Page 91: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Cálculo de Probabilidade por Condicionamento

Para o evento {X ∈ A} de�na uma v.a. como

W =

{1 se X ∈ A0 se X 6∈ A

⇒ E [W ] = P(X ∈ A) e E [W |Y = y ] = P{(X ∈ A)|Y = y}.

Resultado:

P(X ∈ A) = E [W ] = E{E [W |Y ]}= E{P[(X ∈ A)|Y ]}.

Com Y discreta

P(X ∈ A) = ∑y

P{(X ∈ A)|Y = y}P(Y = y)

Com Y contínua

P(X ∈ A) =∫

−∞

P{(X ∈ A)|Y = y} fY (y)dy

Page 92: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.31:

1. Considere X e Y v.a. contínuas e independentes e de�naT = X + Y , denominada convolução das f.d. FX ()̇ e FY ()̇

(a) Mostrar que

FT (t) =∫

−∞

FX (t−y) fY (y)dy .

(b) Com X ∼ Exp(λ1) e Y ∼ Exp(λ2), obter a f.d.p. de T .

2. Para uma central de serviços há uma probabilidade p de quecada serviço seja executado corretamente e as execuções sãoindependentes. Suponha que as solicitações de serviço, em umdado intervalo de tempo, chegam segundo um modelo dePoisson(λ ). Qual a probabilidade de serem executadoscorretamente k serviços no intervalo de tempo considerado?

Page 93: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Vetores Aleatórios

Um vetor cujas componentes são v.a.: X> = (X1,X2,X3...,Xd)

1. Função de distribuição conjunta

F (x1,x2,x3, ...,xd) = P(X1 ≤ x1,X2 ≤ x2,X3 ≤ x3, ...,Xd ≤ xd),

com −∞ < xi < ∞, i = 1,2, ...,d .

2. Conjuntamente discreto ⇒ f.p. conjunta

P(X = x) = P(X1 = x1,X2 = x2,X3 = x3, ...,Xd = xd)

3. Conjuntamente contínuo ⇒ f.d.p. conjunta

fX(x) = fX1X2X3...Xd(x1,x2,x3, ...,xd)

Notação: x> = (x1,x2,x3, ...,xd) ∈ Rd

Referência: KAY(2006), Chapter 9 and Chapter 14.

Page 94: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Vetores Aleatórios: Caracterização

Vetor de Médias:

E [X] =

E [X1]E [X2]

...E [Xd ]

Matrix de Covariâncias:

CX = E{(X−E [X])(X−E [X])>}

que resulta em

CX =

σ11 σ12 σ13 . . . σ1d

σ21 σ22 σ23 . . . σ2d...

...... . . .

...σd1 σd2 σd3 . . . σdd

onde σij = cov(Xi ,Xj) = E{(Xi −E [Xi ])(Xj −E [Xj ])}.

Page 95: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Vetores Aleatórios: CaracterizaçãoMatriz de Correlações:

ρρρX =

1 ρ12 ρ13 . . . ρ1d

ρ12 1 ρ23 . . . ρd3...

...... . . .

...ρd1 ρd2 ρd3 . . . 1

onde

ρij =σij

(√

σii σjj)

⇒ Resultado:Fazendo V = diag [

√σ11,√

σ22,√

σ33, ...,√

σdd ], então temos que

ρρρX = V−1CXV

−1 e CX = V ρρρXV

.Função Característica:

φX (t) = E (e jt>X) = E (e j(t1X1+t2X2+t3X3+...+tdXd ))

Page 96: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Vetores Aleatórios: Propriedades

1. Matriz de covariâncias é simétrica e a diagonal principalcontém as variâncias das v.a. em X.

2. Se as v.a. em X são conjuntamente independentes, então

CX = diag(σ11,σ22,σ33, ...,σdd)

3. Sendo a(d×1) vetor de constantes ( 6= 0), b ∈ R e Y = a>X+ bentão

E [Y ] = a>E [X] + b e Var [Y ] = a

>CXa.

4. Com A(m×d), m ≤ d , matrix de constantes e Y = AX, então

E [Y] = AE [X] e CY = ACXA>.

5. Pode ser obtida uma transformação de X para Y, tal que CY

seja diagonal.

Page 97: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.32:

1. Para as v.a. X1 ∼ Exp(λ = 0,5) e X2 ∼ Exp(λ = 0,2),considere o vetor X> = (X1,X2).(a) Sendo X1 e X2 independentes, determine E [X] e COV [X].(b) Sendo ρ(X1,X2) = 0,9, determine E [X] e COV [X].

2. Sejam Xi ∼ Poisson(λ ), i = 1,2,3, ...,d , e independentes.Considere X> = (X1,X2,X3...,Xd).(a) Determine a disitribuição conjunta de X.(b) Determine E [X] e COV [X].(c) Para d = 3, isto é, X> = (X1,X2,X3), sendo

A=

[3 −2 1−2 5 2

],

e Y = AX, determine E [Y] e COV [Y].

Page 98: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição Multinomial

É uma extensão do modelo Binomial onde, em cada uma das mrepetições independentes, são gerados k > 2 resultados de interessecom suas respectivas probabilidades constantes. De�nimos

Yi : o número de resultados do tipo i nas m repetições, i = 1,2, ...,d .

Sendo pi = P(resultado do tipo i), para as v.a. Y1,Y2,Y3, ...,Yd

temos

P(Y1 = n1,Y2 = n2, ...,Yd = nd) =m!

n1!n2!...nd !pn11

pn22...pnd

d

onde ∑ki=1

pi = 1 e n1 + n2 + ...+ nd = m

1. Temos Y> = (Y1,Y2,Y3, ...,Yd)

2. Notação: Y ∼Multinomial(m,p1,p2, ...,pd)

Page 99: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição Multinomial: Exercício

1. Seja Y ∼Multinomial(m,p1,p2, ...,pd). Mostre que o vetor demédia e a matriz covariâncias e a função característicasão,respectivamente,

E [Y] =

m p1m p2...

m pd

,

CY =

m p1(1−p1) −m p1 p2 −m p1 p3 . . . −m p1 pd

−m p2 p1 m p2(1−p2) −m p2 p3 . . . −m p2 pd...

...... . . .

...−m pd p1 −m pd p2 −m pd p3 . . . m pd(1−pd)

e

φX (t) = (p1e jt1 + p2e jt2 + p1e jt3 + ...+ pde jtd )m

Page 100: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.33:

1. (ROSS(2007), Chapter 2): A television store owner �guresthat 50 percent of the customers entering his store willpurchase an ordinary television set, 20 percent will purchase acolor television set, and 30 percent will just be browsing. If�ve customers enter his store on a certain day, what is theprobability that two customers purchase color sets, onecustomer purchases an ordinary set, and two customerspurchase nothing?

2. (LEON-GARCIA(2008), Chapter 2): Suppose we pick 10telephone numbers at random from a telephone book and notethe last digit in each of the numbers.What is the probabilitythat we obtain each of the integers from 0 to 9 only once?.

Page 101: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Distribuição Normal Multivariada (DNM)

Um vetor aleatório X> = (X1,X2,X3...,Xd) tem distribuição normal(gaussian) multivariada com parâmetros µµµ(d×1) e ΣΣΣ(d×d) (nãosingular) se sua f.d.p. conjunta é dada por

fX(x) =1

(2π)d2 (| ΣΣΣ|) 1

2

exp{−12

(x− µµµ)> ΣΣΣ−1(x− µµµ)}

1. Resultados:

(a) Vetor de médias: E [X] = µµµ

(b) Matriz de covariâncias: COV [X] = ΣΣΣ

(c) φX(t) = e jtT µ− 1

2tTΣt

2. O vetor µµµ de�ne a �localização� e os valores na matriz ΣΣΣ a�forma� da distribuição no espaço Rd

3. Notação: X∼ Nd( µµµ, ΣΣΣ).

Page 102: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

DNM: Propriedades

1. As v.a. em X são independentes se, e somente se,

ΣΣΣ = diag(σ11,σ22,σ33, ...,σdd)

2. Com a(d×1) vetor de constantes (6= 0), b ∈ R e Y = a>X+ bentão

Y ∼ N(a> µµµ + b,a> ΣΣΣa)

⇒ cada v.a. em X tem distribuição normal.

3. Com A(m×d), m ≤ d , matrix de constantes e Y = AX, então

Y ∼ Nm(A µµµ,A ΣΣΣA>).

⇒ subconjuntos (6= /0) de v.a. em X tem distribuição normal.

4. Sendo Z∼ Nd(0, I(d×d)) e A tal que AA> = ΣΣΣ, então

Y = AZ+ µµµ ∼ Nd( µµµ, ΣΣΣ)

Exercício: Fazer a veri�cação dos resultados e destas propriedades

Page 103: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Teorema Central do Limite

Sejam X1,X2,X3, ... v.a. independentes e indenticamentedistribuidas (iid), com média E [X ] e variância Var [X ] �nita (< ∞).Seja Sn = ∑

ni=1

Xi . Então com n→ ∞, temos que

Sn→ N(n E [X ];n Var [X ]) ouSn−n E [X ]√

n Var [X ]→ N(0;1)

Temos que, com Z ∼ N(0;1),

P

(Sn−n E [X ]√

n Var [X ]≤ s

)→∫ s

−∞

fZ (z)dz

Comentários:

Pelo TCL, a distribuição da soma de uma quantidade grandev.a. iid pode ser aproximada por uma distribuição Normal ,sem ser necessário conhecer a distribuição das v.a.

Referência: KAY(2006), Chapter 15, Section 15.5.

Page 104: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Exemplo 2.34:

1. (KAY(2006), Chapter 15): Seja X ∼ Binomial(100;0,5).Obtenha uma aproximação para:(a) P(490≤ X ≤ 510).(b) P(X = 510)

2. (ROSS(2007), Chapter 3): The lifetime of a special type ofbattery is a random variable with mean 40 hours and standarddeviation 20 hours. A battery is used until it fails, at whichpoint it is replaced by a new one. Assuming a stockpile of 25such batteries, the lifetimes of which are independent,approximate the probability that over 1100 hours of use can beobtained.

Page 105: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Simulação Computacional de V.A.

Simulação computacional de um sistema envolve a simulação deobservações de uma v.a. com especi�cada distribuição deprobabilidade.

Exemplo:Suponha que o objetivo seja simular o número de e-mail quechegam a uma central de processamento um �xado intervalo detempo. De�nimos a v.a.

X : o número de e-mail que chegam no intervalo

⇒ empregar um modelo e simular observações de X

A simulação de v.a., em geral, consiste em gerar um númeroaleatório a partir da Uniforme(0;1), transformá-lo para gerar aobservação do modelo desejado.

MATLAB: rand gera número �pseudo� aleatório Uniforme(0;1)

Page 106: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Simulação Computacional de V.A.: Exemplos

Empregar a função �rand� para as seguintes questões.

1. Simular computacionalmente um sequência de CARAS (C ) eCOROAS (K ) no lançamento de uma moeda �viciada� comP(C ) = 0.4. Propor um algoritmo.

2. Propor um algoritmo para simular observações do número depeças defeituosas em caixas de um determinado produto, ondepodemos considerar que os defeitos ocorrem de formaindependente na linha de produção e sabendo que as peças sãoembaladas em caixas com 10 itens.

3. Propor um algoritmo para simular observações da distribuiçãoconjunta

Y \X 0 1 22 0.25 0.10 0.153 0.25 0.05 0.20

Page 107: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Simulação Computacional

Observação:

1. A simulação de observações de alguns modelos exigem oemprego de resultados de Probabilidade não discutidos nadisciplina. Veja, por exemplo, KAY(2006), Section 10.9.

2. A �credibilidade� de um estudo de simulação dependefundamentalmente do gerador de números (pseudos) aleatóriosempregado e, dependendo da extensão do estudo, devem serser feitas avaliações com a relação a �aleatóriedade� e a�independência� dos valores gerados.

3. Uma referência sobre a assunto:ROSS, S. (2002) Simulation. 3rd Edition. Academic Press.

Page 108: Mestrado em Engenharia Elétrica Disciplina: Probabilidade ...home.ufam.edu.br/jrpereira/PGENE509 - Probabilidade e Processos... · Disciplina: Probabilidade e Processos Estocásticos

Simulação Computacional

1. Funções para simular observações de v.a.Modelo Matlab RBinomial(m,p) binornd(m,p,n,d) rbinom(n,m,p)Geometrica(p) geornd(p,n,d) rgeom(n,p)Poisson(λ ) poissrnd(λ ,n,d) rpois(x ,λ )Uniforme(a,b) unifrnd(a,b,n,d) runif (n,a,b)Exponencial(α) exprnd(1/α,n,d) rexp(n,α)Gama(α,λ ) gamrnd(α,1/λ ,n,d) rgamma(n,α,λ )N(µ;σ2) normrnd(µ,σ ,n,d) rnorm(n,µ,σ)

2. Simulação observações de uma distribuição Nd( µµµ, ΣΣΣ):

(a) Matlab: Statistics Toolbox e função mvnrnd(Mu,Sigma,n)

(b) R: Pacote mvtnorm e função rmvnorm(n,Mu,Sigma).

Observação: A dimensão d é inferida da dimensão do vetorMu declarado na função.