MI625 - Processos Estocásticos Inferência para Processos...

23
MI625 - Processos Estocásticos Inferência para Processos de Poisson Claudia Edith Vasquez Mercedes Daniel de Almeida 28 de Novembro de 2011 Claudia Edith Vasquez Mercedes Daniel de Almeida () MI625 - Processos Estocásticos Inferência para Processos de Poisson 28 de Novembro de 2011 1 / 23

Transcript of MI625 - Processos Estocásticos Inferência para Processos...

Page 1: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

MI625 - Processos EstocásticosInferência para Processos de Poisson

Claudia Edith Vasquez MercedesDaniel de Almeida

28 de Novembro de 2011

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 1 / 23

Page 2: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Introdução

Resumo da Aula

Definição do Processo de Poisson (PP).Estimação do Processo de Poisson homogêneo.Exemplo.Modelos paramétricos para estimação do PP não homogêneo (NHPP).Modelo NHPP para confiabilidade de softwares.Estimação de máxima verossimilhaça do NHPP.Propriedades dos estimadores.Discussão para casos mais gerais.Referências.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 2 / 23

Page 3: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Introdução

Processo de Poisson

Um processo estocástico {N(t), t ≥ 0} é dito ser um processo decontagem se N(t) representa o número total de eventos ocorridos atéo tempo t.Assim um processo N(t) deve satisfazer:

(i) N(t) ≥ 0.

(ii) N(t) é um valor inteiro.

(iii) Se s < t, então N(s) ≤ N(t).

(iv) Para s < t, N(t)− N(s) é o número de eventos que ocorreram nointervalo (s, t].

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 3 / 23

Page 4: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Introdução

Processo de Poisson não homogêneo (PP)

Definição: Um processo estocástico {N(t), t ≥ 0} tomando valoresem S = {0, 1, 2, · · · } é um processo de Poisson não homogêneo commedida média M(t) se:

P{N(t1) = k1,N(t2) = k2, · · · ,N(tn) = kn} =

= e−M([0,t1]) {M([0, t1])}k1

k1!

n∏l=2

e−M((tl−1,tl ]) {M((tl−1, tl ])}kl−kl−1

(kl − kl−1)!,

∀n ≥ 1, ∀ti ∈ [0,∞), i = 1, · · · , n, onde0 ≤ t1 ≤ t2 ≤ · · · ≤ tn, k1 ≤ k2 ≤ · · · ≤ kn.

Em particular se M(t) = M([0, t]) =∫ t0 λ(u)du, λ(.) é chamada a

função de intensidade do processo.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 4 / 23

Page 5: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Introdução

Processo de Poisson não homogêneo

Teorema: Todo processo estocástico {N(t), t ≥ 0}, tomando valoresem S = {0, 1, 2, · · · }, satisfazendo:

(i) Incrementos independentes.

(ii) Não simultâneidade ⇔ P{N(t + h)− N(t) ≥ 2} = o(h).

(iii) P{N(t + h)− N(t) = 1} = λ(t)h + o(h).

é um processo de NHPP com intensidade λ(.).

Em particular se M(t) = λt, o processo é um PP (homogêneo).

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 5 / 23

Page 6: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação do Processo de Poisson homogêneo

Distribuição do tempo de espera (caso homogêneo)

Seja Xn, para n ≥ 1, o tempo entre a ocorrência do (n − 1)-ésimoevento e a ocorrência do n-ésimo evento no PP.A sequência {Xn, n ≥ 1} é chamada de sequência de tempo entrechegadas.Nota- se que Xn, n = 1, 2, ..., são variáveis aleatórias independentes eidenticamente distribuídas exponencial de parâmetro λ, ou seja, demédia 1/λ.

Prova: P{X1 > t} = P{N(t) = 0} = e−λt ⇒ P{X1 ≤ t} = 1− eλt

⇒ X1 ∼ exp(λ).P{X2 > t | X1 = s} = P{0 eventos em (s, s + t] | 1 evento em [0, s]} =P{0 eventos em (s, s + t]} = e−λt .Assim X2 ∼ exp(λ) também. Então basta repetir o mesmo argumento(n − 2) vezes, completando nossa demonstração.�

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 6 / 23

Page 7: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação do Processo de Poisson homogêneo

Verossimilhança do Processo de Poisson homogêneo

A verossimilhança é construída observando-se os tempos entrechegadas X1,X2, · · · ,Xn, já que eles são i.i.d. Exp(λ):

L(λ; x)(i.i.d.)

=n∏

i=1

λe−λxi = λne−λ∑n

i=1 xi (1)

Aplicando o logaritmo em (1) e em seguida derivando em relação a λe igualando a zero:

dlogL(λ; x)

dλ= nlog(λ)− λ

n∑i=1

xi = 0⇒ λ̂ = 1/x̄

Aplicando a segunda derivada é fácil ver que λ̂ = X̄ é ponto demáximo, então é EMV do PP.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 7 / 23

Page 8: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação do Processo de Poisson homogêneo

Exemplo de estimação de Processo de Poisson homogêneo

Suponha que carros passam por uma certa avenida A, de acordo comum processo de Poisson.A fim de estimar λ foi feito um experimento.O experimento termina quando observa-se 10 carros.Os tempos, em minutos, de chegada foram:14,48, 16,64, 36,35, 55,51,72,45, 85,69, 88,99, 109,93, 111,19, 115,03.Assim os tempos entre chegadas são 14,48 2,16, 19,71, 19,16, 16,94,13,24, 3,30, 20,94, 1,26, 3,84.Logo a estimativa da intensidade é λ̂ = 1/x̄ = 0, 09.Ou seja, passam em média 0,09 carros por segundo.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 8 / 23

Page 9: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Modelos paramétricos de um NHPP

Modelos paramétricos para estimação do NHPP.

Um NHPP é geralmente definido por sua medida médiaM(t) =

∫ t0 λ(u)du.

Um exemplo de NHPP é o decaimento de radioatividade (verKutoyants, 1998).A emissão de fotons por uma fonte radioativa pode ser modelada porum NHPP, com função de intensidade

λ(ϑ, t) = ϑ1e−t/ϑ2 , t ≥ 0, ϑ = (ϑ1, ϑ2), ϑ1 > 0, ϑ2 > 0.

ϑ1: quantidade de material da fonte.ϑ2: a vida média da fonte.O problema de estimar ϑ de uma radiação observada é de grandeinteresse na física nuclear, medicina nuclear, dentre outras áreas.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 9 / 23

Page 10: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Modelos paramétricos de um NHPP

Modelos paramétricos para estimação do NHPP.

Em algumas situações práticas a medida média é modelada daseguinte forma paramétrica:

M(t) = αF (t/β), α, β > 0. (2)

α representa o número de ocorrências (no processo em geral).β é um parâmetro de escala.F (t) é uma função crescente conhecida.No caso de confiabilidade de softwares, em geral, é assumido queF (0) = 0 e F (+∞) = 1.O modelo (2) pode ser visto como uma formulação geral dos modelosde confiabilidade de softwares NHPP, com medida média limitada.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 10 / 23

Page 11: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Modelos paramétricos de um NHPP

Modelo NHPP para confiabilidade de softwares.

Existe modelos com medida média ilimitadas.O modelo (2) geralmente é preferido neste caso, pois o sistema desoftwares contém um número finito de falhas.A partir de agora, será focada a estimação de NHPP somente paraconfiabilidade de softwares com uma medida média específica:

M(t) = α

[1− exp(−t/β)

k∑i=0

(t/β)i

i !

], α, β > 0. (3)

Modelo k-estágios de Erlangian de confiabilidade de softwares NHPP.O paramétro é usualmente um inteiro pequeno conhecido.A função de intensidade correspondente é dada por:

λ(t) =α(t/β)k

βk!exp(−t/β). (4)

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 11 / 23

Page 12: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação de máxima verossimilhaça do NHPP.

Estimação de máxima verossimilhaça do NHPP.

Seja T o tempo de observação, determinado previamente, do NHPP{N(t), t ≥ 0} ⇒ Amostragem com tempo truncado.Seja t1, t2, · · · , tN(T ) os tempos de chegada observados.A função de densidade de N(t) é:

P[N(T ) = n] ={M(T )}n

n!e−M(T ), n = 0, 1, · · · , (5)

Pode ser mostrado que (Thompson, 1988) a distribuição conjunta det1, t2, · · · , tN(T ),N(T ) é dada por:

f (t1, t2, · · · , tN(T ); N(T ) = n) = e−M(T )n∏

i=1

λ(ti ). (6)

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 12 / 23

Page 13: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação de máxima verossimilhaça do NHPP.

Estimação de máxima verossimilhaça do NHPP.

Note que, dado N(T ) = n, os tempos de chegada de t1, t2, · · · , tN(T )

têm a mesma distribuição das estatísticas de ordem de uma amostrade tamanho n da distribuição correspondente a M(t)/M(T )

Defina a função g(x) como:

g(x) =1x− xkexp(−x)

(k + 1)![1− exp(−x)

∑ki=0 x i/i !

] , x > 0. (7)

Defina também a estatística W (T ) como:

W (T ) =1

(k + 1)N(T )

N(T )∑i=1

ti (8)

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 13 / 23

Page 14: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação de máxima verossimilhaça do NHPP.

Propriedades da função g(x).

(i) g(x) é uma função estritamente descrescente em (0,∞).

(ii) limx→0

g(x) =1

k + 2

(iii) limx→∞

g(x) = 0

(iv) ∀c ≥ 0 fixo,

limT→∞

Tg−1(c/T )

= c .

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 14 / 23

Page 15: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação de máxima verossimilhaça do NHPP.

Teorema I.

Para o modelo (3) segue que:

(i) Os estimadores de máxima verossimilhança (EMV) de α e β sãodeterminados por:

α̂ =n

1− exp(−T/β̂)∑k

i=1(T/β̂)i/i !,

g(T/β̂) = W (T )/T .

(ii) O EMV existe e é único se, e somente se, é satisfeita a seguintecondição:

W (T )/T <1

k + 2.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 15 / 23

Page 16: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Estimação de máxima verossimilhaça do NHPP.

Teorema I.

Pelo Teorema anterior, a probabilidade do EMV não existir é:

P

1N(T )

N(T )∑i=1

ti ≥k + 1k + 2

T

.

Esta probabilidade pode ser grande quando T é pequeno.Esta probabilidade deveria se aproximar de zero, quando T →∞.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 16 / 23

Page 17: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Propriedades dos estimadores.

Propriedades Assintóticas do EMV

Seja N(∞) = limT→∞

N(T ) e a variável aleatória

W (∞) = limT→∞

W (T ) =1

(k + 1)N(∞)

N(∞)∑i=1

ti .

Como N(T ) é não decrescente em T , os limites existem.Pode ser mostrado que N(∞) ∼ Poisson(α).Dado N(∞) = n, os tempos de chegada de t1, t2, · · · , tn têm amesma distribuição das estatísticas de ordem de uma amostra detamanho n da distribuição correspondente a M(t)/M(∞).Sob o modelo (3), a função M(t)/M(∞) é a mesma da distribuiçãoacumulada de 0, 5βχ2

2(k+1).

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 17 / 23

Page 18: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Propriedades dos estimadores.

Teorema II.

Para o modelo (3), segue que:

(i) Com probabilidade 1, os EMV α̂ e β̂ existem quando T →∞.

(ii) Então, com probabilidade 1, tem-se:

α̂→ N(∞), β̂ →W (∞).

(iii) Dado que N(∞) = n,

W (∞)

β̂∼

χ22(k+1)n

2(k + 1)n.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 18 / 23

Page 19: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Propriedades dos estimadores.

Teorema II.

Considerando uma amostragem com tempo truncado, observa-se queos estimadores de α e β não são constistentes, nem assintoticamentenormais.No entanto, α̂ é assintoticamente Poisson com média α, ou seja, éassintoticamente não viesado.A variável 2(k + 1)β̂/β é assintoticamente distribuída como a médiaamostral de uma χ2

2(k+1), de tamanho amostral com distribuiçãoPoisson.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 19 / 23

Page 20: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Discussão em casos mais gerais.

EMV do modelo 2

Agora será considerado um caso mais geral: o modelo 2.Apenas para processos pontuais finitos.A função de intensidade é da forma:

λ(t) = αβ−1f (t/β), f (t) =dF (t)

dt. (9)

A função de verossimilhança é dada por:

L(α, β|t1, · · · , tN(T ),N(T ) = n) = (α/β)nexp[−αF (T/β)]n∏

i=1

f (ti/β).

Denotando: g̃(x) = 1− xf (x)

F (x), φ(x) = −xf ′(x)

f (x), βT =

Tβ.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 20 / 23

Page 21: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Discussão em casos mais gerais.

EMV do modelo 2

É fácil demonstrar que os EMV de α e β são da forma:

α̂ =n

F (β̂T ), g̃(β̂T ) =

1n

n∑i=1

φ(tTi β̂T ),

onde tTi = ti/T , i = 1, 2, · · · , n

Considere β̂(∞) a raiz da equação:

1N(∞)

N(∞)∑i=1

φ(ti/β) = 1

Sob certas condições de regularidade (Zhao & Xie, 1996) é valido que:

α̂→ N(∞), β̂ → β̂(∞). (10)

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 21 / 23

Page 22: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

Referências

Referências

Kutoyants, Y. (1998) Statistical Inference for Spatial Poisson Process(Lecture Notes in Statistics). Springer.

Thompson, W. A., Jr. (1998). Point Process Models with Applications toSafety and Realibity. Chapman & Hall, New York.

Zhao, M. ; Xie, M. (1996) On maximum likelihood estimation for a generalnon-homogeneous Poisson process. Scand. J. Statist., 23(4), pp. 597-607.

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 22 / 23

Page 23: MI625 - Processos Estocásticos Inferência para Processos ...nancy/Cursos/mi626/Poisson_Inferencia.pdf · Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos

MUITO OBRIGADO!

Claudia Edith Vasquez Mercedes Daniel de Almeida ()MI625 - Processos Estocásticos Inferência para Processos de Poisson28 de Novembro de 2011 23 / 23