Processos de Markov - Departamento de Informática e...

20
1 Processos de Markov Processos “sem memória”: probabilidade de X t assumir um valor futuro depende apenas do estado atual (desconsidera estados passados). P(X n =x n | X 1 =x 1 ,X 2 =x 2 ,...,X n-1 =x n-1 ) = P(X n =x n |X n-1 =x n-1 ) para n = 0, 1, 2, ... Seja X t um processo de Markov, i e j estados, e t tempos: p ij = P[X t ( + t) = j | X t () = i] 0 e t 0 Se p ij independe do tempo então o processo de Markov é dito ESTACIONÁRIO ou homogêneo.

Transcript of Processos de Markov - Departamento de Informática e...

1

Processos de Markov

Processos “sem memória”: probabilidade de Xt assumir um

valor futuro depende apenas do estado atual (desconsidera

estados passados).

P(Xn=xn| X1=x1,X2=x2,...,Xn-1=xn-1) = P(Xn=xn|Xn-1=xn-1)

para n = 0, 1, 2, ...

Seja Xt um processo de Markov, i e j estados, e t tempos:

pij = P[Xt( + t) = j | Xt() = i] ≥ 0 e t ≥ 0

Se pij independe do tempo então o processo de Markov é dito

ESTACIONÁRIO ou homogêneo.

2

Processos de Markov

Parâmetros Estados

Discretos Contínuos

Discretos Cadeias de Markov

com tempo discreto

Processos de Markov

com tempo discreto

Contínuos Cadeias de Markov

com tempo contínuo

Processos de Markov

com tempo contínuo

Cadeias de Markov a tempo discreto

Estados discretos, parâmetros discretos.

Probabilidade de estado pi[n] = P(Xt = ai) i=1,2,...

Probabilidades de transição: pij[n1,n2] = P(Xtn2 = aj | Xtn1 = ai)

3

]n[pn,kpkp1n,np jij

i

i

j

21ij

i

l

j

k n1

n2

pii pil

pij

pik

4

Matriz de transição

O conjunto P(Xtn2|Xtn1) para n = 1, 2, ... constitui as

probabilidades de transição de um passo.

Matriz N+1 por N+1 de elementos pij que satisfaz:

pij ≥ 0 ij = 0, 1, 2, ..., N pij = 1 para j=1,...,n e i.

NN1N0N

N11110

N00100

ij

p...pp

............

p...pp

p...pp

pP

Se pij independentes

do tempo: processo

HOMOGÊNEO.

Cadeias de Markov a tempo contínuo

Estados discretos, parâmetros contínuos.

Probabilidade de estado pi[t] = P(Xt(t) = ai) i=1,2,...

Probabilidades de transição: pij[t1,t2] = P(Xt(t2)= aj| Xt(t1)= ai)

5

]t[pt,tptp1t,tp 2j21ij

i

1i

j

21ij

6

Processos de Nascimento e Morte

Modelam as alterações em uma “população”: caso particular

de cadeias de Markov a tempo contínuo.

Estado do processo no instante t (Xt) representa o tamanho

da população no instante t.

Filas e sistemas de telecomunicações.

Assume-se que “nascimentos” e/ou “mortes” múltiplos

ocorrem ao mesmo tempo com probabilidade zero.

As transições ocorrem apenas entre estados vizinhos.

7

Processos de Nascimento e Morte

K - 1 K K + 1

1 nascimento

1 morte

1 nascimento

1 morte

Processos de Nascimento e Morte

Taxas de nascimento λi para i = 0,...,

Taxas de morte μi para i = 0,...,

Processo de nascimento puro: μi = 0 para i 0

Divisão de bactérias

Processo de morte puro: λi = 0 para i 0

8

9

Processo de Poisson

Processo de nascimento puro pois a taxa de nascimento é

constante: .

Pk(t) = [(t) k e - t]/k! Para k≥0 e t≥0.

Probabilidade de haver k nascimentos no intervalo (0,t).

Número médio de nascimentos no intervalo (0,t) = t.

Processo de Parâmetros Contínuos e Estados Discretos.

10

Processo de Poisson

Evento: “nenhuma chegada nos primeiros t minutos”

Equivalente à “primeira chegada após o tempo t”.

Seja t uma variável aleatória que represente o tempo de 0

até a 1ª chegada:

P(T > t) = e- t P(T ≤ t) = 1 - e- t = F(T)

f(T) = F(T)/t = e- t

T tem distribuição exponencial: E(T)=1/ V(T)=1/2

tt0

0 e!0

e)t()t(P

11

Modelagem de falhas

Confiabilidade de sistemas

Necessário modelar o comportamento do sistema,

identificando os seus estados.

Importância do estado “fora de operação”, que é causado por

uma falha.

Obter alguma medida da frequência com que o sistema falha:

Taxa de falha (transição, risco – Hazard Rate)

Considerar a possibilidade de reparo.

12

Taxa de falha em um momento t

ta 0 de ciasobrevivên de Prob.

1 te t entre falha de Prob.

)t(R

)t(f

)t(F1

)t(f)t(Z

Z(t): taxa de falha no momento t

f(t): função densidade de probabilidades de falha

F(t): função distribuição acumulada de falha.

R(t): confiabilidade do sistema

Raciocínio análogo para a taxa de reparo (t).

13

Dados para os modelos de falha

Testes de tempo de vida.

Dados operacionais do sistema (campo).

Em t = 0, N componentes são colocados em

operação, e no tempo t existem apenas n(t)

sobreviventes

Deduzir as expressões da função densidade de falha

e da taxa de falha propriamente dita.

14

Principais modelos de falha

1) Taxa de falha crescente: útil no período de

envelhecimento dos componentes.

Z(t) = Kt

2Kt2

1

eKt)t(f

2Kt2

1

e)t(R

t

f(t)

e

K

K

K

1 t

R(t)

K

1

e

1

1

15

Principais modelos de falha

2) Taxa de falha linearmente decrescente: útil quando as

falhas vão diminuindo ao longo do tempo (fase inicial de vida

do equipamento).

tt

ttK/K

K/Kt0

)tt(K

0

tKK

)t(Z

0

010

10

0

10

Z(t)

K0

t K0/K1

16

Principais modelos de falha

3) Curva usual para risco de falha: curva da banheira

Z(t)

Vida útil

Envelhecimento Queima

17

Principais modelos de falha

4) Taxa de falha constante: Z(t) = .

f(t) = e -t R(t) = e -t = 1 – F(t)

Distribuição “independe do passado”: vida restante não depende

de quanto tempo o componente está em funcionamento

t

Z(t)

t

e

1

f(t)

t

1

e

11

1

F(t)

t

1

e

1

1

R(t)

18

Tempo Médio Para Falha

Caracterização do modelo de falha por um único parâmetro.

Do teste de vida feito em uma população de N elementos com

tempos de falhas t1, t2, ..., tn:

Usando um modelo de risco:

Para a exponencial: R(0) = 1, R(∞) = 0.

n

1i

itN

1TMPF

0

dt)t(tf)t(ETMPF

0

0dt)t(R)t(tR)t(ETMPF

0

dt)t(RTMPF

19

Tempo Médio Entre Falha

Somente tem sentido se houver renovação: reparo ou troca

do componente falhado.

t1 t3 t2

TMPF TMPF TMPF

TMPR TMPR

TMEF = TMPF + TMPR

= taxa de falha = taxa de reparo Exponencial: TMPF=1/

20

Exemplo 1

Seja z uma taxa de transição qualquer: se falha = , se

reparo = , se é uma transição do estado 1 para o 2 = 12.

TMPF = 1/ , TMPR = 1/

n

1i

i11 /1TMPF

Estado 1

Estado 2

2 1 5

T = 11

8

3

operação tempo

falhas no.12 P1 = 8/11