Post on 11-Feb-2017
Características dos Processos ARMA
Bueno, 2011, Capítulos 2 e 3
Enders, 2009, Capítulo 2.2 a 2.6
Morettin e Toloi, 2006, Capítulo 5.2
Aula 02
A expressão geral de uma série temporal, para o caso
univariado, é dada por
xt = f(xt-1, xt-2, ..., at). (1)
Para que (1) se torne operacional, é necessário
especificarmos três fatos: a forma funcional de f(), o número
de lags, e uma estrutura para o termo aleatório.
Introdução
PROCESSOS ARMA
Se por exemplo, especificarmos uma função linear nos
parâmetros com apenas uma defasagem (lag) e uma
perturbação do tipo ruído branco estacionário (média zero,
variância constante e não-autocorrelacionada), o resultado
será o seguinte processo autorregressivo de primeira ordem,
AR(1):
xt = 0 + 1xt-1 + at. (2)
O processo autorregressivo de ordem p, AR(p), pode ser
escrito da seguinte forma:
xt = 0 + 1xt-1 + 2xt-2 + ...+ pxt-p + at. (3)
Processos AR
OPERADOR LAG
O operador lag (ou, operador defasagem), representado por
L, aplicado a uma variável indexada em t (tempo), dá o valor
anterior na série temporal.
Tem-se, assim,
Lxt = xt-1
L2xt = xt-2
(1 – L)xt = xt – Lxt = xt – xt-1 = xt
em que,
é conhecido como operador diferença.
Usando os resultados do slide anterior, em (3), podemos
escrever um modelo AR(p), como,
(1 – 1L – 2L2 – ... – pLp)xt
= 0 + at (4)
em que
(L) = 1 – 1L – 2L2 – ... – pLp
(polinômio autorregressivo de grau p)
Processos AR
Considere que xt siga o seguinte processo
xt = 0 + 1xt-1 + 2xt-2 + ...+ pxt-p + t
em que
t ~ RB(0,2).
Condições de Estacionariedade:
As raízes da equação característica (L) = 0, devem ser, em
módulo, maiores do que 1 (raízes fora do círculo unitário).
CONDIÇÃO DE ESTACIONARIEDADE
PROCESSO AR(p)
Considere que xt siga o seguinte processo
xt = 0 + 1xt-1 + t
em que
t ~ RB(0,2).
Prova-se que, se
|1| < 1,
então xt será considerado estacionário.
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(1)
Caso |1| < 1, tem-se que
E(xt) = 0 / (1 – 1) = .
Ou seja, a esperança incondicional de xt é constante e
invariante no tempo.
Prova-se, também, que, se |1| < 1, a variância incondicional
de xt é constante e igual a
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(1) – cont.
2
1
222
1)(
tx xE
Exercício*
a) Encontre a FACV do processo AR(1), que foi apresentado
nos slides anteriores.
b) Verifique que a FAC do processo é dada por
..., , h hhh 321
111 ,
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(1) – cont.
Considere que xt siga o seguinte processo
xt = 0 + 1xt-1 + 2xt-2 + t
em que
t ~ RB(0,2).
Condições de Estacionariedade
2 + 1 < 1
2 - 1 < 1
-1 < 2 < 1
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(2)
Baseando-se no resultado anterior, tem-se que
E(xt) = 0 / (1 – 1 – 2).
Ou seja, a esperança incondicional de xt é constante e
invariante no tempo.
Prova-se, também, que, sob as mesmas condições do slide
anterior, a variância incondicional de xt é constante e igual a
))()((
)(
21121121
221
0
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(2) – cont.
Exercício
Prove que a FACV do processo AR(2) é dada por:
2211
2
01
0 ,2211 jjjj
com
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(2) – cont.
221
21
221
11
5432211
e
com
hhhh ...,,,,
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(2) – cont.
Exercício
Prove que a FAC do processo AR(2) é dada por:
pp
...1 2211
2
0
PROPRIEDADES DOS PROCESSOS AR
0 ,...2211 jpjpjjj
Do resultado anterior, prove que a FAC é dada por:
com
0 ,...2211 jpjpjjj
Exercício
Prove que a FACV do processo AR(p) é dada por:
PROCESSO AR(p)
FATO
Muitas vezes é difícil fazer a distinção entre processos AR de
diferentes ordens com base apenas nos correlogramas. (Pq?)
Função de Auto-correlação Parcial (FACP)
Essa distinção é possível com base no cálculo dos
coeficientes de correlação parcial.
Por exemplo, num processo AR(2), o parâmetro 2 é o
coeficiente de correlação parcial entre xt e xt-2, mantendo xt-1
constante.
PROPRIEDADES DOS PROCESSOS AR
Observação
De maneira geral, esperamos que:
a FAC empírica de uma série temporal estacionária que
seja modelada por um processo AR(p) amorteça para zero;
já a FACP, esperamos que seja aproximadamente zero para
todas as ordens superiores à ordem p do processo.
PROPRIEDADES DOS PROCESSOS AR
PROCESSO AR(p) – cont.
Exemplos
Observando os correlogramas, a seguir, indique um modelo
inicial para cada série temporal.
PROPRIEDADES DOS PROCESSOS AR
PROCESSOS ARMA
É possível assumir que o termo de perturbação at tenha uma
estrutura expressa por
at = t – 1t-1 – ... – qt-q (5)
em que
t é um processo ruído branco estacionário.
Ou seja, aqui estamos assumindo que at não é um processo
ruído branco.
Processos MA
Voltando à expressão geral de uma série temporal,
xt = f(xt-1, xt-2, ..., at). (1)
Dessa forma, uma possível especificação para o processo xt
é dada por um processo de médias móveis de ordem q,
MA(q):
xt = 0 + t – 1t-1 – ... – qt-q. (6)
Usando os resultados do slide 5, em (6), podemos escrever
xt = 0 + (1 – 1L – 2L
2 – ... – qLq)t (7)
em que
(L) = 1 – 1L – 2L2 – ... – qLq
(polinômio de médias móveis de grau q)
As equações (6) e (7) especificam um processo MA(q) puro.
Processos MA
O processo MA(1) é dado por
xt = 0 + t – 1t-1
em que
t ~ RB(0,2).
Não é difícil mostrar que
E(xt) = E(0 + t – 1t-1) = 0.
Ou seja, a esperança incondicional de xt é constante e
invariante no tempo.
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1)
Ainda, a variância incondicional de
xt = 0 + t – 1t-1
é dada por:
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
2
1
222
1
2
111
2
1
111100
1
,2)()(
)()(
tttt
ttttt
CovVarVar
VarVarxVar
Ainda, a FACV é dada por
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
2 ,0
1 ,
0 ,)1(
2
1
22
1
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
Baseado no resultado anterior, não é difícil ver que a FAC fica
dada por
0... )1(
322
1
11
Ou seja, no caso do MA(1) a FAC trunca no lag 1.
O processo MA(1) pode ser invertido para dar t como uma
série infinita em função de xt, xt-1, ...
t = xt + 1xt-1 + 12xt-2 + ...
xt = t – 1xt-1 – 12xt-2 – ...
ou, ainda,
que é um processo AR().
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
Observação
Todavia, a equação
xt = t – 1xt-1 – 12xt-2 – ...
só fará sentido se
| 1 | < 1.
Se tal restrição não for observada, então os valores mais
distantes de xt terão um maior efeito no valor presente.
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
Observação (cont.)
A condição |1| < 1, é conhecida por condição de
invertibilidade. É semelhante à condição de estacionariedade
para um processo AR(1), mas a estacionariedade de um
processo MA(1) não impõe nenhuma condição para 1.
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
Observação (cont.)
Ainda, como a equação xt = t – 1xt-1 – 12xt-2 – ... denota um
AR(), as auto-correlações parciais não caem bruscamente,
mas, decrescem, amortecendo gradualmente para zero; mas,
como vimos anteriormente, as auto-correlações são iguais a
zero a partir da segunda, inclusive.
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
Observação (cont.)
As propriedades de um processo MA(1) puro são exatamente
ao contrário das de um processo AR(1) puro. Ou seja, a FAC
de um processo MA(1) é nula após o lag 1 e a FACP decai
exponencialmente para zero.
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(1) – cont.
Observação (cont.)
O processo MA(q) é dado por
xt = 0 + t – 1t-1 – 2t-2 – ... – qt-q
em que
t ~ RB(0,2)
Condições de Invertibilidade:
As raízes da equação característica (L) = 0 devem estar fora
do círculo unitário, em que
(L) = 1 – 1L – 2L2 – ... – qLq.
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(q)
Em geral, num processo estacionário MA(q), os q primeiros
coeficientes da FAC são diferentes de zero, e os restantes
iguais a zero. Já os coeficientes da FACP, apresentam um
decaimento amortecido para zero.
Observação
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(q) – cont.
Exercício
Considere o processo MA(2) dado por
xt = 0 + t – 1t-1 – 2t-2
em que
t ~ RB(0,2).
(i) Encontre a média, a variância, a facv e a fac de xt.
(ii) Quais devem ser as condições de invertibilidade de um
processo MA(2)? Justifique a sua resposta.
PROPRIEDADES DOS PROCESSOS MA
PROCESSO MA(2)
Exemplos Observando os correlogramas, a seguir, indique um modelo inicial para cada série temporal.
PROPRIEDADES DOS PROCESSOS MA
PROCESSOS ARMA
e combinando as equações
xt = 0 + 1xt-1 + 2xt-2 + ...+ pxt-p + at. (3)
e
xt = 0 + t – 1t-1 – ... – qt-q. (6)
teremos um processo misto, autorregressivo e de médias
móveis, ARMA(p, q):
xt = + 1xt-1 + 2xt-2 + ...+ pxt-p + t – 1t-1 – ... – qt-q (8)
Processos ARMA
Voltando à expressão geral de uma série temporal,
xt = f(xt-1, xt-2, ..., at). (1)
Ainda, utilizando os resultados do slide 5, em (8), podemos
escrever um modelo ARMA(p, q), como,
(1 – 1L – 2L2 – ... – pLp)xt
= + (1 – 1L – 2L2 – ... – qLq)t (9)
em que
(L) = 1 – 1L – 2L2 – ... – pLp
(L) = 1 – 1L – 2L2 – ... – qLq
Processos ARMA
• A estacionariedade do processo exige que as raízes de (L)
se situem fora do círculo unitário;
• A invertibilidade requer a mesma condição para as raízes
de (L);
• Verificadas estas condições, o processo ARMA(p, q) pode
ser expresso quer como um processo AR puro de ordem
infinita quer como um processo MA puro de ordem infinita.
PROPRIEDADES DOS PROCESSOS ARMA
PROCESSO ARMA(p,q)
Observação
O processo misto, sem constante, de ordem mais baixa é o
processo ARMA(1, 1):
xt = xt-1 + t – t-1.
Para esse caso, admitindo || < 1, é possível provar que:
221
2210
PROPRIEDADES DOS PROCESSOS ARMA
PROCESSO ARMA(1,1)
, ..., , h γ γ e σθ)θ)((
γ hhε 321
11
2
21
E a FAC do processo fica dada por,
, ... , hhρh ρ θθ
θ)θ)((ρ 321221
11
Já a FACV do processo ARMA(1, 1) é dada por
PROPRIEDADES DOS PROCESSOS ARMA
PROCESSO ARMA(1,1) – cont.
• 1 depende tanto do parâmetro da parte AR como do
parâmetro da parte MA.
• Os coeficientes seguintes decrescem exponencialmente,
com uma taxa de decréscimo dada pelo parâmetro AR.
• Contudo, e por comparação com o processo AR puro, os
coeficientes da FACP não decaem rapidamente, mas têm
um decrescimento amortecido para zero.
PROPRIEDADES DOS PROCESSOS ARMA
PROCESSO ARMA(1,1) – cont.
Observação
Padrões de Correlação
Processo FAC FACP
AR(p) Infinita: decai para zero
(exponencialmente ou segundo
uma senóide amortecida).
Finita: decai
bruscamente para zero a
partir do lag p.
MA(q) Finita: decai bruscamente para
zero a partir do lag q.
Infinita: decai para zero
(exponencialmente ou
segundo uma senóide
amortecida).
ARMA(p, q) Infinita: decai para zero
(exponencialmente ou segundo
uma senóide amortecida).
Infinita: decai para zero
(exponencialmente ou
segundo uma senóide
amortecida).
RESUMÃO
EXERCÍCIOS
Considere o modelo
yt = -0,2yt-1 + 0,48yt-2 + t + 0,6t-1 –0,16t-2, t = 1, 2, ...
a) Escreva o modelo de interesse, utilizando os polinômios
característicos.
b) Encontre as raízes dos polinômios característicos.
c) Escreva o modelo de interesse na forma fatorada.
Comente o resultado encontrado.
Exercício 1
Considere o processo
yt = 0,5yt-1 + t – 0,5t-1, t = 1, 2, ...
(a) O processo é estacionário?
(b) O processo é invertível?
(c) A memória deste processo é semelhante à memória
de um processo ruído branco?
Exercício 2
Considere o processo
yt = t –0,6t-1 –0,1t-2, t = 1, 2, ...
Verifique se as condições de estacionariedade e
invertibilidade deste processo estão satisfeitas.
Exercício 3
Leitura Complementar I
Modelos Lineares Estacionários
Morettin e Toloi, 2006, Capítulo 5.2
Os modelos que aqui serão estudados são casos
particulares de um modelo de filtro linear.
Tal modelo supõe que a série temporal seja gerada através
de um filtro linear (ou sistema linear), cuja entrada é um
ruído branco (RB).
Na figura, a seguir, temos o exemplo de um esquema que
representa um filtro linear com série de entrada at, função
de transferência (L) e série de saída Zt.
Modelos Lineares Estacionários
Figura 1 - Filtro linear com série de entrada at, função de
transferência (L) e série de saída Zt.
Modelos Lineares Estacionários
at Zt
(L)
Filtro Linear
Apenas para lembrar
Modelos Lineares Estacionários
Ou seja, at é um RB estacionário.
tsaaEaaCov
taVar
taE
stst
at
t
,0)(),(
,,)(
,,0)(
2
Modelos Lineares Estacionários
Formalmente, temos que
Zt = µ + at + 1at-1 + 2at-2 + ... =
= µ + at + 1Lat + 2L2at + ... = µ + (L)at (1)
em que
L – operador defasagem
(L) = 1 + 1L + 2L2 + ... é denominada
função de transferência do filtro.
µ – parâmetro determinando o nível da série
Zt, dado em (1), é um processo linear (discreto).
Se a seqüência de pesos {j, j ≥ 1} for finita ou
infinita e convergente, o filtro é estável (somável) e
Zt é estacionária. Neste caso, µ é a média do
processo.
Caso contrário Zt é não estacionária e µ não tem
significado específico, a não ser como um ponto de
referência para o nível da série.
Modelos Lineares Estacionários
A condição anterior também pode ser expressa na
condição de que (L), que é a função geradora dos pesos
, deve convergir para |L| ≤ 1, isto é, dentro de e sobre o
círculo unitário. Esse resultado é discutido em detalhes no
Apêndice A3.1 do livro de Box, Jenkins e Reinsel (1994,
pag. 85-86).
Condições de Estacionariedade e Invertibilidade
e como
E(at) = 0, para todo t,
temos que
E(Zt) = µ
se a série
j
convergir.
Não é difícil, de (1), ver que,
Modelos Lineares Estacionários
1
)(j
jtjtt aaEZE
Também não é difícil ver que a facv, j, de Zt é
dada por
com 0 = 1.
Modelos Lineares Estacionários
0
2 ,i
jiiaj
Em particular, para j = 0, obtemos a variância de Zt,
A condição para que as duas expressões anteriores
existam é que
Modelos Lineares Estacionários
.)(0
22
0
j
jatZVar
.0
2
j
j
Assim verificamos que a média e a variância
de Zt são constantes e a covariância só
depende de j, logo, Zt é estacionária.
Modelos Lineares Estacionários
Podemos escrever
em uma forma alternativa, como uma soma ponderada
de seus valores passados mais um ruído at:
Segue-se que
Modelos Lineares Estacionários
tt ZZ~
1
2211
~...
~~~
j
tjtjtttt aZaZZZ
tt
j
j
j aZL
~1
1
ou
em que (L) é o operador
Modelos Lineares Estacionários
tt aZL ~
)(
...1)( 2
21 LLL
Mas,
de modo que
Esta relação pode ser usada para obter os pesos j em
função dos pesos j e vice-versa.
Modelos Lineares Estacionários
ou seja,
, )(~
tt aLZ
,)()(~
)( tttt aaLLaZL
)()(1)()( 1 LLLL
Exemplo 1
Condições de Estacionariedade e Invertibilidade
Considere o processo
Zt = µ + (L)at
em que
j = ()j, j = 1, 2, 3, ...,
0 = 1;
|| < 1; e
at como definido anteriormente.
Exemplo 1 (cont.)
Condições de Estacionariedade e Invertibilidade
Temos que
logo, E(Zt) = µ.
,1
1
00
j
j
j
j
Exemplo 1 (cont.)
Condições de Estacionariedade e Invertibilidade
Ainda, dado que j2 converge, obtemos
e
2
2
01
a
0 ,1
2
2
ja
j
j
Exemplo 2
Para o modelo dado no Exemplo 1, considere, agora,
que = 1 e µ = 0; então
Não é difícil ver que j não converge. Dessa forma, o
processo será não-estacionário.
Condições de Estacionariedade e Invertibilidade
...1 ttt aaZ
Exemplo 3
O modelo dado no Exemplo 2 deriva da equação
Assim, da equação anterior, não é difícil observar que
Ou seja, a primeira diferença de Zt é um RB estacionário.
Dizemos que Zt é um passeio aleatório; seu valor no
instante t é uma soma de choques aleatórios que entraram
no sistema desde o passado remoto até o instante t.
Condições de Estacionariedade e Invertibilidade
.1 ttt aZZ
.1 ttt aZZ
Exercício
Considere o processo
Zt = (L)at
em que
j = ()j, j = 1, 2, 3, ...,
0 = 1; e
|| < 1.
Encontre (L) e escreva (L)Zt = at. Interprete.
Condições de Estacionariedade e Invertibilidade
Exemplo 4
Considere o processo
Zt = at + at-1,
ou seja,
1 = , j = 0, j > 1.
Assim, é possível afirmar que o processo é estacionário
para qualquer valor de ?
Condições de Estacionariedade e Invertibilidade
Exemplo 5
Utilizando o modelo proposto no Exemplo 4, vejamos como
deve ser para que possamos escrever Zt em termos de
seus valores passados.
Assim, vem que
Condições de Estacionariedade e Invertibilidade
....)1()1(
1)1( 22
tttttt aZLLaZL
aLZ
1,)()(...1)(0
22
jeLLLL j
j
j j
Exemplo 5 (cont.)
A seqüência formada pelos pesos j será
convergente se | | < 1 e neste caso dizemos que o
processo é invertível. Segue-se que para o
processo ser invertível o operador (L) deve
convergir para |L| ≤ 1, e
Condições de Estacionariedade e Invertibilidade
....2
2
1 tttt aZZZ
Proposição
Um processo linear geral será estacionário
se (L) convergir para |L| ≤ 1; será
invertível se (L) convergir para |L| ≤ 1. A
demonstração deste fato pode ser
encontrada, por exemplo, em Box, Jenkins
& Reinsel (1994).
Condições de Estacionariedade e Invertibilidade
O Teorema de Wold
Leitura Complementar II
Todo processo estacionário de segunda ordem,
puramente não-determinístico, pode ser escrito como
um Polinômio Linear Geral (PLG), dado a seguir:
(a) ,10
0
,
j
jtjtX
com {t} uma sequência de v.a. não correlacionadas,
de média zero e variância 2 constante (ruído branco
estacionário - RB) e j são constantes satisfazendo
j2 < .
Teorema de Wold
0
2
0
2
0
2
0
22
j
j
j
hjj
h
j
j
hjjh
j
jtt
ψ
XVarXE
,
)( )(
Ainda,
Teorema de Wold
Processos ARMA são casos particulares de (a).
Exemplos:
;, ρ
),AR(εXXψ
h
h
ttt
j
j
1
1~1
;, hρ ρ,)θ(
ρ
), ,ARMA(θεεXXθψ
hh
tttt
j
j
1 21
)1(
1 1~)(
121
11
1
;, j, ρθ)(
θ)( ρ
), MA(θεεX, jθ, ψψ
h
tttj
101
1~10
21
11
Teorema de Wold
Exercícios
O processo
Zt = (L)at
em que
j = ()j, j = 1, 2, 3, ...,
0 = 1; e
|| < 1.
é invertível?
Exercício 1
com
Considere o seguinte processo
t ~ RB(0 ; 2)
Exercício 2
0
,
j
jtjtX
10 ψ
1,)( 1 jθψ j
j
a) O processo é estacionário? Justifique.
b) O processo é invertível? Justifique.
Exercício 2 (cont.)
De acordo com as suposições feitas no exercício
anterior para obter a estacionariedade do processo,
encontre a FACV e a FAC do mesmo.
Exercício 3
Exercício 4
O processo
é estacionário e/ou invertível? Justifique a sua
resposta. Construa a FAC teórica desse processo.
Ainda, simule esse processo e construa a FAC do
processo simulado. Compare e comente os resultados.
em que
t ~ NID(0;1)
11 80,080,0 tttt XX