Geração e Estimação de processos Gegenbauer

12
Gera¸c˜ ao e Estima¸c˜ ao em Processos Gegenbauer A.V. Schmidt 1 , C. Bisognin e S.R.C. Lopes Instituto de Matem´atica - UFRGS Porto Alegre, RS, Brasil Resumo. Este trabalho baseia-se nos chamados processos Gegenbauer(d, u). Foram estudadas as condi¸c˜ oes de estacionariedade e invertibilidade destes processos, suas representa¸ oes autoregressiva e m´ ediam´ovelinfinitas, suasfun¸c˜ oes densidade espectral e de autocovariˆ ancia. Al´ em disso, foi investigado um m´ etodo de gera¸c˜ ao do processo, bem como a estima¸c˜ ao dos seus parˆametros. Foi realizado um estudo sobre a estima¸c˜ aocl´assica, robusta e semi-param´ etrica do parˆametro de longa dependˆ encia e do parˆametro de frequencia, baseado em simula¸ oes de Monte Carlo com tamanhos de truncamento de s´ erie diferentes e para valores diferentes de d e u. O desempenho destes estimadores ´ e avaliado atrav´ es do erro quadr´atico m´ edio e o v´ ıcio dos mesmos. Palavras-Chave. Processos com Longa Dependˆ encia, Gegenbauer, Estima¸c˜ ao. 1.Introdu¸c˜ ao Os modelos de s´ eries temporais cl´assicos, como os modelos ARMA, n˜ao levam em conta a caracter´ ıstica de longa dependˆ encia das observa¸c˜ oes, embora, em aplica¸c˜ oes utilizando dados de observa¸ oes reais, as s´ eries podem apresentar dependˆ enciaentre observa¸c˜ oes distantes entre si. O fenˆomeno da longa dependˆ encia foi abor- dado, inicialmente, por por Hurst (1951) enquanto investigava a s´ erie temporal do n´ ıvel mensal do rio Nilo. Posteriormente, Granger e Joyeux (1980) e Hosking (1981 e 1984) definiram os modelos ARFIMA(p, d, q), que s˜ao os chamados modelos auto-regressivos fracionariamente integrados de m´ ediam´ovel. A caracter´ ıstica da longa dependˆ encia pode ser caracterizada de diversas formas, dentre as quais destacamos: i) pelo decaimento hiperb´olicodafun¸c˜ ao de autocorrela¸c˜ ao com o aumento dos lags; ii) pelo crescimento ilimitado da fun¸c˜ ao densi- dade espectral quando a frequencia tende a zero. Estes modelos de longa dependˆ encia tem sido extensivamente investigados deste a d´ ecada de 80 e, em particular, diversos artigos publicados abordam a quest˜ao da estima¸c˜ ao dosparˆametros. Detalhes sobre a estima¸c˜ ao semiparam´ etrica podem ser encontradas em Geweke e Porter-Hudak (1983) e Robinson (1994a, 1995a, 1995b). M´ etodos de estima¸c˜ ao param´ etrica foram propostos por Yajima (1985), Fox e Taqqu (1986), Giraitis e Surgalis (1990) e Sowell (1992). Uma revis˜ao dos m´ etodos de estima¸c˜ ao para modelos de longa dependˆ encia pode ser vista em Beran (1994), Gu´ egan (1994), Robinson (1994b) e Bisaglia and Gu´ egan (1998). Alguns dados reais come¸caram a apresentar um comportamento periodicamente persistente que n˜ao era bem modelado (absorvido?) pelo modelo ARFIMA tradicional. Na d´ ecada de 80, Gray et. al. (1988) propuseram os modelos de Gegenbauer e auto-regressivo de m´ ediam´ovelGegenbauer utilizando os polinˆomios de Gegenbauer. Este novo modelo passou a ser chamado de GARMA (Gegenbauer autoregressive moving-average e uma generaliza¸c˜ ao dos modelos ARFIMA. A grande diferen¸ca ´ e que os processos GARMA n˜ao necessariamente s˜ao ilimitados na origem, podendo apresentar ilimita¸c˜ ao em qualquer frequencia d dentro do intervalo [0]. Giraitis e Leipus (1995) e Woodward et al. (1998) propuseram uma extens˜ao ao modelo GARMA, denotado k-factor GARMA. Neste modelo, podem ocorrer k ilimita¸c˜ oes (n˜ao gostei deste termo aqui, mas n˜ao consigo pensar em outro), para um n´ umero finito k de frequencias, chamadas de frequencias de Gegenbauer, tamb´ em chamadas de frequencias G, no intervalo [0]. Neste trabalho, para a estima¸c˜ ao dos parˆametros, foram utilizados os seguintes estimadores da classe dos semi-param´ etricos: o estimador proposto por Geweke e Porter-Hudak (1983) e o estimador baseado na fun¸c˜ ao periodograma suavizado de covariˆ ancias ambos com as suas respectivas vers˜ oes robustas. Considerou- se tamb´ em o estimador n˜ao-param´ etricos proposto por Fox e Taqqu (1986) e os estimadores param´ etricos de m´axima verossimilhan¸ca aproximado e o de m´axima verossimilhan¸ca exato, este ´ ultimo sendo uma proposta deste trabalho. 1 E-mail: [email protected]

description

Artigo extendido submetido para a 13ª Escola de Séries Temporais.

Transcript of Geração e Estimação de processos Gegenbauer

Page 1: Geração e Estimação de processos Gegenbauer

Geracao e Estimacao em Processos Gegenbauer

A.V. Schmidt1, C. Bisognin e S.R.C. Lopes

Instituto de Matematica - UFRGS

Porto Alegre, RS, Brasil

Resumo. Este trabalho baseia-se nos chamados processos Gegenbauer(d, u). Foram estudadas as condicoes deestacionariedade e invertibilidade destes processos, suas representacoes autoregressiva e media movel infinitas,suas funcoes densidade espectral e de autocovariancia. Alem disso, foi investigado um metodo de geracao doprocesso, bem como a estimacao dos seus parametros. Foi realizado um estudo sobre a estimacao classica,robusta e semi-parametrica do parametro de longa dependencia e do parametro de frequencia, baseado emsimulacoes de Monte Carlo com tamanhos de truncamento de serie diferentes e para valores diferentes de d eu. O desempenho destes estimadores e avaliado atraves do erro quadratico medio e o vıcio dos mesmos.

Palavras-Chave. Processos com Longa Dependencia, Gegenbauer, Estimacao.

1. Introducao

Os modelos de series temporais classicos, como os modelos ARMA, nao levam em conta a caracterısticade longa dependencia das observacoes, embora, em aplicacoes utilizando dados de observacoes reais, as seriespodem apresentar dependencia entre observacoes distantes entre si. O fenomeno da longa dependencia foi abor-dado, inicialmente, por por Hurst (1951) enquanto investigava a serie temporal do nıvel mensal do rio Nilo.Posteriormente, Granger e Joyeux (1980) e Hosking (1981 e 1984) definiram os modelos ARFIMA(p, d, q), quesao os chamados modelos auto-regressivos fracionariamente integrados de media movel. A caracterıstica dalonga dependencia pode ser caracterizada de diversas formas, dentre as quais destacamos: i) pelo decaimentohiperbolico da funcao de autocorrelacao com o aumento dos lags; ii) pelo crescimento ilimitado da funcao densi-dade espectral quando a frequencia tende a zero. Estes modelos de longa dependencia tem sido extensivamenteinvestigados deste a decada de 80 e, em particular, diversos artigos publicados abordam a questao da estimacaodos parametros.

Detalhes sobre a estimacao semiparametrica podem ser encontradas em Geweke e Porter-Hudak (1983) eRobinson (1994a, 1995a, 1995b). Metodos de estimacao parametrica foram propostos por Yajima (1985), Fox eTaqqu (1986), Giraitis e Surgalis (1990) e Sowell (1992). Uma revisao dos metodos de estimacao para modelosde longa dependencia pode ser vista em Beran (1994), Guegan (1994), Robinson (1994b) e Bisaglia and Guegan(1998).

Alguns dados reais comecaram a apresentar um comportamento periodicamente persistente que nao erabem modelado (absorvido?) pelo modelo ARFIMA tradicional. Na decada de 80, Gray et. al. (1988) propuseramos modelos de Gegenbauer e auto-regressivo de media movel Gegenbauerutilizando os polinomios de Gegenbauer.Este novo modelo passou a ser chamado de GARMA (Gegenbauer autoregressive moving-average e e umageneralizacao dos modelos ARFIMA. A grande diferenca e que os processos GARMA nao necessariamente saoilimitados na origem, podendo apresentar ilimitacao em qualquer frequencia d dentro do intervalo [0, π]. Giraitise Leipus (1995) e Woodward et al. (1998) propuseram uma extensao ao modelo GARMA, denotado k-factorGARMA. Neste modelo, podem ocorrer k ilimitacoes (nao gostei deste termo aqui, mas nao consigo pensar emoutro), para um numero finito k de frequencias, chamadas de frequencias de Gegenbauer, tambem chamadas defrequencias G, no intervalo [0, π].

Neste trabalho, para a estimacao dos parametros, foram utilizados os seguintes estimadores da classedos semi-parametricos: o estimador proposto por Geweke e Porter-Hudak (1983) e o estimador baseado nafuncao periodograma suavizado de covariancias ambos com as suas respectivas versoes robustas. Considerou-se tambem o estimador nao-parametricos proposto por Fox e Taqqu (1986) e os estimadores parametricos demaxima verossimilhanca aproximado e o de maxima verossimilhanca exato, este ultimo sendo uma propostadeste trabalho.

1 E-mail: [email protected]

Page 2: Geração e Estimação de processos Gegenbauer

2 A.V. Schmidt et al.

2. Processos Gegenbauer

Seja {Xt}t∈Z um processo estocastico dado pela expressao

(1− 2uB + B2)λ(Xt − µ) = εt, (2.1)

onde |u| 6 1, µ e a media do processo, B e o operador de defasagem ou de retardo, isto e, Bj(Xt) = Xt−j , paratodo j ∈ N e {εt}t∈Z e um processo ruıdo branco.

Se o processo e inversıvel, podemos escrever (2.1) atraves de sua representacao media movel infinita

Xt = µ +∑

j∈ Z>

C(λ)j (u)εt−j , (2.2)

onde C(λ)j (·)j∈Z sao os polinomios Gegenbauer definidos como

C(λ)j (u) =

bj/2c∑

k=0

(−1)kΓ(λ− k + j)(2u)j−2k

Γ(λ)Γ(k + 1)Γ(j − 2k + 1), (2.3)

para todo j > 0, com bxc sendo a parte inteira de x.

Definicao 2.1. O processo {Xt}t∈Z, dado pela equacao (2.2), e chamado de processo Gegenbauer com parametrosu e λ e pode ser escrito pela expressao dada em (2.1).

Observe que, se u = 1, {Xt}t∈Z e um ARFIMA(0, 2λ, 0). Logo, para u = 1, o processo {Xt}t∈Z pode serescrito como

(1− B)2λ(Xt − µ) = εt. (2.4)

2.1. Propriedades dos processos Gegenbauer(u, λ)Nesta secao serao definir os valores dos parametros λ e u para os quais o processo Gegenbauer e estacionario,inversıvel e apresenta a caracterıstica de longa dependencia. Tambem apresentaremos as funcoes de autoco-variancia, autocorrelacao e a funcao densidade espectral.

Proposicao 2.1. Seja Xtt∈Z um processo Gegenbauer, dado na Definicao 2.1. Entao,a) O processo {Xt}t∈Z e estacionario se λ < 0.5, quando |u| < 1, ou λ < 0.25, quando |u| = 1.b) O processo {Xt}t∈Z e inversıvel se λ > −0.5, quando |u| < 1, ou λ > −0.25, quando |u| = 1.c) Se 0 < λ < 0.25, quando |u| = 1 ou 0 < λ < 0.5, quando |u| < 1, entao {Xt}t∈Z apresenta a caracterıstica

de longa dependencia.d) A funcao densidade espectral do processo e dada por

σ2ε

2π[2(cos(ω)− u)]−2λ ∀ ω ∈ (0, π], (2.5)

onde G = cos−1 u e chamada frequencia de Gegenbauer ou frequencia G. Note que a funcao densidadeespectral torna-se ilimitada em G.

Quando ω ⇒ G temos,

fx(ω) Cf |ω −G|−2λ, onde Cf =σ2

ε

2π[2| sen (G)|]−2λ > 0. (2.6)

e) Uma aproximacao para a funcao de autocovariancia do processo quando |u| < 1 e dada por:

γx(k) =21−2λσ2

ε

πsen−2λ(G)sen(λπ)Γ(1− 2λ) cos(kG)

×Γ(k + 2λ)Γ(k + 1)

[1 + O(k−1)].

Observacao 2.1. A equacao:

γx(k) = σ2ε

j∈Z≥C

(λ)j (u)C(λ)

j+k(u), ∀ |u| ≤ 1,

com k ∈ Z≥ e os componentes C(λ)j sao dados pela expressao (2.3), foi proposta em 1998 por Woodward

et al. como uma representacao da funcao de autocovariancia do processo GARMA.

Utilizando a expressao descrita na Observacao (2.1), e possıvel fazer uma extensao do processo, acrescen-tando uma componente auto-regressiva e/ou uma componente de media movel, isto e, uma combinacao de umprocesso Gegenbauer com um processo ARMA(p, q), resultando em um GARMA(p, u, λ, q).

Page 3: Geração e Estimação de processos Gegenbauer

Processos Gegenbauer 3

3. Estimacao

Nesta secao serao apresentados alguns estimadores semi-parametricos ja estabelecidos na literatura (ref ref refref) para estimar os parametros de longa dependencia e frequencia de um processo GARMA e tambem seraapresentado um estimador exato proposto neste trabalho.

3.1. O estimador GPH

O estimador GPH, proposto por Geweke e Porter-Hudak (1983), e um estimador semi-parametrico que utilizaa funcao periodograma. Inicialmente era utilizado para estimar o parametro d dos processos ARFIMA(p, d, q).Aqui apresentamos uma extensao para os processos Gegenbauer.

A ideia basica e aplicar o logaritmo na funcao densidade espectral e adicionar o logaritmo da funcaoperiodograma. A esquacao resultante pode ser comparada a uma equacao de regressao onde os parametros saoestimados atraves de mınimos quadrados ordinarios.

Para o problema da estimacao do parametro d no processo GARMA(λ, u), considere a funcao densidadeespectral de um processo Xt dada por:

fx(w) = σ2ε [2(cos(w)− u)]−2 para todo w ∈ (0, π]

Aplicando o logaritmo na equacao acima, temos:

ln fx(w) = ln(

σ2ε

)− λ ln 2 cos(w)− u

2

Seja ln fu(0) = algumacoisa e ln I(w) o logaritmo natural da funcao periodograma em w. Adicionandoln fu(0) e ln I(w) aos dois lados da equacao anterior, teremos:

ln I(w) = ln fu(0) + ln(

σ2ε

)− λ ln[2(cos(w)− u)]2 + ln

[I(w)fx(w)

]

Para certas condicoes (ver Geweke e Porter-Hudak - 1983) uma forma aproximada sera dada por:

ln I(w) ln fu(0)− λ ln[2(cos(w)− u)]2 + ln[

I(w)fx(w)

]

Que pode ser comparada a uma equacao de regressao da forma:

ln I(w) = β0 − β1 ln[2(cos(w)− u)]2 + εv

Como proposto por Geweke em Porter-Hudak, uma forma de estimar β0 e β1 e atraves de mınimos quadra-dos. Suas versoes robustas variam apenas na forma de estimacao dos coeficientes da regressao.

3.2. O estimador FT

O estimador proposto por Fox e Taqqu em 1986 esta na classe dos estimadores parametricos e utiliza umaaproximacao, proposta por Whittle (1951), para a matriz de autocovariancia do processo. Consiste em mini-mizar uma soma escrita em funcao do periodograma e pode ser utilizado para qualquer sequencia gaussianaestacionaria.

3.3. O estimador de maxima verossimilhanca exato

O estimador de maxima verossimilhanca exato e obtido maximizando-se a seguinte expressao:

L(x, η, σ2) = −n

2ln(2π)− 1

2ln |Qn(η)| − 1

2z′Q−n 1(η)z.

4. Simulacao

Nesta secao apresentamos os resultados das simulacoes de Monte Carlos para os Processos GARMA(d, u), paradiferentes valores de d e de u com tamanho amostral igual a 1000.

Comparamos o desempenho dos estimadores semiparametricos GPH, BA, FT e de verossimilhanca exato.Nos estimadores que utilizam a funcao periodograma suavizado de covariancia associados a janela de

Bartlett, utilizamos como ponto de truncamento o valor nβ , com β = 0.9.Para os estimadores semiparametricos GPH e BA considerou-se g(n) = nα, com α ∈ {0.55, 0.89}.Para cada valor de d geramos 1000 amostras independentes (re = 1000) e reportamos a media, o vıcio, o

erro quadratico medio e a variancia amostral. A seguinte notacao e utilizada: seja di o valor estimado de d paraa amostra i, onde i = i, · · · , re, entao

Media =1re

re∑

i=1

di, Vies = media− d, EQM =1re

re∑

i=1

(di − d)2, Var =1

re− 1

re∑

i=1

(di −media)2.

Page 4: Geração e Estimação de processos Gegenbauer

4 A.V. Schmidt et al.

5. Conclusoes

Neste trabalho comparamos o comportamento de estimadores semiparametricos e parametricos, quanto aovıcio, erro quadratico medio e variancia.

Quando aumentamos o valor de α o vıcio, o erro quadratico medio e a variancia dos estimadores semi-parametricos diminuem, na maioria dos casos analisados.

Referencias

1. Brockwell, P.J. e R.A. Davis (1991). Time Series: Theory and Methods. New York: Springer-Verlag.2. Geweke, J. e S. Porter-Hudak (1983). “The Estimation and Application of Long Memory Time Series

Model”. Journal of Time Series Analysis, Vol. 4(4), pp. 221-238.3. Granger, C.W.J. e R. Joyeux (1980). “An Introduction to Long Memory Time Series Models and Fractional

Differencing”. Journal of Time Series Analysis, Vol. 1(1), pp. 15-29.4. Hosking, J.R.M. (1981). “Fractional Differencing”. Biometrika, Vol. 68(1), pp. 165-176.5. Hosking, J.R.M. (1984). “Modelling Persistence in Hydrological Time Series Using Fractional Differencing”.

Water Resources Research, Vol. 20(12), pp. 1898-1908.6. Robinson, M.P. (2003). Time Series with long memory - Advanced texts in Econometrics. New York:

Oxford University Press.

Page 5: Geração e Estimação de processos Gegenbauer

Processos Gegenbauer 5

Tabela 1. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.2, u = 1, n = 1000 e α ∈ {0.5, 0.55, · · · , 0.85}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.50

Media 0.2069 0.2052 0.2049 0.1872 0.1961 0.1989Vies 0.0069 0.0052 0.0049 -0.0128 -0.0039 -0.0011

EQM 0.0047 0.0057 0.0062 0.0030 0.0051 0.0046Var 0.0047 0.0057 0.0062 0.0028 0.0051 0.0046

α = 0.55Media 0.2038 0.2019 0.2006 0.1909 0.1981 0.1988

Vies 0.0038 0.0019 0.0006 -0.0091 -0.0019 -0.0012EQM 0.0033 0.0037 0.0040 0.0020 0.0033 0.0028

Var 0.0033 0.0037 0.0040 0.0019 0.0033 0.0028α = 0.60

Media 0.2035 0.2017 0.2001 0.1943 0.1995 0.1996Vies 0.0035 0.0017 0.0001 -0.0057 -0.0005 -0.0004

EQM 0.0022 0.0026 0.0025 0.0014 0.0021 0.0019Var 0.0022 0.0026 0.0025 0.0014 0.0021 0.0019

α = 0.65Media 0.2043 0.2005 0.2022 0.1971 0.2005 0.2009

Vies 0.0043 0.0005 0.0022 -0.0029 0.0005 0.0009EQM 0.0016 0.0021 0.0016 0.0010 0.0015 0.0013

Var 0.0016 0.0021 0.0016 0.0010 0.0015 0.0013α = 0.70

Media 0.2031 0.1982 0.2022 0.1986 0.2012 0.2011Vies 0.0031 -0.0018 0.0022 -0.0014 0.0012 0.0011

EQM 0.0011 0.0017 0.0011 0.0007 0.0010 0.0009Var 0.0011 0.0017 0.0011 0.0007 0.0010 0.0009

α = 0.75Media 0.2027 0.2005 0.2018 0.1998 0.2021 0.2020

Vies 0.0027 0.0005 0.0018 -0.0002 0.0021 0.0020EQM 0.0008 0.0013 0.0008 0.0005 0.0007 0.0006

Var 0.0008 0.0013 0.0008 0.0005 0.0007 0.0006α = 0.80

Media 0.2025 0.2004 0.2021 0.2004 0.2028 0.2022Vies 0.0025 0.0004 0.0021 0.0004 0.0028 0.0022

EQM 0.0005 0.0010 0.0005 0.0003 0.0005 0.0005Var 0.0005 0.0010 0.0005 0.0003 0.0005 0.0004

α = 0.85Media 0.2027 0.2007 0.2018 0.2013 0.2023 0.2022

Vies 0.0027 0.0007 0.0018 0.0013 0.0023 0.0022EQM 0.0004 0.0008 0.0004 0.0002 0.0004 0.0003

Var 0.0004 0.0008 0.0004 0.0002 0.0004 0.0003α = 0.89

Media 0.2024 0.2003 0.2019 0.2013 0.2019 0.2022Vies 0.0024 0.0003 0.0019 0.0013 0.0019 0.0022

EQM 0.0003 0.0006 0.0003 0.0002 0.0003 0.0003Var 0.0003 0.0006 0.0003 0.0002 0.0003 0.0003

6. Tabelas

Page 6: Geração e Estimação de processos Gegenbauer

6 A.V. Schmidt et al.

Tabela 2. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.3, u = 0.8, n = 1000 e α ∈ {0.6, 0.65, · · · , 0.85, 0.89}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.60

Media 0.3345 0.3172 0.2999 0.3441 0.3286 0.3308Vies 0.0345 0.0172 -0.0001 0.0441 0.0286 0.0308

EQM 0.3347 0.3391 0.3508 0.1819 0.2314 0.2389Var 0.3338 0.3392 0.3511 0.1801 0.2308 0.2382

α = 0.65Media 0.3147 0.2885 0.3012 0.3191 0.3105 0.3130

Vies 0.0147 -0.0115 0.0012 0.0191 0.0105 0.0130EQM 0.0320 0.0490 0.0353 0.0185 0.0265 0.0248

Var 0.0318 0.0490 0.0353 0.0182 0.0264 0.0247α = 0.70

Media 0.3122 0.3050 0.3114 0.3200 0.3180 0.3187Vies 0.0122 0.0050 0.0114 0.0200 0.0180 0.0187

EQM 0.0045 0.0066 0.0044 0.0031 0.0042 0.0039Var 0.0043 0.0066 0.0042 0.0027 0.0039 0.0035

α = 0.75Media 0.3108 0.3026 0.3097 0.3169 0.3161 0.3164

Vies 0.0108 0.0026 0.0097 0.0169 0.0161 0.0164EQM 0.0033 0.0061 0.0031 0.0022 0.0033 0.0029

Var 0.0032 0.0061 0.0030 0.0020 0.0030 0.0026α = 0.80

Media 0.3066 0.3048 0.3071 0.3108 0.3122 0.3112Vies 0.0066 0.0048 0.0071 0.0108 0.0122 0.0112

EQM 0.0017 0.0029 0.0018 0.0012 0.0018 0.0015Var 0.0016 0.0029 0.0017 0.0011 0.0016 0.0014

α = 0.85Media 0.3047 0.3037 0.3048 0.3072 0.3071 0.3071

Vies 0.0047 0.0037 0.0048 0.0072 0.0071 0.0071EQM 0.0009 0.0018 0.0010 0.0006 0.0009 0.0007

Var 0.0008 0.0018 0.0009 0.0005 0.0008 0.0007α = 0.89

Media 0.3030 0.3032 0.3032 0.3051 0.3056 0.3048Vies 0.0030 0.0032 0.0032 0.0051 0.0056 0.0048

EQM 0.0006 0.0013 0.0006 0.0004 0.0006 0.0005Var 0.0006 0.0013 0.0006 0.0004 0.0006 0.0005

Page 7: Geração e Estimação de processos Gegenbauer

Processos Gegenbauer 7

Tabela 3. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.2, u = 0.8, n = 1000 e α ∈ {0.5, 0.55, · · · , 0.85}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.60

Media 0.1775 0.1723 0.1686 0.4761 0.3399 0.4010Vies -0.0225 -0.0277 -0.0314 0.2761 0.1399 0.2010

EQM 0.3281 0.3508 0.3640 7.8707 10.1096 10.4015Var 0.3279 0.3504 0.3633 7.8022 10.1001 10.3715

α = 0.65Media 0.1962 0.1795 0.1917 0.2529 0.2397 0.2116

Vies -0.0038 -0.0205 -0.0083 0.0529 0.0397 0.0116EQM 0.0328 0.0484 0.0353 1.3267 1.8829 1.8824

Var 0.0328 0.0481 0.0352 1.3252 1.8832 1.8842α = 0.70

Media 0.2053 0.1980 0.2018 0.2142 0.2020 0.1934Vies 0.0053 -0.0020 0.0018 0.0142 0.0020 -0.0066

EQM 0.0041 0.0069 0.0040 0.1889 0.2392 0.2479Var 0.0041 0.0069 0.0040 0.1889 0.2395 0.2481

α = 0.75Media 0.2034 0.1967 0.2018 0.2068 0.2018 0.1978

Vies 0.0034 -0.0033 0.0018 0.0068 0.0018 -0.0022EQM 0.0031 0.0055 0.0032 0.0187 0.0262 0.0236

Var 0.0031 0.0055 0.0032 0.0187 0.0262 0.0236α = 0.80

Media 0.2016 0.2013 0.2017 0.2067 0.2049 0.2036Vies 0.0016 0.0013 0.0017 0.0067 0.0049 0.0036

EQM 0.0015 0.0029 0.0016 0.0024 0.0036 0.0033Var 0.0015 0.0029 0.0016 0.0024 0.0036 0.0033

α = 0.85Media 0.2011 0.2021 0.2012 0.2045 0.2025 0.2013

Vies 0.0011 0.0021 0.0012 0.0045 0.0025 0.0013EQM 0.0008 0.0016 0.0009 0.0019 0.0028 0.0025

Var 0.0008 0.0016 0.0009 0.0019 0.0028 0.0025α = 0.89

Media 0.2006 0.2012 0.2008 0.2023 0.2018 0.2018Vies 0.0006 0.0012 0.0008 0.0023 0.0018 0.0018

EQM 0.0005 0.0012 0.0006 0.0009 0.0014 0.0012Var 0.0005 0.0012 0.0006 0.0009 0.0014 0.0012

Page 8: Geração e Estimação de processos Gegenbauer

8 A.V. Schmidt et al.

Tabela 4. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.2, u = 0.6, n = 1000 e α ∈ {0.5, 0.55, · · · , 0.85}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.60

Media 0.1839 0.0832 0.0969 0.8151 0.5452 0.4613Vies -0.0161 -0.1168 -0.1031 0.6151 0.3452 0.2613

EQM 1.7110 1.8992 1.8969 32.2087 43.7689 45.0897Var 1.7137 1.8888 1.8895 31.8851 43.7250 45.0991

α = 0.65Media 0.2365 0.1619 0.1928 0.4802 0.2862 0.3303

Vies 0.0365 -0.0381 -0.0072 0.2802 0.0862 0.1303EQM 0.2196 0.2842 0.2275 5.5206 6.8090 7.1307

Var 0.2186 0.2832 0.2278 5.4515 6.8133 7.1260α = 0.70

Media 0.2018 0.1689 0.1955 0.2555 0.1847 0.1669Vies 0.0018 -0.0311 -0.0045 0.0555 -0.0153 -0.0331

EQM 0.0241 0.0435 0.0274 0.9199 1.2183 1.2328Var 0.0241 0.0426 0.0275 0.9184 1.2202 1.2339

α = 0.75Media 0.2038 0.1967 0.2021 0.2365 0.2095 0.2145

Vies 0.0038 -0.0033 0.0021 0.0365 0.0095 0.0145EQM 0.0027 0.0060 0.0029 0.1400 0.2100 0.1912

Var 0.0027 0.0060 0.0029 0.1389 0.2103 0.1914α = 0.80

Media 0.2036 0.2006 0.2026 0.2009 0.1994 0.1952Vies 0.0036 0.0006 0.0026 0.0009 -0.0006 -0.0048

EQM 0.0023 0.0048 0.0022 0.0150 0.0224 0.0208Var 0.0023 0.0048 0.0022 0.0150 0.0225 0.0209

α = 0.85Media 0.2039 0.2030 0.2028 0.2034 0.2042 0.2045

Vies 0.0039 0.0030 0.0028 0.0034 0.0042 0.0045EQM 0.0012 0.0023 0.0012 0.0016 0.0028 0.0024

Var 0.0012 0.0023 0.0012 0.0016 0.0028 0.0024α = 0.89

Media 0.2021 0.2036 0.2017 0.2032 0.2047 0.2033Vies 0.0021 0.0036 0.0017 0.0032 0.0047 0.0033

EQM 0.0008 0.0016 0.0008 0.0014 0.0024 0.0020Var 0.0008 0.0015 0.0008 0.0014 0.0024 0.0020

Page 9: Geração e Estimação de processos Gegenbauer

Processos Gegenbauer 9

Tabela 5. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.1, u = 1, n = 1000 e α ∈ {0.5, 0.55, · · · , 0.85}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.60

Media 0.1030 0.0992 0.0996 0.0938 0.0947 0.0954Vies 0.0030 -0.0008 -0.0004 -0.0062 -0.0053 -0.0046

EQM 0.0020 0.0025 0.0026 0.0013 0.0021 0.0021Var 0.0020 0.0025 0.0026 0.0013 0.0021 0.0021

α = 0.65Media 0.1030 0.0986 0.1000 0.0958 0.0968 0.0976

Vies 0.0030 -0.0014 0.0000 -0.0042 -0.0032 -0.0024EQM 0.0013 0.0020 0.0015 0.0009 0.0014 0.0013

Var 0.0013 0.0020 0.0015 0.0009 0.0014 0.0013α = 0.70

Media 0.1020 0.0968 0.1002 0.0967 0.0975 0.0977Vies 0.0020 -0.0032 0.0002 -0.0033 -0.0025 -0.0023

EQM 0.0010 0.0016 0.0010 0.0006 0.0010 0.0009Var 0.0010 0.0015 0.0010 0.0006 0.0010 0.0009

α = 0.75Media 0.1016 0.0971 0.1005 0.0975 0.0980 0.0979

Vies 0.0016 -0.0029 0.0005 -0.0025 -0.0020 -0.0021EQM 0.0007 0.0012 0.0008 0.0005 0.0007 0.0006

Var 0.0007 0.0012 0.0008 0.0004 0.0007 0.0006α = 0.80

Media 0.1019 0.0982 0.1008 0.0986 0.0989 0.0993Vies 0.0019 -0.0018 0.0008 -0.0014 -0.0011 -0.0007

EQM 0.0005 0.0010 0.0005 0.0003 0.0005 0.0004Var 0.0005 0.0010 0.0005 0.0003 0.0005 0.0004

α = 0.85Media 0.1013 0.0989 0.1004 0.0991 0.0991 0.0994

Vies 0.0013 -0.0011 0.0004 -0.0009 -0.0009 -0.0006EQM 0.0004 0.0007 0.0004 0.0002 0.0004 0.0003

Var 0.0004 0.0007 0.0004 0.0002 0.0004 0.0003α = 0.89

Media 0.1008 0.0977 0.1002 0.0989 0.0988 0.0992Vies 0.0008 -0.0023 0.0002 -0.0011 -0.0012 -0.0008

EQM 0.0003 0.0006 0.0003 0.0002 0.0003 0.0002Var 0.0003 0.0006 0.0003 0.0002 0.0003 0.0002

Page 10: Geração e Estimação de processos Gegenbauer

10 A.V. Schmidt et al.

Tabela 6. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.4, u = 0.8, n = 1000 e α ∈ {0.5, 0.55, · · · , 0.85}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.60

Media 0.4272 0.4063 0.4224 0.4619 0.4495 0.4503Vies 0.0272 0.0063 0.0224 0.0619 0.0495 0.0503

EQM 0.3142 0.3698 0.3643 0.1889 0.2476 0.2475Var 0.3138 0.3701 0.3641 0.1852 0.2454 0.2452

α = 0.65Media 0.4030 0.3865 0.3990 0.4224 0.4133 0.4153

Vies 0.0030 -0.0135 -0.0010 0.0224 0.0133 0.0153EQM 0.0326 0.0447 0.0321 0.0181 0.0279 0.0238

Var 0.0326 0.0446 0.0321 0.0176 0.0277 0.0235α = 0.70

Media 0.4250 0.4135 0.4201 0.4391 0.4360 0.4366Vies 0.0250 0.0135 0.0201 0.0391 0.0360 0.0366

EQM 0.0053 0.0075 0.0055 0.0048 0.0058 0.0053Var 0.0047 0.0074 0.0051 0.0033 0.0045 0.0040

α = 0.75Media 0.4209 0.4096 0.4173 0.4319 0.4277 0.4297

Vies 0.0209 0.0096 0.0173 0.0319 0.0277 0.0297EQM 0.0039 0.0066 0.0040 0.0033 0.0041 0.0039

Var 0.0034 0.0065 0.0037 0.0023 0.0033 0.0030α = 0.80

Media 0.4136 0.4076 0.4115 0.4202 0.4182 0.4191Vies 0.0136 0.0076 0.0115 0.0202 0.0182 0.0191

EQM 0.0018 0.0033 0.0019 0.0015 0.0020 0.0018Var 0.0017 0.0032 0.0018 0.0011 0.0017 0.0015

α = 0.85Media 0.4090 0.4048 0.4069 0.4134 0.4109 0.4118

Vies 0.0090 0.0048 0.0069 0.0134 0.0109 0.0118EQM 0.0009 0.0018 0.0009 0.0008 0.0010 0.0009

Var 0.0009 0.0018 0.0009 0.0006 0.0009 0.0008α = 0.89

Media 0.4069 0.4049 0.4061 0.4109 0.4088 0.4098Vies 0.0069 0.0049 0.0061 0.0109 0.0088 0.0098

EQM 0.0006 0.0014 0.0007 0.0005 0.0007 0.0006Var 0.0006 0.0014 0.0006 0.0004 0.0006 0.0005

Page 11: Geração e Estimação de processos Gegenbauer

Processos Gegenbauer 11

Tabela 7. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.1, u = 0.8, n = 1000 e α ∈ {0.5, 0.55, · · · , 0.85}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.60

Media 0.1048 0.0827 0.0851 0.1201 0.0998 0.1059Vies 0.0048 -0.0173 -0.0149 0.0201 -0.0002 0.0059

EQM 0.3021 0.3647 0.3239 0.1748 0.2279 0.2365Var 0.3024 0.3648 0.3240 0.1746 0.2282 0.2367

α = 0.65Media 0.1049 0.0864 0.0968 0.1091 0.0997 0.1029

Vies 0.0049 -0.0136 -0.0032 0.0091 -0.0003 0.0029EQM 0.0311 0.0430 0.0327 0.0186 0.0265 0.0237

Var 0.0311 0.0428 0.0327 0.0185 0.0266 0.0237α = 0.70

Media 0.1022 0.0973 0.0988 0.1039 0.1017 0.1026Vies 0.0022 -0.0027 -0.0012 0.0039 0.0017 0.0026

EQM 0.0043 0.0073 0.0045 0.0024 0.0037 0.0032Var 0.0043 0.0073 0.0045 0.0024 0.0037 0.0032

α = 0.75Media 0.1025 0.0976 0.0985 0.1028 0.0999 0.1011

Vies 0.0025 -0.0024 -0.0015 0.0028 -0.0001 0.0011EQM 0.0031 0.0057 0.0033 0.0018 0.0030 0.0024

Var 0.0031 0.0057 0.0033 0.0018 0.0030 0.0024α = 0.80

Media 0.0998 0.0972 0.0994 0.1008 0.1005 0.1008Vies -0.0002 -0.0028 -0.0006 0.0008 0.0005 0.0008

EQM 0.0015 0.0031 0.0016 0.0009 0.0015 0.0013Var 0.0015 0.0031 0.0016 0.0009 0.0015 0.0013

α = 0.85Media 0.0999 0.0990 0.0994 0.1006 0.1000 0.1007

Vies -0.0001 -0.0010 -0.0006 0.0006 0.0000 0.0007EQM 0.0008 0.0019 0.0009 0.0005 0.0009 0.0007

Var 0.0008 0.0019 0.0009 0.0005 0.0009 0.0007α = 0.89

Media 0.0999 0.0989 0.0998 0.1002 0.0995 0.1002Vies -0.0001 -0.0011 -0.0002 0.0002 -0.0005 0.0002

EQM 0.0006 0.0013 0.0006 0.0004 0.0006 0.0005Var 0.0006 0.0013 0.0006 0.0004 0.0006 0.0005

Page 12: Geração e Estimação de processos Gegenbauer

12 A.V. Schmidt et al.

Tabela 8. Estimacao semi-parametrica dos parametros do processo Gegenbauer(λ, u), quandoλ = 0.1, u = 0.6, n = 1000 e α ∈ {0.5, 0.55, · · · , 0.85}.

Estimador GPHLM GPHMM GPHLTS BALM BAMM BALTSα = 0.60

Media 0.1011 0.0630 0.1073 0.1670 0.1229 0.1261Vies 0.0011 -0.0370 0.0073 0.0670 0.0229 0.0261

EQM 1.6889 1.9738 1.8577 0.9640 1.3002 1.3660Var 1.6906 1.9744 1.8595 0.9605 1.3010 1.3667

α = 0.65Media 0.0938 0.0648 0.0767 0.1060 0.0951 0.0942

Vies -0.0062 -0.0352 -0.0233 0.0060 -0.0049 -0.0058EQM 0.2456 0.3591 0.2644 0.1492 0.1853 0.1892

Var 0.2458 0.3583 0.2641 0.1493 0.1855 0.1894α = 0.70

Media 0.1013 0.0893 0.0982 0.1032 0.0971 0.1000Vies 0.0013 -0.0107 -0.0018 0.0032 -0.0029 0.0000

EQM 0.0254 0.0430 0.0273 0.0160 0.0236 0.0224Var 0.0255 0.0429 0.0274 0.0160 0.0237 0.0224

α = 0.75Media 0.0998 0.0916 0.0984 0.0999 0.0982 0.0991

Vies -0.0002 -0.0084 -0.0016 -0.0001 -0.0018 -0.0009EQM 0.0027 0.0052 0.0031 0.0016 0.0027 0.0022

Var 0.0027 0.0051 0.0031 0.0016 0.0027 0.0022α = 0.80

Media 0.1007 0.0921 0.0989 0.1004 0.0992 0.0994Vies 0.0007 -0.0079 -0.0011 0.0004 -0.0008 -0.0006

EQM 0.0023 0.0045 0.0025 0.0013 0.0022 0.0018Var 0.0023 0.0044 0.0025 0.0013 0.0022 0.0018

α = 0.85Media 0.1010 0.0976 0.1007 0.1010 0.1009 0.1010

Vies 0.0010 -0.0024 0.0007 0.0010 0.0009 0.0010EQM 0.0012 0.0028 0.0012 0.0007 0.0012 0.0010

Var 0.0012 0.0028 0.0012 0.0007 0.0012 0.0010α = 0.89

Media 0.1012 0.0983 0.1009 0.1007 0.1005 0.1008Vies 0.0012 -0.0017 0.0009 0.0007 0.0005 0.0008

EQM 0.0008 0.0018 0.0009 0.0005 0.0008 0.0007Var 0.0008 0.0018 0.0009 0.0005 0.0008 0.0007

Tabela 9. Estimacao parametrica do parametro λ do processo Gegenbauer(λ, u)

FT(d)

(d=0.1,v=0.6) (d=0.1,v=0.8) (d=0.4,v=0.8) (d=0.1,v=1.0) (d=0.2,v=0.6) (d=0.2,v=0.8) (d=0.2,v=1.0) (d=0.3,v=0.8)Media 0.0806 0.0653 0.3890 0.0311 0.1863 0.1810 0.1513 0.2899

Vies -0.0194 -0.0347 -0.0110 -0.0689 -0.0137 -0.0190 -0.0487 -0.0101EQM 0.0013 0.0026 0.0015 0.0087 0.0009 0.0014 0.0181 0.0007

Var 0.0009 0.0014 0.0014 0.0039 0.0007 0.0011 0.0157 0.0006

Tabela 10. Estimacao parametrica do parametro u do processo Gegenbauer(λ, u)

FT(v)

(d=0.1,v=0.6) (d=0.1,v=0.8) (d=0.4,v=0.8) (d=0.1,v=1.0) (d=0.2,v=0.6) (d=0.2,v=0.8) (d=0.2,v=1.0) (d=0.3,v=0.8)Media 0.4257 0.4719 0.7997 0.4633 0.5719 0.7434 0.8274 0.7967

Vies -0.1743 -0.3281 -0.0003 -0.5367 -0.0281 -0.0566 -0.1726 -0.0033EQM 0.0460 0.1462 0.0001 0.3794 0.0067 0.0227 0.1420 0.0016

Var 0.0157 0.0385 0.0001 0.0913 0.0059 0.0195 0.1123 0.0015