이동 평균 모델 오류 항

Box-Jenkins MA 모델에 대한 기본적인 질문입니다. 내가 이해하는 것처럼 MA 모델은 기본적으로 이전 오류 용어 에 대한 시계열 값 의 선형 회귀입니다 . 즉, 관측 값 는 먼저 이전 값 Y_ {t-1}, ..., Y_ {tn} 에 대해 회귀 된 다음 하나 이상의 Y-\ hat {Y} 값이 MA의 오류 항으로 사용됩니다. 모델.전자 t을 , . . . , 전자 t - N Y Y t - 1 , . . . , Y의 t - N Y - $Y$$e_t,..., e_{t-n}$$Y$$Y_{t-1}, ..., Y_{t-n}$$Y - \hat{Y}$

그러나 ARIMA (0, 0, 2) 모델에서 오차 항은 어떻게 계산됩니까? MA 모델이 자동 회귀 부품없이 사용되어 추정값이없는 경우 어떻게 오차항을 가질 수 있습니까?

MA 모델 추정치 :

100 개의 시점을 가진 시리즈를 가정 해 봅시다. 이것은 인터셉트가없는 MA (1) 모델에 의해 특징 지어집니다. 그런 다음 모델은

$$y_t=\varepsilon_t-\theta\varepsilon_{t-1},\quad t=1,2,\cdots,100\quad (1)$$

여기서 오류 용어는 관찰되지 않습니다. 이를 얻기 위해 Box et al. 시계열 분석 : 예측 및 제어 (제 3 판) , 페이지 (228)는 , 오류 용어에 의해 반복적으로 계산하는 것이 좋습니다

$$\varepsilon_t=y_t+\theta\varepsilon_{t-1}$$

따라서 대한 $t=1$ 은

$$\varepsilon_{1}=y_{1}+\theta\varepsilon_{0}$$ 이제 우리는 값을 모르면 이것을 계산할 수 없습니다 $\theta$. 이를 얻기 위해서는 모델의 초기 또는 예비 추정치를 계산해야합니다 (Box et al. 상기 책의 섹션 6.3.2 페이지 202 는

먼저 도시 한 $q$ MA (의 자기 상관 $q$ ) 처리가 0이고 같이 모델의 파라미터로 기록 될 수 θ 1 , θ 2 , ⋯ , θ q 항 에서 ρ 1 , ρ 2 ⋯ , ρ q 에

$$\rho_k=\displaystyle\frac{-\theta_{k}+\theta_1\theta_{k+1}+\theta_2\theta_{k+2}+\cdots+\theta_{q-k}\theta_q}{1+\theta_1^2+\theta_2^2+\cdots+\theta_q^2}\quad k=1,2,\cdots, q$$ 대한 위의 표현은 q 미지수로 q 방정식을제공합니다. 의 예비 추정치 θ 의 추정값을 치환함으로써 얻을 수는 r에 K를 위해 ρ K 상기 식에서$\rho_1,\rho_2\cdots,\rho_q$$\theta_1,\theta_2,\cdots,\theta_q$$q$$q$$\theta$$r_k$$\rho_k$

참고 상기 추정 된 자기 상관 (autocorrelation)이다. 6.3 절-모수에 대한 초기 추정치에 대한 자세한 설명이 나와 있습니다 . 이제 초기 추정치 θ = 0.5를 얻는다고 가정 합니다. 그러면 ε 1 = y 1 + 0.5 ε 0 이제 또 다른 문제는 t 가 1에서 시작 하기 때문에 ε 0 값 이 없으므로 ε 1을 계산할 수 없다는 것 입니다. 다행히 두 가지 방법으로 두 가지를 얻을 수 있습니다.$r_k$$\theta=0.5$

$$\varepsilon_{1}=y_{1}+0.5\varepsilon_{0}$$ $\varepsilon_0$$t$$\varepsilon_1$

1. 조건부 가능성
2. 무조건적 가능성

Box et al.에 따르면 섹션 7.1.3 227 페이지에서 n 이 보통이거나 크면 의 값을 근사값으로 0으로 대체 할 수 있습니다 .이 방법은 조건부 가능성입니다. 그렇지 않으면 무조건 가능성이 사용되며, 여기서 ε 0 의 값은 역 예측에 의해 얻어진다 (Box et al. 이 방법을 권장합니다. 역 예측에 대한 자세한 내용은 231 페이지 7.1.4 섹션을 참조하십시오 .$\varepsilon_0$$n$$\varepsilon_0$

의 초기 추정값과 값을 얻은 후에는 오차항 의 재귀 계산을 진행할 수 있습니다. 그런 다음 마지막 단계는 모델의 모수를 추정하는 것입니다 ( 1 ) . 이것은 더 이상 예비 추정치가 아님을 기억하십시오.$\varepsilon_0$$(1)$

MA 모델은 매개 변수에 대해 비선형이므로 매개 변수 추정 할 때 비선형 추정 절차, 특히 Levenberg-Marquardt 알고리즘을 사용합니다.$\theta$

전반적으로 Box et al. 시계열 분석 : 예측 및 제어 (제 3 판) .

가우시안 MA (Q)와 같은 모델 (!뿐만 박스 및 젠킨스) 정의 된 석사 (Q) 모델은 "순수"오류 모델, 학위 그래서 Q 상관 돌아 간다 얼마나 정의.

$$Y_t = -\sum_{i=1}^q \vartheta_i e_{t-i} + \sigma e_t,\quad e_t\stackrel{\text{iid}}{\sim} \mathcal{N}(0,1)$$ $q$

"관찰 당신은 말할 먼저 이전 값에 대해 회귀되는 Y의 t - 1 , . . . , Y t - N 및 하나 이상의 Y - Y의 값이 MA 모델에 대한 오류 용어로 사용됩니다." 내가 말한 것은 Y 가 두 예측 변수 시리즈 e t - 1 및 e t - 2 에 대해 회귀 되어 모든 i = 3,4 ,,,, t에 대해 상관 관계가없는 오류 프로세스 e t 를 생성한다는 것입니다. 그런 다음 두 개의 회귀 계수가 있습니다. : $Y$$Y_{t−1},...,Y_{t−n}$$Y−\hat{Y}$$Y$$e_{t-1}$$e_{t−2}$$e_t$ 의 영향을 나타내는 전자 t을 - 1 및 θ 2 의 영향을 나타내는 전자 t - 2 . 따라서 e t 는 n-2 값을 포함하는 화이트 노이즈 랜덤 시리즈입니다. n-2 추정 가능한 관계가 있으므로 e1과 e2가 0.0과 같다는 가정으로 시작합니다. 이제 θ 1 과 θ 2 쌍에대해 t-2 잔차 값을 추정 할 수 있습니다. 가장 작은 오차 제곱합을 산출하는 조합은 θ 1 및 θ 2 의 최상의 추정치가됩니다.$\theta_1$$e_{t-1}$$\theta_2$$e_{t-2}$$e_t$$\theta_1$$\theta_2$$\theta_1$$\theta_2$

See my post here for an explanation of how to understand the disturbance terms in a MA series.

You need different estimation techniques to estimate them. This is because you cannot first get the residuals of a linear regression and then include the lagged residual values as explanatory variables because the MA process uses the residuals of the current regression. In your example you are making two regression equations and using residuals from one into the other. This is not what an MA process is. It cannot be estimated with OLS.