AR ( ) 모형에 대한 편견 추정치

AR ( ) 모델을 고려하십시오 ( 간단 성을 위해 평균이 0이라고 가정). $p$

x_{t} = φ_{1} x_{t - 1} + \dots + φ_{p} x_{t - p} + ε_{t}

$x_t = \varphi_1 x_{t-1} + \dotsc + \varphi_p x_{t-p} + \varepsilon_t$

대한 OLS 추정기 ( 조건부 최대 우도 추정량에 는 최근 스레드에 표시된 것처럼 바이어스 된 것으로 알려져 있습니다 . $\mathbf{\varphi} := (\varphi_1,\dotsc,\varphi_p)$

(이상하게도, 나는 어느 쪽도 아니 해밀턴에 언급 된 바이어스 찾을 수 없었다 "시계열 분석" 도 몇 가지 다른 시계열 교과서입니다. 그러나, 예를 들어 다양한 강의 노트 및 학술 기사에서 찾아 볼 수있다 이 .)

AR ( ) 의 정확한 최대 우도 추정값 이 바이어스 되는지 여부를 알 수 없었습니다. 따라서 첫 번째 질문입니다. $p$

질문 1 : 가 정확한 AR (최대 우도 추정 ) 모델의 회귀 매개 변수 바이어스? (AR ( ) 프로세스가 정지 상태 라고 가정하자 . 그렇지 않으면 추정 영역이 고정 된 영역에서 제한되므로 추정기가 일관성이 없다 (예 : Hamilton "Time Series Analysis" , p. 123 참조). $p$ $\varphi_1,\dotsc,\varphi_p$ $p$

또한,

질문 2 : 편견이없는 간단한 추정기가 있습니까?

— 리차드 하디
소스

AR (p)의 ML 추정기가 바이어스되어 있음을 확신합니다 (정상 성 경계의 존재는 그것이 바이어스 될 것임을 시사합니다). 그러나 나는 지금 당신에 대한 증거가 없습니다 (대부분의 ML 추정기는 경우, 그러나 우리는 여기에 갈 것보다 조금 더 있습니다). [개인적으로 나는 편견이 적어도 일반적으로 가지고있는 특히 유용한 재산으로 보지 않습니다. 통계 학자들이 오리 사냥을하는 것에 대한 오래된 농담과 같습니다. 다른 조건의 paribus는, 그것을있는 것은 물론,하지 않는 것보다 더 나은,하지만 연습에서 다른 조건은 결코 paribus . 그래도 중요한 개념입니다. ]

— Glen_b-복지 주 모니카

나는 작은 샘플에서 작업 할 때 불편 함이 바람직하다고 생각했으며, 나는 그러한 사례에 직면했습니다 . 내 이해에서, 그 경우에 효율이 정량화 될 수있는 한, 효율보다 편향성이 더 바람직하다.

— Richard Hardy

바이어스가 작지 않을 수있는 곳 (작은 샘플 에서처럼)은 실제로 최소 평균 제곱 오차와 같은 것을 찾는 경향이 있습니다. 분산이 높기 때문에 대체 추정치가 훨씬 더 잘못 될 수있는 경우 추정치가 평균적으로 잘못 될 수 있다는 점은 무엇입니까? 예를 들어,이 대한이 표본 크기에서의 바이어스 가 0.1이면 걱정할 정도로 클 수 있으므로 "편견없는 추정값을 사용합시다"이라고 말하지만 표준 오차가 충분히 클 경우 일반적으로 내 추정치가 올바른 가치 ... 나는 더 나은가? ... ctd

ϕ

$\phi$

— Glen_b-복지국 모니카

ctd. ... 나는 그렇게 생각하지 않습니다 (적어도 평범한 목적은 아니며 MMSE와 같은 것이 더 좋지 않을 실용적인 상황에서 편견에 대한 좋은 주장을 거의 보지 못했습니다). 나는 이 추정치가 얼마나 잘못되었는지 ( 진정한 가치에서 얼마나 멀리 떨어져 있을지에 대해) 내가이 상황에 백만 번 더있을 경우 평균 변화가 얼마나 큰지에 대해 걱정한다. 편차를 계산하는 데있어 실질적인 주요 가치는 분산에 큰 영향을 미치지 않으면 서 쉽게 줄일 수 있는지 여부를 확인하는 경향이 있습니다.

— Glen_b-복지국 모니카

좋은 논쟁, 감사합니다. 나는 그것에 대해 더 많이 생각할 것입니다.

— Richard Hardy

이것은 물론 질문 1에 대한 엄격한 대답은 아니지만 일반적으로 질문을했기 때문에 반례에 대한 증거는 이미 대답이 아니오라는 것을 나타냅니다.

여기에 정확한 ML 추정을 사용한 작은 시뮬레이션 연구 arima0가 있습니다.

reps <- 10000
n <- 30
true.ar1.coef <- 0.9

ar1.coefs <- rep(NA, reps)
for (i in 1:reps){
  y <- arima.sim(list(ar=true.ar1.coef), n)
  ar1.coefs[i] <- arima0(y, order=c(1,0,0), include.mean = F)$coef
}
mean(ar1.coefs) - true.ar1.coef

— 크리스토프 행크
소스

-1

나는 당신이 읽고있는 것과 같은 책을 읽고 두 질문에 대한 답을 찾았습니다.

자기 회귀 베타의 편향은 215 페이지의 책에 언급되어 있습니다.

이 책에는 223 페이지의 편향을 수정하는 방법도 언급되어 있습니다. 계속 진행하는 방법은 반복적 인 2 단계 접근 방식입니다.

도움이 되었기를 바랍니다.

— 북쪽의 군주
소스

사이트의 지침에 따라 대답은 단순히 다른 곳의 자료에 대한 참조로 구성되어서는 안됩니다.

— Alexis