회귀로 시계열을 추론하는 것이 왜 유효합니까?

그것은 전혀 이상한 질문 일지 모르지만 주제에 대한 초보자로서 회귀의 가정 중 하나가 회귀가 적용되는 데이터가 비 iid?

— 파 루크
소스

우리가 "데이터"IID된다는 가정 만드는 것이 일반적으로 사실이 아니다

— 크리스토프 Hanck

디 트렌드 란 정확히 무엇을 의미 합니까?

— Matthew Gunn 2012

적절한 답변 / 문서를 작성할 시간이 없지만 일반적으로 직렬 상관 관계는 선형 회귀 결과를 바이어스 하지 않습니다 (표준 오류, 신뢰 구간 등의 적절한 계산을 변경합니다). 이를 통해 기존의 2 단계 접근 방식 (추세 추론 후 상관 관계 분석)이 합리적입니다. (예에 회귀 편견 리드 선형 계열 상관 '의 일부 인터넷 검색 fmwww.bc.edu/ec-c/f2010/228/EC228.f2010.nn12.pdf )

— 벤 Bolker

더 중요한 것은 선형 추세에 대한 계수의 OLS 추정값이 고정 회귀 분석기 (

) 보다 전체 값의 크기를 (

) 실제 값으로 더 빠르게 수렴 합니다. 고정 변수를 무시하더라도 추세를 일관되게 추정 할 수 있습니다. 이는 고정 변수의 효과를 하나씩 추정하는 것과 달리 변수를 생략하면 일관성이 손실됩니다.

n^{- 3 / 2}

$n^{-3/2}$

n^{- 1 / 2}

$n^{-1/2}$

— Richard Hardy 17

답변:

일반적인 최소 제곱 선형 회귀 에 대한 고전적인 가정과 시계열 설정에서 일반적으로 발견되는 직렬 의존성 사이에 충돌이있을 수 있다는 점을 잘 알고 있습니다.

Fumio Hayashi의 계량 경제학 의 가정 1.2 (엄격한 외 생성)를 고려하십시오 .

이자형 [ϵ_{나는} ∣ 엑스] = 0

$\mathrm{E}[\epsilon_i \mid X] = 0$

이것은 하며, 잔류 는 회귀 자 직교 함을 나타 냅니다. 하야시가 지적했듯이,이 가정은 가장 단순한 자기 회귀 모델 에서 위반된다 . [1] AR (1) 과정을 고려하자. $\mathrm{E}[\epsilon_i \mathbf{x}_j] = \mathbf{0}$ $\epsilon_i$ $\mathbf{x}_j$

y_{t} = β y_{t - 1} + ϵ_{t}

$y_{t} = \beta y_{t-1} + \epsilon_t$

우리는 가 대한 회귀 변수 임을 알 수 있지만, 는 직교하지 않습니다 (즉, ). $y_t$ $y_{t+1}$ $\epsilon_t$ $y_t$ $\mathrm{E}[\epsilon_ty_t]\neq0$

엄격한 외인성 가정이 위반되었으므로이 가정에 의존하는 주장은이 간단한 AR (1) 모델에 적용 할 수 없습니다!

그래서 우리는 다루기 어려운 문제가 있습니까?

아니, 우리는하지 않습니다! 보통 최소 제곱으로 AR (1) 모델을 추정하는 것은 전적으로 유효한 표준 동작입니다. 왜 여전히 괜찮을 수 있습니까?

큰 샘플, 점근 적 주장은 엄격한 외인성이 필요하지 않습니다. (엄격한 외 생성 대신에 사용될 수있는) 충분한 가정은 회귀자가 미리 결정 되고 회귀자가 동시 오류 항과 직교한다는 것이다. 전체 인수에 대해서는 하야시 2 장을 참조하십시오.

참고 문헌

[1] Fumio Hayashi, 계량 경제학 (2000), p. 35

ibid., p. 134

— 매튜 건
소스

기본 최소 제곱 유형 회귀 방법에서는 y 값이 iid라고 가정하지 않으며 잔차 (예 : y 값에서 실제 추세를 뺀 값)가 iid 라고 가정합니다.

다른 가정을 만드는 다른 회귀 방법이 있지만 아마도이 대답을 지나치게 복잡하게 만들 수 있습니다.

— 제프리 브렌트
소스

가정은 또한 거짓입니다. 선형 추세와 계절성을 모두 갖춘 시계열을 생각해보십시오. 선형 회귀의 나머지 잔차는 명확하게 상관되므로 iid는 아닙니다.

— DeltaIV

좋은 질문입니다! 내 시계열 책에 문제가 언급되지 않았습니다 (아마도 더 나은 책이 필요할 것입니다 :). 첫째로 , 시리즈에 확률 적 추세가있는 경우 선형 회귀를 사용하여 시계열을 추론하지 않아도 됩니다 (단위 루트) )-당신은 단순히 첫 번째 차이를 취할 수 있습니다. 그러나 계열에 결정 론적 추세가있는 경우 선형 회귀를 사용해야합니다. 이 경우 잔차가 iid가 아니라는 것은 사실입니다. 선형 추세, 계절 성분, 순환 성분 등이 모두 포함 된 계열을 생각해보십시오. 선형 회귀 후 잔차는 모두 독립적입니다. 요점은 선형 회귀를 사용하여 예측하거나 예측 간격을 형성하지 않는다는 것입니다. 추론 절차의 일부일뿐입니다. 상관되지 않은 잔차에 도달하려면 다른 방법을 적용해야합니다. 선형 회귀 자체가 대부분의 시계열에 대해 유효한 추론 절차 (올바른 통계 모델이 아님)가 아니며, 단계 중 하나로서 선형 회귀를 포함하는 절차는 유효한 모델 일 수 있습니다. 시계열.

— 델타 IV
소스

결정 론적 경향이있는 경우 차별화하지 마십시오. 차별화는 확률 적 경향 (단위 뿌리)에만 적합합니다. 단위근이없는 계열을 구별하면 모델에 통합 이동 평균 유형의 오류가 발생하게됩니다.

— Richard Hardy

나는 당신이 차이가 아니라 차별화를 의미한다고 생각합니다.

— Hong Ooi

y_{t} = β_{0} + β_{1} y_{t - 1} + ϵ_{t}

$y_t=\beta_0+\beta_1 y_{t-1}+\epsilon_t$

@ HongOoi, 예, 내 나쁜, 나는 차별화가 아니라 차이점을 의미했습니다. 시계열이 통합 (= unit-root) 프로세스 인 경우 시계열 인 DeltaIV는 확률 적 경향을 갖는 것으로 알려져 있습니다. 이것은 단위근 및 공적분 문헌의 표준 용어입니다. 다른 문헌에 다른 의미가 있는지 궁금합니다. 어쨌든, 초과 차분 (= 단위 루트가없는 시계열의 차분)은 악명 높은 현상이므로 피해야합니다.

— Richard Hardy

y = β_{0} + b e t a_{1} x_{1}

$y=\beta_0+beta_1 x_1$