다른 AIC 정의

12

Wikipedia에서 Akaike 's Information Criterion (AIC)의 정의는 로 정의되며, 여기서 는 매개 변수의 수이고 은 모형의 로그 우도입니다. $AIC = 2k -2 \log L$ $k$ $\log L$

그러나, 저명한 대학 상태에서 우리의 경제학 노트 그 . 여기서ARMA 모델의 오류에 대한 추정 분산이며,시계열 데이터 세트에서 관찰의 수입니다. $AIC = \log (\hat{\sigma}^2) + \frac{2 \cdot k}{T}$ $\hat{\sigma}^2$ $T$

후자의 정의가 첫 번째 정의와 동일하지만 ARMA 모델에 맞게 조정 되었습니까? 아니면 두 정의 사이에 어떤 종류의 갈등이 있습니까?

— pir
소스

3

기록 : 기준 단수, 기준 복수. (따라서 편집 됨)

— Nick Cox

15

노트에서 인용 한 공식은 정확히 AIC가 아닙니다.

AIC는 . $-2\log\mathcal{L}+2k$

여기에 무슨 일이 일어나고 있는지 대략적으로 도출하는 대략적인 도출에 대한 개요가 있습니다.

일정한 분산으로 독립적 인 정규 오차가있는 모형이있는 경우,

L \propto σ^{- n} e^{- \frac{1}{2 σ^{2}} \sum ε_{i}^{2}}

$\mathcal{L}\propto \sigma^{-n} \: e^{-\frac{1}{2\sigma^2}\sum \varepsilon_i^2}$

최대 가능성으로 추정 할 수 있습니다.

\begin{array}{rcl} \propto & ({\hat{σ}}^{2})^{- n / 2} e^{- \frac{1}{2} n {\hat{σ}}^{2} / {\hat{σ}}^{2}} \\ \propto & ({\hat{σ}}^{2})^{- n / 2} e^{- \frac{1}{2} n} \\ \propto & ({\hat{σ}}^{2})^{- n / 2} \end{array}

$\begin{eqnarray} & \propto &(\hat{\sigma}^2)^{-n/2} e^{-\frac12 n\hat{\sigma}^2/\hat{\sigma}^2}\\ & \propto &(\hat{\sigma}^2)^{-n/2} e^{-\frac12 n}\\ & \propto &(\hat{\sigma}^2)^{-n/2} \end{eqnarray}$

$\sigma^2$

$-2\log\mathcal{L} +2k = n\log{\hat{\sigma}^2} + 2k$

$T$ $p$ $q$ $T$ $n$

$AIC \approx T\log{\hat{\sigma}^2} + 2k$

그 후

$AIC/T \approx \log{\hat{\sigma}^2} + 2k/T$

$T$

그러나 AIC의 실제 차이 값 (예 : 번햄과 앤더슨이 설명한대로 다중 모델 추론 수행)에 의존하는 다른 목적으로 AIC를 사용하는 경우 중요합니다.

수많은 계량 경제학 텍스트가이 AIC / T 형식을 사용하는 것 같습니다. 이상하게도 일부 책은 해당 양식에 대해 Hurvich 및 Tsai 1989 또는 Findley 1985를 참조하는 것으로 보이지만 Hurvich & Tsai 및 Findley는 원래 양식에 대해 논의하고있는 것 같습니다 (지금 Findley가 수행하는 작업에 대한 간접적 인 표시 만 있기 때문에 아마도 그것에 Findley에 무언가).

$\sigma^2$

Rob Hyndman의 AIC에 대한 사실과 오류 목록 , 특히 3 ~ 7 개의 항목 을보고 싶을 수 있습니다 . 이러한 점 중 일부는 가우시안 가능성에 의한 근사치에 너무 크게 의존하는 것에 대해 약간의주의를 기울일 수 있습니다. 내가 여기서 제공하는 것보다 더 나은 정당성이 있을지도 모릅니다.

요즘 많은 시계열 패키지가 ARMA 모델의 실제 로그 가능성을 계산 (최대화)하는 경향이 있기 때문에 실제 AIC가 아닌 로그 가능성 에이 근사치를 사용해야하는 좋은 이유가 확실하지 않습니다. 그것을 사용하지 않는 이유는 거의 없습니다.

— Glen_b-복귀 모니카
소스

1

조만간 * IC에 대한 모든 논의는 "이러한 상황에서 종종 틀린 답을 제공한다는 점을 제외하고는 반드시 사용해야하는 기준"이됩니다. 아이러니하고, 일반적으로 유용한 답변에 전혀 비판적이지는 않습니다. 이것은 누군가를 당신을 때리거나 찢어 버리려고 할 때 일반적으로 다른 모든 조언에 의해 일시적으로 무시되는 실제 생활과 같습니다.

— Nick Cox

1

n

$n$

2

나는 이것이 정상적인 오류의 가정에 근거한다고 생각합니다. 계량 경제학에서는 무증상 방식, 특히 AIC를 사용하는 시계열 애플리케이션에서 작동합니다. 결과적으로, 정상적인 가정은이 (점근 적) 모델 선택 체계를 정당화하기 위해 무증상이어야한다.

$ln(L) = -(T/2)ln(2\pi) -(T/2)ln(\sigma^2) - (1/2\sigma^2)\sum(x_i - \mu)$ $\mathbb{E}(X) = \mu$ $Var(X) = \sigma^2$ $x_1, ..., x_T$

$L$ $Tln(\sigma^2)$ $(1/\sigma^2)(T\hat{\sigma}^2)$ $\hat{\sigma}^2 = T^{-1} \sum(x_i - \bar{x})$ $\sigma^2$ $(1/\sigma^2)(T\hat{\sigma}^2) = (1/\hat{\sigma}^2)(T\hat{\sigma}^2)$

$AIC = 2k + Tln(\sigma^2) + 1$ $1$ $T$ $T$ $AIC$ $AIC/T$

— 예레미아 K
소스