AIC 및 BIC 번호 해석

23

AIC (Akaike 정보 기준) 및 BIC (Bayesian 정보 기준) 추정값을 해석하는 방법에 대한 예를 찾고 있습니다.

BIC 간의 부정적인 차이가 한 모델의 다른 승산 확률로 해석 될 수 있습니까? 이것을 어떻게 말로 표현할 수 있습니까? 예를 들어 BIC = -2는 다른 모델에 비해 더 나은 모델의 확률이 대략 입니까? $e^2= 7.4$

이 네오 피트는 기본적인 조언을 제공합니다.

interpretation aic bic

— 후안
소스

2 장을 살펴 보자. 섹션 2.6-Google 도서에서 부분적으로 볼 수있는-특히 도움이 될 수있다. books.google.se/… (참고 : Kenneth P. Burnham 및 David R. Anderson. Springer Verlag의 모델 선택 및 다중 모델 추론)

— boscovich

6

$AIC$ priori 모델 세트 의 모델 에 대한 는 $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ 로 여기서 모델 세트의 최상의 모델은 입니다. 값을 사용하여 과 같은 모델 세트의 모든 모델에 대한 증거 강도 ( ) 를 추정 할 수 있습니다 . 이것은 종종 선험적 모델 세트가 주어진 모델 에 대한 "증거의 무게"로 언급됩니다 . 으로 증가, 제안 모델을 감소 $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$

승_{나는} = \frac{{이자형}^{(- 0.5 Δ_{나는})}}{\sum_{아르 자형 = 1}^{아르 자형} {이자형}^{(- 0.5 Δ_{나는})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$ 그럴듯하지 않다. 이 값은 모델 확률로 해석 될 수 주어진 최고의 모델입니다 선험적 모델 세트. 우리는 또한 모델의 상대적 가능성 계산할 수 모델에 비해 로 . 예를 들어, 및 이면 모델 가 모델 보다 8 배 더 높을 수 있습니다 .

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

참고 모델 1이 가장 모델 (작을 ). 번햄과 앤더슨 (2002)은 이것을 증거 비율로 지칭한다. 이 표는 최상의 모델과 관련하여 증거 비율이 어떻게 변하는 지 보여줍니다. $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

참고

번햄, KP 및 DR 앤더슨. 모델 선택 및 다중 모델 추론 : 실제적인 정보 이론적 접근. 두번째 버전. 스프링거, 미국 뉴욕.

앤더슨, DR 2008. 생명 과학의 모델 기반 추론 : 증거에 대한 입문서. 스프링거, 미국 뉴욕.

— RioRaider
소스

합의 색인이 합산 내부에 나타나지 않기 때문에

무엇을 나타내는 지 명확하게 설명 하시겠습니까? 합니까

모델 공간에 걸쳐?

r

$r$

R

$R$

— dopexxx

모델 세트에는 R 모델이 있습니다.

— RioRaider

3

나는 그런 AIC 또는 BIC에 대한 간단한 해석이 없다고 생각합니다. 둘 다 로그 가능성을 취하고 추정되는 모수의 수에 대해 벌점을 적용하는 양입니다. AIC는 1974 년부터 그의 논문에서 AIC에 대한 구체적인 처벌에 대해 설명하고있다. BIC는 1978 년 논문에서 기드온 슈바르츠 (Gideon Schwarz)에 의해 선정되었으며 베이지안 주장에 의해 동기를 부여 받았다.

— 마이클 R. 체 르닉
소스

2

페널티는 특정 크기의 이전 선호 모델로 해석 될 수 있습니다. 이전의 정보 이론적 근거가있는 사전을 채택하면 IC 값에서 직접 사후 배당률을 계산할 수 있습니다. 또한 @RioRaider는 Akaike 가중치를 언급하는데, 이는 주어진 모델이 KL 발산 측면에서 세트에서 최상의 모델 일 확률을 제공합니다. ( 참조 -800 페이지 참조 ).

— David J. Harris

1

Bayes 계수에 대한 근사 결과로 BIC를 사용할 수 있습니다. 따라서 이전 배포를 고려하지 않습니다. 모델 선택 단계의 BIC는 모델을 비교할 때 유용합니다. (. 초 4) 완전히 BIC를 이해하기 위해서는, 베이 즈는 요인 내가보기 엔 기사를 읽어 보시기 바랍니다 : http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf :와 보충 지식 에 http : // www가 .stat.washington.edu / raftery / Research / PDF / kass1995.pdf

— 로버트
소스