AICc의 음수 값 (수정 된 Akaike Information Criterion)


39

두 가지 일반적인 선형 혼합 모델을 비교하기 위해 AIC와 AICc를 계산했습니다. AIC는 모델 2보다 AIC가 낮은 모델 1에서 양성입니다. 그러나 AICc의 값은 모두 음입니다 (모델 1은 여전히 ​​<모델 2 임). 음의 AICc 값을 사용하고 비교하는 것이 유효합니까?


AIC가 최소가되었을 때 대답하십시오

모델 1의 AIC가 모델 2보다 작을 때 무엇을 의미합니까? 모델 1이 0에 가깝거나 0에 더 먼가요? 다시 말해, 모델 1의 AIC가 -390이고 모델 2가 -450 인 경우 모델 1 또는 모델 2를 선택 하시겠습니까?
Jens

답변:


46

중요한 것은 두 모델에 대한 적합도를 나타내는 두 AIC (또는 더 나은 AICc) 값의 차이입니다. AIC (또는 AICc)의 실제 값과 양수인지 음수인지는 아무 의미가 없습니다. 데이터가 표시되는 단위를 단순히 변경 한 경우 AIC (및 AICc)가 크게 변경됩니다. 그러나 두 대안 모델의 AIC의 차이는 전혀 변하지 않을 것입니다.

결론 : AIC (또는 AICc)의 실제 값과 양수인지 음수인지는 무시하십시오. 두 AIC (또는 AICc) 값의 비율도 무시하십시오. 차이점에만주의하십시오.


2
이 질문에 대한 모든 답변이 도움이 되었으나 이것이 가장 실용적이라고 생각합니다.
프레야 해리슨

1
정의에 따라 AIC에는 단위가 없기 때문에 단위를 변경하는 것에 대한 의견에 혼란스러워합니다 (조정 된 최대 로그 가능성). 데이터 단위의 변경은 최대 가능성을 전혀 변경하지 않으므로 AIC도 변경하지 않습니다. (어쨌든, 차이점에만주의를 기울이라는 권고는 문제가되지 않습니다.)
whuber

5
@whuber : 데이터가 지속적으로 분포되면 (원래 포스터가 실제로 "일반"또는 "일반화 된"LMM인지 여부에 따라 다름) 확률 밀도에는 암시 적 "델타 -x"항이 있습니다. 실제로 단위 변경으로 인해 영향을받습니다. < emdbolker.wikidot.com/faq >
벤 볼커 (Ben Bolker)

4
@Ben 감사합니다. 내가 이것을 썼을 때 나는 AIC와 AIC의 차이점을 혼동했다. 단위의 선택이 가능성에 곱하기 상수를 도입하는 것이 맞습니다. 따라서 로그 우도는 AIC에 기여하는 (더블링 후) 가산 상수를가집니다. AIC의 차이는 변하지 않았습니다.
whuber

27

AIC = -2Ln (L) + 2k

여기서 L은 해당 모델에 대한 최대 가능성 함수의 값이고 k는 모델의 매개 변수 수입니다.

귀하의 예에서 -2Ln (L) + 2k <0은 최대의 로그 우도가> 0임을 의미하며 최대의 우도는> 1임을 나타냅니다.

긍정적 로그 가능성에는 문제가 없습니다. 로그 우도는 음수 여야한다는 일반적인 오해입니다. 가능성이 확률 밀도에서 도출되면 1을 상당히 합리적으로 초과 할 수 있습니다. 이는 로그 가능성이 양수이므로 이탈도 및 AIC는 음수입니다. 이것이 모델에서 발생한 것입니다.

AIC를 비교하는 것이 모델을 선택하는 좋은 방법이라고 생각하는 경우 (대수적으로) 낮은 AIC가 절대 AIC 값이 가장 낮은 AIC보다 선호되는 경우가 여전히 그렇습니다. 다시 말하면 예제에서 가장 음수를 원합니다.


13

일반적으로 AIC (및 AICc)는 상수를 추가하는 것으로 정의되므로 음수인지 양수인지는 전혀 의미가 없습니다. 대답은 그렇습니다.


상수가 포함 되더라도 AIC (AICc)는 음수 일 수 있습니다.
Rob Hyndman

1
그게 내가 쓴 것입니다.

5

예, 음의 AIC 값과 같은 방식으로 음의 AICc 값을 비교하는 것이 유효합니다. AICc의 보정 계수는 작은 샘플 크기와 상대적으로 많은 수의 매개 변수로 커질 수 있으며 AIC보다 더 많은 벌칙을 부과 할 수 있습니다. 따라서 양수 AIC 값은 음수 AICc 값에 해당 할 수 있습니다.


0

예. 양수 또는 음수에 관계없이 AIC 값을 비교하는 것이 유효합니다. AIC가 로그 우도의 선형 함수 (-2)로 정의 되었기 때문입니다. 가능성이 크면 AIC가 음수 일 가능성이 있지만 모형 자체에 대해서는 아무 것도 말하지 않습니다.

AICc도 비슷하지만, 값이 조정되었다는 사실은 아무 것도 변경하지 않습니다.

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.