AIC가 다른 유형의 모델을 비교할 수 있습니까?

R에서 비선형 모델을 비교하기 위해 AIC (Akaike 's Information Criterion)를 사용하고 있습니다. 다른 유형의 모델의 AIC를 비교하는 것이 유효합니까? 구체적으로, glm에 맞는 모델과 glmer (lme4)에 맞는 랜덤 효과 항이있는 모델을 비교하고 있습니다.

그렇지 않은 경우 그러한 비교를 수행 할 수있는 방법이 있습니까? 아니면 아이디어가 완전히 유효하지 않습니까?

lme4-nlme model-selection aic

— 토마스 케이
소스

답변:

따라 다릅니다. AIC는 로그 우도의 함수입니다. 두 유형의 모델이 로그 가능성을 동일한 방식으로 계산하는 경우 (예 : 동일한 상수 포함) 모델이 중첩 된 경우 가능합니다 .

나는 합리적으로 확신 glm()과 lmer()비교 로그 우도를 사용하지 마십시오.

중첩 모델에 대한 요점도 논의의 대상입니다. 어떤 사람들은 AIC가 이론을 제시하고 작동하는 방식이기 때문에 중첩 모델에만 유효하다고 말합니다. 다른 사람들은 모든 종류의 비교에 사용합니다.

— 복원 모니카-G. 심슨
소스

내 이해는 lme4는 기본적으로 glm이 ML을 사용하는 REML을 사용한다는 것입니다. REML = FALSE를 설정하여 lmer을 ML로 사용하도록 설정 한 경우 이와 유사 할 수 있습니다.

— russellpierce

Gavin의 의견 외에도 모델과 관련하여 수행하려는 작업에 따라 다릅니다. 예측 모델 또는 토마스가 parsimony를 찾고 있습니까? (제 생각에)

— suncoolsu

@ drnexus : 나는 그것이 충분하다고 생각하지 않습니다. 로그 우도 계산에 동일한 정규화 상수가 적용되고 있는지 확인해야합니다.

— 복원 모니카

@Thomas : 코드를 보거나 코드를 작성한 사람과 대화해야합니다. 일반적으로 다른 소프트웨어 / 패키지 / 기능에서 그 가능성이 비교할 수 없다고 가정하십시오.

— 복원 모니카

@ user3490 추정값을 얻는 데 사용되는 소프트웨어 및 알고리즘에 따라 다릅니다. 일반적으로 나는 그들이 확실하지 않다면 그들이 같지 않다고 생각합니다.

— 복원 Monica Monica-G. Simpson

이것은 내가 오랫동안 궁금했던 훌륭한 질문입니다.

동일한 제품군에 속하는 모델 (예 : 차수 k 또는 다항식의 자동 회귀 모델)의 경우 AIC / BIC가 의미가 있습니다. 다른 경우에는 덜 명확합니다. 로그 가능성을 정확하게 계산하려면 (일관된 용어로) 작동해야하지만 Bayes Factors와 같은보다 복잡한 모델 비교를 사용하는 것이 좋습니다 (http://www.jstor.org/stable/2291091).

모형에 손실 / 오류 기능이 동일한 경우 교차 검증 된 로그 우도를 비교하는 대안이 있습니다. 그것은 특정 상황에서 AIC / BIC가 의미가 없는지에 대해 일반적으로 제가 시도하는 것입니다.

— 이안
소스

경우에 따라 AIC는 다른 차등 차수의 ARIMA 모델과 같은 동일한 유형의 모델을 비교할 수 없습니다. 인용 예측 : Rob J Hyndman과 George Athanasopoulos의 원리와 실습 :

$d$ $p$ $q$ $d$ $p$ $q$

— 날작
소스

실제로 중요한 것은 비교가 문제가되는 모델의 유형이 아니라 가능성이 정의 된 데이터라는 점입니다.

— Richard Hardy