중첩되지 않은 모델 선택

13

우도 비 검정과 AIC는 두 모델 중에서 선택하기위한 도구이며 모두 로그 우도를 기반으로합니다.

그러나 왜 우도 비 검정을 사용하여 중첩되지 않은 두 가지 모델 중에서 AIC를 선택할 수 없습니까?

aic likelihood-ratio nested-models

— 사용자
소스

Akaike 자신은 AIC가 중첩되지 않은 모델을 비교하는 데 유용하다고 생각했습니다. 내가 게시물에 대한 응답으로 인용 한 그의 인용문을 참조 하십시오 .

— JonesBC

20

LR (우도 비) 검정은 실제로 매개 변수의 지정된 부분 집합이 사전 지정된 값과 같다는 가설을 검정하고 있습니다. 모델 선택의 경우 일반적으로 (항상 그런 것은 아님) 일부 매개 변수는 0과 같습니다. 모델이 중첩 된 경우 더 작은 모델에없는 더 큰 모델의 매개 변수는 테스트중인 매개 변수이며 더 작은 모델에서 제외되도록 암시 적으로 값이 지정됩니다. 모형이 중첩되지 않은 경우 BOTH 모형에 다른 모형에없는 모수가 있으므로 LR 검정 통계량에 점근 적 분포가 없기 때문에이 모형을 더 이상 테스트하지 않습니다 ( 일반적으로) 중첩 된 경우에 수행됩니다. $\chi^2$

반면에 AIC는 공식 테스트에는 사용되지 않습니다. 매개 변수 수가 다른 모델을 비공식적으로 비교하는 데 사용됩니다. AIC 표현에서 페널티 용어는 이러한 비교를 가능하게합니다. 그러나 모델 비교를 수행 할 때 중첩되지 않은 두 모델의 AIC 간의 차이에 대한 점근 적 분포의 기능적 형태에 대한 가정은 없으며 두 AIC 간의 차이는 검정 통계량으로 취급되지 않습니다.

이론이 중첩 모델에 대해 작동하기 때문에 중첩되지 않은 모델에서 AIC를 사용하는 것에 대해 약간의 의견 차이가 있습니다. 따라서 "not ... formal"과 "not ... test statistic"에 중점을 둡니다. 나는 중첩되지 않은 모델에 사용하지만 모델 구축 프로세스에 대한 중요하지만 유일한 입력은 아니지만 단단하고 빠른 방법은 아닙니다.

— 보보 맨
소스

@Carl-정교함은 당신이 인용 한 의견 바로 앞의 두 의견에 있습니다. 나는 gung의 조언을 구해야한다고 생각합니다. 질문을 게시하고 대답하십시오. 이러한 상황에서하는 것은 공정한 일이며 다른 사람들은 "참조 질문"에 대해서도 비슷하게 수행했습니다. 방금 당신의 대답을 겪어 보았습니다.

— jbowman

나는 조언을했고 새로운 질문과 답변이 여기에 있습니다 . BTW, 나는 당신의 질문 (그리고 받아 들인 대답)을 생각하게 만들었습니다. 내 문제는 중첩되지 않은 모델을 AIC로 비교할 수 있다는 가정은 일반적으로 무시되는 다른 조건이 많이 충족 될 때만 참이라는 것입니다.

— Carl

9

Kullback-Leibler 정보 손실의 추정값으로 AIC를 도출한다고해서 모델이 중첩되는 것으로 가정 할 수는 없습니다.

— 데이비드 앤더슨
소스

2

그러나 Akaike는 모델이 동일한 데이터로 구성되고 있다고 가정했습니다.

— DWin