최대 가능성의 일관성 및 점근 적 정규성에 대한 일반 정리

최대 가능성 추정기의 점근 적 특성에 관한 결과에 대한 좋은 참고 자료에 관심이 있습니다. 모델을 고려 여기서 인 차원 밀도, 은 의 샘플 을 기반으로하는 MLE입니다. 여기서 \ theta_0 은 \ theta 의 "true"값입니다 . 관심있는 두 가지 불규칙성이 있습니다.F N ( X | θ ) N θ$\{f_n(\cdot \mid \theta): \theta \in \Theta, n \in \mathbb N\}$$f_n(\mathbf x \mid \theta)$$n$$\hat \theta_n$$X_1, \ldots, X_n$$f_n(\cdot \mid \theta_0)$$\theta_0$$\theta$

1. 데이터 $X_1, \ldots, X_n$ 은 iid가 아니므로 결과적으로 \ theta 에 대한 Fisher 정보는 n$\theta$ 보다 느린 속도로 발생 합니다.$n$
2. $\Theta$ 바운드 설정되고, 포지티브 확률 $\hat \theta_n$ 경계에 놓여있다. 경계는 "단순한"모델에 해당하므로 $\theta_0$ 이 경계 에 있는지 여부에 특히 관심이 있습니다.

내 특정 질문은

1. 시키는 $J_n(\theta)$ 에 대응하는 관찰 피셔 정보 나타낸다 $\theta$ 및 가정 $\theta_0$ 의 내부에 놓여 $\Theta$ . 어떤 조건에서

   $$\left[J_n(\hat \theta_n)\right]^{1/2}(\hat \theta_n - \theta_0)$$ 은 n \ to \ infty 와 같은 증상이 없는가$n \to \infty$ ? 특히, 규칙적인 조건은 일반적인 조건과 비슷 하며 어떤 의미에서 J_n (\ hat \ theta_n) \ to \ infty 와 관련된 수정이 $J_n(\hat \theta_n) \to \infty$있습니까?

2. 대신 이 경계에 있다고 가정 하고 다시 혼합 효과 모델 에서 이 양의 확률로 발생 한다는 것을 상기하십시오. 가질 수 있습니다 . 어떤 조건 하에서 (거의 확실하게 또는 확률로) 그리고 어떤 조건 하에서 (어쩌면 혼합 효과 모델에서는 실패하지만 "oracle"속성에 해당합니다) LASSO 및 관련 견적 도구이므로 일반적인 결과를 요청하기에는 너무 많은 것일까 요?$\theta_0$$\hat \theta_n = \theta_0$$Y_{ij} = \mu + \beta_i + \epsilon_{ij}$$\hat \sigma_{\beta}^2 = 0$$\hat \theta_n \to \theta_0$$\hat \theta_n = \theta_0$

다시 말하지만,이 일반 수준의 결과를 가진 텍스트에 대한 포인터 만 주시면 감사하겠습니다.

다음에서 시작할 수있는 참조 :

경우 어디에서 경계에 true 매개 변수의 거짓말 :
(1971) 모란 "비표준 조건에서 최대 우도 추정"

Steven G. Self and Kung-Yee Liang (1987) "비표준 조건 하에서 최대 가능성 추정기 및 가능성 비율 테스트의 점근 적 특성"

Zeng Feng과 Charles E. McCulloch (1990) "진정한 모수가 매개 변수 공간의 경계에있을 때 최대 우도 추정 및 일반 우도 비율을 사용한 통계적 추론"

대한 비 동일하지만 독립적 인 RV의 :
브루스 Hoadley (1971) "독립하지 동일하게 분산 케이스의 최대 우도 추정량의 점근 속성"

의 경우 : 의존 RV의
마틴 J. 크라우 더 (1976) "종속 관찰 최대 가능성 추정"

또한

PJ Huber (1967). "비표준 조건에서 최대 우도 추정의 동작" . 에서는 수학적 통계 확률의 제 버클리 심포지엄 논문집 (용적. 1, 제 1, PP. 221-233).

17-03-2017 업데이트 : 의견에서 제안 된대로 다음 문서가 여기에 참조 될 수 있습니다.

앤드류, DW (1987). 비선형 계량 경제 모델의 일관성 : 많은 수의 일반적인 통일 법. 계량 경제학 : 계량 경제 학회지, 1465-1471.