실제로 혼합 효과 모델에서 랜덤 효과 공분산 행렬은 어떻게 계산됩니까?

기본적으로 궁금한 점은 서로 다른 공분산 구조가 적용되는 방식과 이러한 행렬 내부의 값이 계산되는 방식입니다. lme ()과 같은 함수를 사용하면 원하는 구조를 선택할 수 있지만 어떻게 계산되는지 알고 싶습니다.

선형 혼합 효과 모델 .$Y=X\beta+Zu+\epsilon$

여기서 및 입니다. 더욱이:$u \stackrel{d}{\sim} N(0,D)$$\epsilon \stackrel{d}{\sim} N(0,R)$

$Var(Y|X,Z,\beta,u)=R$

$Var(Y|X,\beta)=Z'DZ+R=V$

간단히하기 위해 R = \ sigma ^ 2I_n 이라고 가정 $R=\sigma^2I_n$합니다.

기본적으로 내 질문은 다양합니다. 다양한 매개 변수에 대한 데이터에서 D 는 정확히 어떻게 $D$추정됩니까? 우리가 가정하면 말 $D$ (임의 효과와 무관) 또는 대각선 $D$ 완전히 또는 여러 다른 매개 변수화의 (좀 더 순간에 관심이있어 사건을) 파라미터? 이것들에 대한 간단한 추정 / 방정식이 있습니까? (반복적으로 추정 될 것입니다.)

편집 : 책 Variance Components (Searle, Casella, McCulloch 2006)에서 나는 다음을 빛나게했습니다.

만약 $D=\sigma^2_uI_q$ 다음과 같이 후 분산 컴포넌트 업데이트 계산된다 :

$\sigma_u^{2(k+1)} = \frac{\hat{\textbf{u}}^T\hat{\textbf{u}}} {\sigma_u^{2(k)}\text{trace}(\textbf{V}^{-1}\textbf{Z}^T\textbf{Z})}$

$\sigma_e^{2(k+1)} = Y'(Y-X{\hat{\beta}}^{(k)}-{Z}\hat{{u}}^{(k)})/n$

여기서 $\hat{\beta}^{(k)}$ 및 $\hat{{u}}^{(k)}$ 은 각각 $k$ 번째 업데이트입니다.

$D$ 가 블록 대각선이거나 완전히 매개 변수화 될 때 일반 공식 이 있습니까? 완전히 매개 변수가 지정된 경우 Cholesky 분해가 긍정적 인 명확성과 대칭성을 보장하는 데 사용됩니다.

Goldstein .pdf @probabilityislogic 링크는 훌륭한 문서입니다. 다음은 특정 질문에 대해 언급 한 참고 문헌 목록입니다.

Harville, 1976 : 가우스 마르코프 정리의 확장으로 랜덤 효과의 추정 포함 .

Harville, 1977 : 분산 성분 추정 및 관련 문제에 대한 최대 가능성 접근법 .

Laird and Ware, 1982 : 종단 데이터에 대한 랜덤 효과 모델 .

McCulloch, 1997 : 일반화 선형 혼합 모형에 대한 최대 우도 알고리즘 .

혼합 절차 SAS 사용자 안내서 발췌 공분산 추정 및 (페이지 3968부터) 더 많은 소스에 대한 몇 가지 좋은 정보가 있습니다.

이 종 / 반복 측정 데이터 분석에 다양한 품질의 교과서가 있지만, 여기에 (의 저자에서 R의 구현에 대한 몇 가지 내용이수록되어 하나 lme4와 nlme)

Pinheiro and Bates, 2000 : S와 S-PLUS의 혼합 효과 모델 .

편집 : 또 다른 관련 논문 : Lindstrom and Bates, 1988 : 반복 측정 데이터에 대한 선형 혼합 효과 모델에 대한 Newton-Raphson 및 EM 알고리즘 .

편집 2 : 그리고 다른 하나 : Jennrich and Schluchter, 1986 : 구조적 공분산 행렬을 사용한 불균형 반복 측정 모델 .

하비 골드 스타 인 은 시작하기에 나쁜 곳이 아닙니다.

대부분의 복잡한 추정 방법과 마찬가지로 소프트웨어 패키지에 따라 다릅니다. 그러나 종종 다음 단계가 수행됩니다.

1. (예 : ) 및 (예 : ) 의 초기 값을 하십시오. 설정D 0 R R $D$$D_0$$R$$R_0$$i=1$
2. 및 조건부에서 및 및 추정하십시오 . 추정치 및 및 호출하십시오 . R = R i - 1 β u ϵ β i u i ϵ $D=D_{i-1}$$R=R_{i-1}$$\beta$$u$$\epsilon$$\beta_i$$u_i$$\epsilon_i$
3. 및 및 에 조건부로 와 추정하십시오 . 추정치 및 호출하십시오. u = u i ϵ = ϵ i D R D i R $\beta=\beta_i$$u=u_i$$\epsilon=\epsilon_i$$D$$R$$D_i$$R_i$
4. 수렴을 확인하십시오. 수렴되지 않은 경우 하고 2 단계로 돌아갑니다.$i=i+1$

간단하고 빠른 방법 중 하나는 IGLS입니다.이 방법은 두 개의 최소 제곱 절차 사이의 반복을 기반으로하며 2 장에서 자세히 설명합니다. 단점은 0에 가까운 분산 성분에 대해서는 잘 작동하지 않는다는 것입니다.

다음 기사는 D에 대한 닫힌 양식 솔루션을 제공합니다.

• J. Shao, Mari Palta & Roger Qu, (1998), " 측정되지 않은 공변량을 가진 혼합 효과 모델에서 회귀 모수의 최소 제곱 추정 ", 통계 통신-이론 및 방법 , 27 : 6, 1487-1501, DOI : 10.1080 / 03610929808832172

Sear Et al과 Lynch와 Walsh Genetics와 Quantitative Traits의 분석에 의해 유용한 Variance Components 가 될 수있는 두 가지 참고 문헌 . Lynch and Walsh 책은 내가 올바르게 기억한다면 단계별 알고리즘을 제공합니다.