혼합 효과 모델이 종속성을 해결하는 이유는 무엇입니까?

학생 시험 성적이 해당 학생이 공부하는 시간의 수에 어떻게 영향을 받는지 관심이 있다고 가정 해 봅시다. 이 관계를 탐색하기 위해 다음 선형 회귀 분석을 실행할 수 있습니다.

$$\text{exam.grades}_i = a + \beta_1 \times \text{hours.studied}_i + e_i$$

그러나 여러 학교에서 학생들을 채취하면 같은 학교의 학생들이 다른 학교의 학생들보다 서로 더 유사 할 것으로 예상 할 수 있습니다. 이 의존성 문제를 해결하기 위해 많은 교과서 / 웹에서 조언은 혼합 효과를 실행하고 무작위 효과로 학교에 들어가는 것입니다. 따라서 모델은 다음과 같습니다. 그러나 이것이 선형 회귀에 존재했던 의존성 문제를 해결하는 이유는 무엇입니까?

$$\text{exam.grades}_i = a + \beta_1 \times \text{hours.studied}_i + \text{school}_j + e_i$$

12 살짜리와 대화하는 것처럼 응답하십시오

모형에 임의의 항을 포함 시키면 성적간에 공분산 구조를 유도 할 수 있습니다. 학교의 무작위 요인은 같은 학교의 다른 학생들 사이에 0이 아닌 공분산을 유발하지만 학교가 다른 경우 입니다.$0$

하자는 모델 쓰기 의 인덱스 학교와 난 (각 학교에서) 학생들 인덱스를. 용어 학교 들 (A)에 그려진 독립적 랜덤 변수 N ( 0 , τ ) . 전자 들 , I는 (A)에 그려진 독립적 랜덤 변수 N ( 0 ,

$$Y_{s,i} = \alpha + \text{hours}_{s,i} \beta + \text{school}_s + e_{s, i}$$ $s$$i$$\text{school}_s$$\mathcal N(0, \tau)$$e_{s, i}$ .$\mathcal N(0, \sigma^2)$

이 벡터는 예상 값

$$\left[ \alpha + \text{hours}_{s,i} \beta \right]_{s,i}$$

$Y_{s,i}$$Y_{s',i'}$$0$$s \ne s'$

$Y_{s,i}$$Y_{s,i'}$$\tau$$i \ne i'$$Y_{s,i}$$\tau + \sigma^2$

예제 및 시뮬레이션 된 데이터

다음은 5 개 학교에서 온 50 명의 학생들을위한 짧은 R 시뮬레이션입니다 (여기서 나는 취합니다)$\sigma^2 = \tau = 1$

set.seed(1)
school        <- rep(1:5, each=10)
school_effect <- rnorm(5)

school_effect_by_ind <- rep(school_effect, each=10)
individual_effect    <- rnorm(50)

$\text{school}_s + e_{s, i}$

plot(individual_effect + school_effect_by_ind, col=school, pch=19, 
     xlab="student", ylab="grades departure from expected value")
segments(seq(1,length=5,by=10), school_effect, seq(10,length=5,by=10), col=1:5, lty=3)

$\text{school}_s$$\alpha + \text{hours} \beta$

이 예제의 분산 행렬

$\text{school}_s$$e_{s,i}$

$$\left[\begin{matrix} A & 0 & 0 & 0 & 0 \\ 0 & A & 0 & 0 & 0 \\ 0 & 0 & A & 0 & 0 \\ 0 & 0 & 0 & A & 0 \\ 0 & 0 & 0 & 0 & A \end{matrix}\right]$$ $10\times 10$$A$ $$A = \left[\begin{matrix} 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 & 1\\ 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 1 & 2 \end{matrix}\right].$$