t 테스트와 일원 분산 분석은 모두 Wald 테스트입니까?

11

정규 분포 된 표본의 평균이 상수와 같은지 여부를 검정하기위한 t- 검정은 표본 평균에서의 피셔의 정규 분포 정보에 의한 표본 평균의 표준 편차를 추정하여 Wald 검정이라고합니다. 그러나 t 검정의 검정 통계량에는 학생 t 분포가 있고, Wald 검정의 검정 통계량은 카이 제곱 분포입니다. 어떻게 설명해야합니까?

일원 분산 분석에서 검정 통계량은 클래스 간 분산과 클래스 내 분산 간의 비율로 정의됩니다. 그것이 또한 Wald 테스트인지 궁금합니다. 그러나 일원 분산 분석의 검정 통계량에는 F 분포가 있고 Wald 검정의 검정 통계량은 무조건 카이 제곱 분포입니다. 어떻게 설명해야합니까?

감사합니다.

hypothesis-testing anova

— 팀
소스

17

다음 설정을 고려하십시오. 모델을 완전하게 지정 하는 차원 매개 변수 벡터 와 최대 가능성 추정기 있습니다. 의 Fisher 정보는 로 표시 됩니다. 일반적으로 Wald 통계 라고하는 것은 $p$ $\theta$ $\hat{\theta}$ $\theta$ $I(\theta)$

(\hat{θ} - θ)^{T} I (\hat{θ}) (\hat{θ} - θ)

$(\hat{\theta} - \theta)^T I(\hat{\theta}) (\hat{\theta} - \theta)$

여기서 는 최대 가능성 추정기에서 평가 된 Fisher 정보입니다. 규칙적 조건에서 Wald 통계량 은 가 참 모수 일 때 무의식적 으로 자유도를 갖는 분포를 따릅니다 . Wald 통계량을 사용 하여 전체 모수 벡터 에서 간단한 가설 을 테스트 할 수 있습니다 . $I(\hat{\theta})$ $\chi^2$ $p$ $\theta$ $H_0 : \theta = \theta_0$

함께 (가) 피셔 정보 역 가설의 왈드 통계량 이다 점근 분포는 자유도가 1 인 분포입니다 . $\Sigma(\theta) = I(\theta)^{-1}$ $H_0 : \theta_1 = \theta_{0,1}$

\frac{({\hat{θ}}_{1} - θ_{0, 1})^{2}}{Σ (\hat{θ})_{i i}} .

$\frac{(\hat{\theta}_1 - \theta_{0,1})^2}{\Sigma(\hat{\theta})_{ii}}.$

χ^{2}

$\chi^2$

가 평균 및 분산 모수의 벡터 인 정규 모형 의 경우 이 경우 테스트의 Wald 검정 통계량 샘플 크기 가여기서 의 최대 우도 추정이다 (는 나누기 ). -test 통계 IS (는 분할기 분산의 비 편향 추정기 인 ) . Wald 검정 통계량은 의 제곱과 거의 같지만 정확히 같지는 않습니다. $\theta = (\mu, \sigma^2)$ $\mu = \mu_0$

\frac{n (\hat{μ} - μ_{0})^{2}}{{\hat{σ}}^{2}}

$\frac{n(\hat{\mu} - \mu_0)^2}{\hat{\sigma}^2}$

n

$n$

{\hat{σ}}^{2}

$\hat{\sigma}^2$

σ^{2}

$\sigma^2$

n

$n$

t

$t$

\frac{\sqrt{n} (\hat{μ} - μ_{0})}{s}

$\frac{\sqrt{n}(\hat{\mu} - \mu_0)}{s}$

s^{2}

$s^2$

n - 1

$n-1$

t

$t$ -test 통계량이지만 때 무조건적으로 같습니다 . 제곱 검정 통계량의 정확한 분포 는 대한 자유도 1 인 분포로 수렴합니다 .

n \to \infty

$n \to \infty$

t

$t$

F (1, n - 1)

$F(1, n-1)$

χ^{2}

$\chi^2$

n \to \infty

$n \to \infty$

일원 분산 분석 의 검정에 관한 동일한 이야기가 있습니다 . $F$

— NRH
소스

감사! 방금 t 검정 통계량은 Wald 검정 통계량이 아닌 우도 비 검정 통계량에 직접 구성되어 있음을 알았습니다. 일원 분산 분석은 우도 비율 검정에 직접 구축됩니까?

— Tim

3

@ 팀의 ANOVA에 사용 -tests 정상적인 에러 분포에 기초하여 우도 비 테스트와 동등하다.

F

$F$

— NRH

감사! 정상적인 통계 모델 하에서, 일부는 Wald 검정 통계량의 약간의 수정 분포가 널 미만의 F 분포를 가지고 있다고 말합니다. 그게 사실입니까? 여기

— Tim

13

@NRH는 좋은 이론적 대답을했으며, 여기 더 단순하고 직관적 인 답변이 있습니다.

공식적인 Wald 검정 (NRH의 답변에 설명되어 있음)이 있지만 추정 된 모수에서 Wald 스타일 검정으로 추정 된 변동에 대한 추정 된 모수와 해당 가설에서의 값의 차이를 확인하는 검정도 참조합니다. 그래서 우리가 일반적으로 사용하는 t-test는 정확한 Wald 테스트와 약간 다르더라도 Wald Style 테스트입니다 ( 과 의 차이). $n$ $n-1$ 제곱근 내부). 추정 된 중앙값에서 가정 된 중앙값을 IQR의 함수로 나눈 값을 기반으로 Wald 스타일 테스트를 설계 할 수도 있지만, 어떤 분포를 따라야할지 모르겠습니다. 부트 스트랩, 순열 또는 시뮬레이션을 사용하는 것이 좋습니다. 카이-제곱 무증상에 의존하기보다는이 테스트에 대한 분포. ANOVA에 대한 F- 검정은 일반적인 패턴에도 적합하며 분자는 전체 평균과 평균의 차이를 측정하는 것으로 생각할 수 있으며 분모는 변동의 척도입니다.

또한 분포에서 뒤 따르는 임의의 변수를 제곱하면 분자에 대해 1 df의 F 분포를 따르고 분모 df는 t 분포의 변수입니다. 또한 무한 분모가 df 인 F 분포는 카이 제곱 분포입니다. 따라서 t- 통계량 (제곱)과 F- 통계량은 모두 Wald 통계량과 마찬가지로 점진적으로 카이 제곱됩니다. 실제로 더 정확한 분포를 사용합니다.

— 그렉 스노우
소스