샌드위치 추정기 직감

Wikipedia 및 R 샌드위치 패키지 비네팅 은 OLS 계수 표준 오류를 지원하는 가정 및 샌드위치 추정기의 수학적 배경에 대한 유용한 정보를 제공합니다. 그래도 잔류 이분산성 문제가 어떻게 해결되는지는 아직 확실하지 않습니다. 아마도 표준 OLS 계수 분산 추정을 완전히 이해하지 못했기 때문일 것입니다.

샌드위치 견적 기의 직관은 무엇입니까?

— 로버트 큐브릭
소스

추정 (또는 때때로 계량 경제학에서 호출되기 때문에 극한의 추정) 에 대해 더 많이 알아야합니다 . 회귀에 대한 샌드위치 추정기는 매우 일반적인 델타 방법 공식의 특별한 경우이며, 후자를 이해하면 전자와 관련하여 아무런 문제가 없습니다. 샌드위치 추정기가 이분산성을 모델링하거나 그것에 대해 특별한 것을 시도하지 않는다는 직관은 없습니다. 표준 OLS 추정 기와는 다른 일반적인 가정 하에서 작동하는 다른 분산 추정 기일뿐입니다.

M

$M$

— StasK

@StasK 감사합니다! M- 추정법과 델타 법 공식에 대한 좋은 자료를 알고 있습니까?

— Robert Kubrick

@Robert Huber의 논문 "Robust Statistics"는 살펴볼 가치가 있습니다.

— Momo

OLS의 경우, 의 조건부 분산에 대한 추정치로 추정치 잔차 분산 (독립성 및 동질성 가정)을 사용한다고 상상할 수 있습니다 . 샌드위치 기반 추정기에서는 관측 된 제곱 잔차를 관측치마다 다를 수있는 동일한 분산의 플러그인 추정치로 사용합니다. $Y_i$

var (\hat{β}) = {({엑스}^{티} 엑스)}^{- 1} ({엑스}^{티} 진단하다 (var (와이 | 엑스)) 엑스) {({엑스}^{티} 엑스)}^{- 1}

$\begin{equation} \mbox{var}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(\mbox{var}\left(Y|X\right)\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

회귀 계수 추정치에 대한 일반적인 최소 제곱 표준 오차 추정치에서 결과의 조건부 분산은 일정하고 독립적으로 처리되므로 일관성있게 추정 할 수 있습니다.

{\hat{var}}_{영형 엘 에스} (\hat{β}) = {({엑스}^{티} 엑스)}^{- 1} ({아르 자형}^{2} {엑스}^{티} 엑스) {({엑스}^{티} 엑스)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{OLS}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(r^2X^TX\right)\left(X^TX\right)^{-1} \end{equation}$

샌드위치의 경우 조건부 분산의 일관된 추정을 피하고 대신 제곱 잔차를 사용하여 각 성분의 분산에 대한 플러그인 추정을 사용하십시오.

{\hat{var}}_{아르 자형 에스 이자형} (\hat{β}) = {({엑스}^{티} 엑스)}^{- 1} ({엑스}^{티} 진단하다 ({아르 자형}_{나는}^{2}) 엑스) {({엑스}^{티} 엑스)}^{- 1}

$\begin{equation} \widehat{\mbox{var}}_{RSE}\left(\hat{\beta}\right) = \left(X^TX\right)^{-1}\left(X^T\mbox{diag}\left(r_i^2\right)X\right)\left(X^TX\right)^{-1} \end{equation}$

$\hat{\beta}$

직관적으로, 이러한 관측 된 제곱 잔차는 일정 분산의 가정 하에서 예상치 못한 이분산성으로 인해 설명 할 수없는 오류가 발생합니다.

— AdamO
소스

내가 이해하기 어려운 마지막 단락입니다. 설명 할 수 있습니까?

— Robert Kubrick 2013

그것은 공식에서 SE가 아닙니다. AdamO, 그것은 당신이 의미하는 매트릭스 방식으로 SE ^ 2입니다.

— StasK

@StasK 좋은 지적. 아마도 분산 모자가 더 낫습니다. 다변량 및 일 변량 용어를 혼동하고있었습니다.

— AdamO

var (Y | X)

$\mbox{var}(Y|X)$

i

$i$

편집 : 나는 "잔차 분산 의 일관된 추정"이라고 말할 때 OLS var 추정치에는 "일관된 잔차 추정치"가 포함된다고 말했다 .

— AdamO