선형 회귀 계수의 표준 오차를 도출하는 방법

20

이 일 변량 선형 회귀 모형 에 데이터 세트 지면 계수 추정치는 여기에 따르면 제 질문은 서적과 위키 백과 에서 의 표준 오류 는 어떻게 그리고 왜?

{와이}_{나는} = β_{0} + β_{1} {엑스}_{나는} + ϵ_{나는}

$y_i = \beta_0 + \beta_1x_i+\epsilon_i$

D = {(x_{1}, y_{1}), . . ., (x_{n}, y_{n})}

$D=\{(x_1,y_1),...,(x_n,y_n)\}$

{\hat{β}}_{1} = \frac{\sum_{나는} {엑스}_{나는} {와이}_{나는} - 엔 \bar{엑스} \bar{와이}}{엔 {\bar{엑스}}^{2} - \sum_{나는} {엑스}_{나는}^{2}}

$\hat\beta_1=\frac{\sum_ix_iy_i-n\bar x\bar y}{n\bar x^2-\sum_ix_i^2}$

{\hat{β}}_{0} = \bar{와이} - {\hat{β}}_{1} \bar{엑스}

$\hat\beta_0=\bar y - \hat\beta_1\bar x$

{\hat{β}}_{1}

$\hat\beta_1$

{에스}_{{\hat{β}}_{1}} = \sqrt{\frac{\sum_{나는} {\hat{ϵ}}_{나는}^{2}}{(엔 - 2) \sum_{나는} ({엑스}_{나는} - \bar{엑스})^{2}}}

$s_{\hat\beta_1}=\sqrt{\frac{\sum_i\hat\epsilon_i^2}{(n-2)\sum_i(x_i-\bar x)^2}}$

standard-error inference

— 아보카도
소스

1

— ocram

@ocram, 감사합니다.하지만 매트릭스를 처리 할 수는 없습니다.

— 아보카도

1

@ocram, 나는 그것이 어떻게 오는지 이미 이해했습니다. 그러나 여전히 질문 : 내 게시물에서 표준 오류는

(n - 2)

$(n-2)$ 이며, 귀하의 답변에 따르면, 왜 그렇지 않습니까?

— 아보카도

15

위의 세 번째 의견 : 나는 그것이 오는 방법을 이미 이해했습니다. 그러나 여전히 질문 : 내 게시물에서 표준 오류는 (n-2)이며, 귀하의 답변에 따르면, 왜 그렇지 않습니까?

\hat{se} (\hat{비}) = \sqrt{\frac{엔 {\hat{σ}}^{2}}{엔 \sum {엑스}_{나는}^{2} - (\sum {엑스}_{나는})^{2}}} .

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{n \hat{\sigma}^2}{n\sum x_i^2 - (\sum x_i)^2}}.$

엔 \sum_{나는} ({엑스}_{나는} - \bar{엑스})^{2}

$n \sum_i (x_i - \bar{x})^2$

\hat{se} (\hat{비}) = \sqrt{\frac{{\hat{σ}}^{2}}{\sum_{나는} ({엑스}_{나는} - \bar{엑스})^{2}}}

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{\hat{\sigma}^2}{\sum_i (x_i - \bar{x})^2}}$

{\hat{σ}}^{2} = \frac{1}{엔 - 2} \sum_{나는} {\hat{ϵ}}_{나는}^{2}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

\hat{se} (\hat{b})

$\widehat{\text{se}}(\hat{b})$

n - 2

$n-2$

— 옥람
소스

1

나는 다른 모든 것이 마지막 부분을 기대한다고 생각합니다. 왜 이유를 단계별로 보여줄 수 있습니까 ? 나도 그것이 자유 도와 관련이 있다는 것을 알고 있지만 수학을 얻지는 못합니다.

{\hat{σ}}^{2} = \frac{1}{n - 2} \sum_{i} {\hat{ϵ}}_{i}^{2}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

— Mappi

2

n-2 df를 생각하는 또 다른 방법은 기울기 계수 (Y와 X의 평균)를 추정하기 위해 2 가지 방법을 사용하기 때문입니다.

위키피디아의 df : "... 일반적으로 모수 추정의 자유도 는 모수 자체 추정에서 중간 단계로 사용되는 모수의 수를 뺀 추정치의 독립 점수 수와 같습니다. "

— 아이 빈드
소스

2

이것은 직관이기는하지만 실제로 그렇게 파생 된 것은 아닙니다. 그러나 이와 관련된 미묘한 점 은 자유도를 이해하는 방법을

— Silverfish