R의 공식 y ~ x + 0은 실제로 무엇을 계산합니까?

대신로 formula설정하여 R에서 선형 회귀를 수행하는 것의 통계적 차이점은 무엇입니까 ? 이 두 가지 결과를 어떻게 해석합니까?y ~ x + 0y ~ x

multiple-regression generalized-linear-model intercept

— 짐 보이
소스

답변:

R 에서 모형 공식 (예 :에서 )에 +0(또는 -1)을 추가 lm()하면 절편이 억제됩니다. 이것은 일반적으로 나쁜 일로 간주됩니다. 보다:

추정 기울기는 절편의 추정 여부에 따라 다르게 계산됩니다.

\begin{aligned} (with intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i} - \frac{(\sum x_{i}) (\sum y_{i})}{N}}{\sum x_{i}^{2} - \frac{(\sum x_{i})^{2}}{N}} \\ (without intercept) & {\hat{β}}_{1} & = \frac{\sum x_{i} y_{i}}{\sum x_{i}^{2}} \end{aligned}

$\begin{align} \hat\beta_1 &= \frac{\sum x_iy_i - \frac{\big(\sum x_i\big)\big(\sum y_i\big)}{N}}{\sum x_i^2 - \frac{\big(\sum x_i\big)^2}{N}} \tag{with intercept} \\[15pt] \hat\beta_1 &= \frac{\sum x_iy_i}{\sum x_i^2} \tag{without intercept} \end{align}$

분자와 분모 모두에서 빼야 할 양 ( "하위 피소 수")이 반드시 일 필요는 없으므로 , 절편이 억제 될 때 기울기의 추정값이 바이어스됩니다. $0$

의 값 도 다르게 계산됩니다. 보다: $R^2$

기본 공식은 다음과 같습니다.

\begin{aligned} (with intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum (y_{i} - \bar{y})^{2}} \\ (without intercept) & R^{2} & = 1 - \frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{\sum y_{i}^{2}} \end{aligned}

$\begin{align} R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum (y_i - \bar y)^2} \tag{with intercept} \\[15pt] R^2 &= 1 - \frac{\sum (y_i - \hat y_i)^2}{\sum y_i^2} \tag{without intercept} \end{align}$

— gung-복직 모니카
소스

감사합니다, 쿵! 절편을 억제하면 여러 개의 R 제곱이 갑자기 향상됩니다. 여기서 좀 도와 줄래?

— JimBoy

절편없이 r 제곱을 계산하는 데 합의 된 방법은 없습니다. r 제곱은 일반적인 해석이 없습니다. 가로 채기없이 회귀를하는 것은 거의 항상 나쁜 생각입니다.

— Repmat

@Repmat은 참조 : stats.stackexchange.com/questions/171240/...

@JimBoy : 참조 stats.stackexchange.com/questions/171240/...

컨텍스트에 따라 다르지만 (물론) lm(...)R 의 명령에서는 인터셉트를 억제합니다. 즉, 원점을 통해 회귀를 수행합니다.

회귀의 주제에 관한 대부분의 교과서는 대부분의 값으로 차단을 강제하는 것이 좋지 않다는 것을 알려줍니다.

x의 해석은 변경되지 않지만 값 (절편과 비교하거나 비교하지 않음)은 때때로 매우 크게 변경됩니다.

— 담당자
소스

감사합니다, Repmat! 내가하지 않을 때와 비교하여 절편을 억제하면 매우 다른 추정치를 얻습니다. 또한 모든 t- 검정은 매우 중요합니다. 이것이 왜 그런지 아십니까?

— JimBoy

절편은 모형에 포함되지 않은 0이 아닌 모든 변수를 흡수합니다. 절편이 사라지면 분산은 어딘가로 가야합니다. 이것이 대부분의 책이 일반적으로 절편없이 회귀가 항상 잘못되었다고 말하는 이유입니다. 즉,이 경우 OLS는 항상 바이어스되고 일관됩니다 (몇 가지 예외가 있음).

— Repmat