간단한 선형 회귀 출력 해석

두 변수의 자연 로그에 대한 간단한 선형 회귀 분석을 수행하여 변수의 상관 관계를 확인했습니다. 내 결과는 다음과 같습니다.

R^2 = 0.0893

slope = 0.851

p < 0.001

혼란 스러워요. 상기 찾고 값, 나는 두 변수가되는 말을 하지 너무 가까이 있기 때문에, 상관 관계가 . 그러나 회귀선의 기울기는 거의 (플롯에서 거의 수평 인 것처럼 보이지만)이며 p- 값은 회귀가 매우 중요 함을 나타냅니다. 0 $R^2$$0$$1$

이것은 두 변수 가 서로 밀접하게 관련 되어 있음을 의미합니까 ? 그렇다면 값은 무엇을 나타 냅니까?$R^2$

Durbin-Watson 통계는 내 소프트웨어에서 테스트되었으며 귀무 가설 ( )을 기각하지 않았다고 합니다. 나는 이것이 변수 사이의 독립성을 테스트했다고 생각했다 . 이 경우 변수 는 개별 조류의 측정치 이므로 변수가 종속적이라고 기대합니다 . 개인의 신체 상태를 결정하기 위해 게시 된 방법의 일부로이 회귀를 수행하고 있으므로이 방법으로 회귀를 사용하는 것이 합리적이라고 가정했습니다. 그러나 이러한 결과를 감안할 때이 조류에 대해서는이 방법이 적합하지 않다고 생각합니다. 이것이 합리적인 결론처럼 보입니까?2 $1.357$$2$$2$

기울기의 추정 값 자체가 관계의 강도를 나타내지는 않습니다. 관계의 강도는 오차 분산의 크기와 예측 변수의 범위에 따라 다릅니다. 또한 중요한 값이 반드시 강력한 관계가 있음을 나타내지는 않습니다. P는 - 값은 단순히 기울기가 크게 얻을 것이다 가정에서 아주 작은 출발 (안 실질적인 중요성을 예를 들어 사람), 정확히 0이 충분히 큰 표본 크기에 대한 여부를 테스트하고 P는 - 값을.$p$$p$$p$

사용자가 제시 한 세 량 중, 상기 결정 계수 의 관계의 강도의 최대 표시를 제공한다. 귀하의 경우, R 2 = .089 는 반응 변수의 변동의 8.9 % 가 예측 변수와의 선형 관계로 설명 될 수 있음을 의미합니다. "큰" R 2를 구성하는 것은 분야에 따라 다르다. 예를 들어, 사회 과학에서 R 2 = .2 는 "대형"이지만 공장 설정과 같은 통제 된 환경에서는 R 2 > $R^2$$R^{2} = .089$$8.9\%$$R^2$$R^2 = .2$$R^2 > .9$"강한"관계가 있다고 말할 수도 있습니다. 대부분의 상황에서 는 매우 작은 R 2 이므로 약한 선형 관계가 있다는 결론은 합리적입니다.$.089$$R^2$

종속 변수의 많은 변화가 모델로 설명하면 방법에 대해 설명합니다. 그러나 R 2 와 종속 변수의 원래 값과 적합치 간의 상관 관계를 해석 할 수 있습니다 . 결정 계수 R 2 의 정확한 해석 및 도출은 여기 에서 찾을 수 있습니다 .$R^{2}$$R^{2}$$R^{2}$

결정 계수는 관측 값의 제곱 피어슨 상관 계수의 등가임을 증명 및 피팅 값 (Y) 나 볼 수 여기 .$y_{i}$$\hat{y}_{i}$

판정 또는 계수는 종속 변수를 설명하는 모델의 강도를 나타낸다. 귀하의 경우, R 2 = 0.089 입니다. 이것은 모델이 종속 변수의 8.9 % 변동을 설명 할 수 있다는 것입니다. 또는, 사용자의 사이의 상관 계수 Y I 및 장착 값 Y 난 0.089이다. 좋은 R 2를 구성하는 것은 규율에 따라 다릅니다.$R^{2}$$R^{2}=0.089$$y_{i}$$\hat{y}_{i}$$R^{2}$

마지막으로, 질문의 마지막 부분으로. Durbin-Watson 검정을 통해 종속 변수와 독립 변수 사이의 상관 관계에 대해 말할 수는 없습니다. Durbin-Watson 테스트는 직렬 상관 관계를 테스트합니다. 오류 용어가 서로 상관되어 있는지 검사하기 위해 수행됩니다.

값은 데이터에 많은 변화가 장착 된 모델에 의해 설명하는 방법을 알려줍니다.$R^2$

연구에서 낮은 값은 데이터가 아마도 회귀선 주위에 널리 퍼져 있음을 시사합니다. 이는 회귀 모델이 데이터 변동의 8.9 % 만 설명 할 수 있음을 의미합니다.$R^2$

선형 모델이 적절한 지 확인 했습니까? 이를 사용하여 모형에 대한 데이터의 적합도를 평가할 수 있으므로 잔차 분포를 살펴보십시오. 이상적으로 잔차는 값 과의 관계를 나타내지 않아야 하며, 그렇다면 x 값 과의 관계를 적절히 조정하거나보다 적합한 모형을 적합하게 생각할 수 있습니다.$x$

선형 회귀의 경우 적합 기울기는 상관 관계가됩니다 (제곱하면 결정 계수를 제공합니다. $R^2$) 곱하기 회귀의 경험적 표준 편차 ( $y$)를 회귀 변수의 경험적 표준 편차로 나눈 값 $x$). 의 스케일링에 따라$x$ 과 $y$, 1과 같지만 임의로 작은 적합 기울기를 가질 수 있습니다. $R^2$ 값.

요컨대, 종속 변수와 독립 변수의 척도가 서로 같아야하는 경우를 제외하고 기울기는 모형 '적합'의 좋은 지표가 아닙니다.

나는 이미 주어진 대답을 좋아하지만 다른 (그리고 더 혀인) 접근법으로 보완 해 드리겠습니다.

얼굴의 펀치가 두통과 관련이 있는지 알아 내려고하는 1000 명의 무작위 사람들로부터 많은 관찰을 수집한다고 가정하십시오.

$\varepsilon$ contains all the omitted variables that produce headaches in the general population: stress, how contaminated your city is, lack of sleep, coffee consumption, etc.

For this regression, the $\beta_1$ might be very significant and very big, but the $R^2$ will be low. Why? For the vast majority of the population, headaches won't be explained much by punches in the face. In other words, most of the variation in the data (i.e. whether people have few or a lot of headaches) will be left unexplained if you only include punches in the face, but punches in the face are VERY important for headaches.

Graphically, this probably looks like a steep slope but with a very big variation around this slope.

@Macro had a great answer.

기울기의 추정 값 자체가 관계의 강도를 나타내지는 않습니다. 관계의 강도는 오차 분산의 크기와 예측 변수의 범위에 따라 다릅니다. 또한 중요한 pp-value가 반드시 강력한 관계가 있음을 나타내지는 않습니다. pp-value는 단순히 기울기가 0인지 테스트합니다.

OP를 설명하는 사례를 보여주는 숫자 예제를 추가하고 싶습니다.

• 낮은 $R^2$
• p- 값에 유의미한

• 가까운 경사 $1.0$

  set.seed(6)
  y=c(runif(100)*50,runif(100)*50+10)
  x=c(rep(1,100),rep(10,100))
  plot(x,y)
  
  fit=lm(y~x)
  summary(fit)
  abline(fit)
  
  
  > summary(lm(y~x))
  
  Call:
  lm(formula = y ~ x)
  
  Residuals:
     Min     1Q Median     3Q    Max 
  -24.68 -13.46  -0.87  14.21  25.14 
  
  Coefficients:
              Estimate Std. Error t value Pr(>|t|)    
  (Intercept)  25.6575     1.7107  14.998  < 2e-16 ***
  x             0.9164     0.2407   3.807 0.000188 ***
  ---
  Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
  
  Residual standard error: 15.32 on 198 degrees of freedom
  Multiple R-squared:  0.0682,    Adjusted R-squared:  0.06349 
  F-statistic: 14.49 on 1 and 198 DF,  p-value: 0.0001877