상관 계수는 회귀 기울기와 어떻게 다릅니 까?

상관 계수는 회귀 기울기 (베타)와 동일 할 것으로 예상했지만 두 개를 비교 한 것만 다릅니다. 그것들은 어떻게 다릅니 까? 다른 정보는 무엇입니까?

$$Y_i = \alpha + \beta X_i + \varepsilon_i$$ $$\hat {\beta} = {\rm cor}(Y_i, X_i) \cdot \frac{ {\rm SD}(Y_i) }{ {\rm SD}(X_i) }$$ ${\rm SD}(Y_i) = {\rm SD}(X_i)$

$X_i$$Y_i$

• $\pm 1$

• $Y_i$$X_i$$\hat \beta$$Y_i$$X_i$

$\beta_1$$r$

상관 계수는 조치 "기밀" 두 변수 사이의 선형 관계를 포함하고, -1과 1 사이의 경계이다. 0에 가까운 상관은 변수 간의 선형 연관을 나타내지 않지만, -1 또는 +1에 가까운 상관은 강한 선형 관계를 나타냅니다. 직관적으로 산점도를 통해 가장 적합한 선을 그리는 것이 더 쉬울수록 상관 관계가 더 커집니다.

$-\infty$$+\infty$

따라서 상관 계수와 회귀 기울기는 반드시 같은 부호 (+ 또는-)를 가져야하지만 거의 같은 값을 가지지 않습니다.

간단하게하기 위해이 답은 간단한 선형 회귀를 가정합니다.

Pearson의 상관 계수는 차원이 없으며 입력 변수의 차원과 스케일에 관계없이 -1과 1 사이에서 스케일됩니다.

예를 들어 질량을 그램 또는 킬로그램으로 입력하면 값과 아무런 차이가 없지만 그래디언트 / 기울기 (치수가 있고 그에 따라 크기가 조정 됨)와는 큰 차이가 있습니다. 대신 파운드 또는 톤 사용을 포함하여 스케일을 조정하면 아무런 차이가 없습니다 .$r$$r$

간단한 데모 (Python 사용에 대한 사과) :

import numpy as np
x = [10, 20, 30, 40]
y = [3, 5, 10, 11]
np.corrcoef(x,y)[0][1]
x = [1, 2, 3, 4]
np.corrcoef(x,y)[0][1]

기울기가 10 배 증가한 경우에도 임을 나타냅니다 .$r = 0.969363$

이 -1과 1 사이에서 스케일링 되는 깔끔한 트릭이라고 고백해야합니다 (분자가 절대 값보다 절대 값을 절대로 가질 수없는 경우 중 하나입니다).$r$

@Macro는 위에서 자세히 설명했듯이 기울기 이므로 Pearson의 이 기울기와 관련되어 있지만 올바르게 조정할 때만 올바른지 알 수 있습니다 표준 편차 (치수와 스케일을 효과적으로 복원합니다!)$b = r(\frac{\sigma_{y}}{\sigma_{x}})$$r$

처음에는 공식이 느슨하게 맞춰진 선 (낮은 )이 더 낮은 기울기를 초래 한다고 생각하는 것이 이상하다고 생각했습니다 . 그런 다음 예제를 작성하고 그라디언트를 지정하면 "느슨 함"을 변경하면 감소하지만 의 비례 증가로 상쇄됩니다 .$r$$r$$\sigma_{y}$

아래 차트에는 4 개의 데이터 세트가 표시되어 있습니다.$x,y$

1. 의 결과 (그래디언트 , , , ) ...$y=3x$$b=3$$r=1$$\sigma_{x}=2.89$$\sigma_{y}=8.66$$\frac{\sigma_{y}}{\sigma_{x}}=3$
2. , , 인 난수로 동일하지만 계산할 수 있습니다.$r = 0.2447$$\sigma_{x}=2.89$$\sigma_{y}=34.69$$b= 2.94$
3. $y=15x$ (따라서 및 , , )$b=15$$r=1$$\sigma_{x}=0.58$$\sigma_{y}=8.66$
4. (2)와 동일하지만 범위 가 감소 하므로 (및 , , ) $x$$b= 14.70$$r = 0.2447$$\sigma_{x}=0.58$$\sigma_{y}=34.69$

그 차이가 영향을 볼 수있는 반드시 영향을주지 않고 하고, 측정 단위, 따라서 규모에 영향을 미칠 수 영향을주지 않고$r$$b$$b$$r$