다중 회귀 또는 부분 상관 계수? 그리고 둘 사이의 관계


35

이 질문이 의미가 있는지조차 모르겠지만 다중 회귀와 부분 상관의 차이점은 무엇입니까 (상관하지 않는 상관 관계와 회귀의 차이점은 제외)?

다음을 알아 내고 싶습니다
.2 개의 독립 변수 ( , x 2 )와 하나의 종속 변수 ( y )가 있습니다. 이제 개별 변수는 종속 변수와 상관 관계가 없습니다. 그러나 주어진 x 1에 대해 x 2가 감소 하면 y 는 감소합니다. 다중 회귀 또는 부분 상관 관계 분석을 통해이를 분석 합니까?x1x2yx1 yx2

내 질문을 희망적으로 개선하기 위해 편집하십시오 . 다중 회귀와 부분 상관의 차이점을 이해하려고합니다. 그래서 때 주어진 위해 감소 X 1 , X 2 개 , 감소하다의 조합 된 효과로 인해 , X 1X 2 (회귀) 또는 그것이 의한 효과 제거하는 X 1 (부분 상관)?yx1x2x1x2yx1


3
답변하려는 실질적인 질문은 무엇입니까?
gung-모니 티 복원

또한 매우 유사한 질문을 참조하십시오 stats.stackexchange.com/q/50156/3277을 .
ttnphns

답변:


32

다중 선형 회귀 계수와 부분 상관 관계는 직접 연결되어 있으며 동일한 의미 (p- 값)를 갖습니다. 부분 r베타 계수 (표준 회귀 계수) 1 와 함께 계수를 표준화하는 또 다른 방법입니다 . 따라서 종속 변수가 y 이고 독립 변수가 x 1x 2 이면1yx1x2

Beta:βx1=ryx1ryx2rx1x21rx1x22

Partial r:ryx1.x2=ryx1ryx2rx1x2(1ryx22)(1rx1x22)

분자가 같으므로 두 수식 모두 x 1 의 동일한 고유 효과측정합니다 . 두 공식이 구조적으로 어떻게 동일하고 어떻게 다른지 설명하려고 노력할 것입니다.x1

세 가지 변수 모두에 z 표준화 (평균 0, 분산 1) 가 있다고 가정 합니다. 분자는 두 종류의 공분산 같다 잔차 제 (a) 잔차 예측 남아 하여 X 2 [두 변수 표준] 및 예측에서 왼쪽 (b) 잔류 X (1) 에 의해 X (2) [모두 변수 표준] . 또한, 잔차 (a)의 분산은 1 - r 2 y x 2 이고; 잔차 (b)의 분산은 1 - r 2 x 1 x 2 입니다.yx2x1x21ryx221rx1x22

의 수식 부분 상관은 다음 명확 일반 피어슨의 식 표시 피어슨 : 잔차 (a) 및 잔차 (b) 사이에서이 경우에 계산 된 바와 같이, R , 우리가 아는 공분산의 기하 평균 인 분모로 나누어, 두 가지 다른 분산.rr

표준화 된 계수 베타 는 구조적으로 Pearson 과 유사 하지만 분모 만 자체 자기 분산의 기하 평균이라는 것입니다 . 잔차의 분산 (a)는 계산되지 않았다; 잔차 분산의 두 번째 카운팅으로 대체되었습니다 (b). 따라서 베타는 두 잔차의 공분산이 두 잔차 중 하나의 분산 (특히, 관심있는 예측 변수에 속하는 것 x 1 )에 대한 분산입니다 . 이미 알려진 바와 같이 부분 상관 관계 는 하이브리드 분산에 대한 동일한 공분산 입니다. 두 유형의 계수는 다른 예측 변수의 환경에서 x 1 의 효과를 표준화하는 방법 입니다.rx1x1

yx1x2ryx1.x2y <- x2x1 <- x2x2y x2x1yx1x2x2y1ryx22x11rx1x22ryx1.x2βx1yy


x1,x2,x3,...

ryx1.X=βx1var(ex1X)var(eyX),

Xx1eyXyXex1Xx1X

yx


1 βx1=bx1σx1σybβ


고맙습니다. 그러나 예를 들어 내 질문에 설명 된 목적으로 어떤 것을 갈 것인지 어떻게 결정합니까?
user34927

2
분명히, 당신은 자유롭게 선택할 수 있습니다 : 분자는 동일하므로 그들은 동일한 정보 를 전달 합니다 . 당신의 (완전히 명확하지 않은) 질문에 관해서는, " r 이 0이 아닐 때 reef. coef. be 0이 될 수 있습니다"라는 주제에 관한 것 같습니다 . " r 이 0 일 때 reef. coef. 는 0이 될 수 없습니다 ". 사이트에 대한 질문이 많이 있습니다. 예를 들어 stats.stackexchange.com/q/14234/3277 ; stats.stackexchange.com/q/44279/3277 .
ttnphns

내 질문을 명확히하려고했습니다 ..
user34927

X1 고정 ( "x1 given") = X1의 효과를 제거 (제어)합니다. 다중 회귀 분석에는 "결합 효과"와 같은 것은 없습니다 (상호 작용 X1 * X2를 추가하지 않는 한). 다중 회귀의 효과는 경쟁적입니다. 선형 회귀 효과는 실제로 부분 상관 관계입니다.
ttnphns

1
조금만 기다려주세요, @ user34927. 어디to prove that the DV (Y) is significantly correlated with one of two IVs (X1) if the effect of the other IV (X2) is removed 에서 효과가 제거 되었습니까? Y와 X1에서 X2를 "제거"하면 오류가 발생합니다. Y와 X1 사이의 부분 상관 관계입니다. X1에서 X2 만 "제거"하면 corr입니다. Y와 X1 사이의 부분을 ​​부분 (또는 반 부분) 상관이라고합니다. 당신은 정말 대해 물어 있었 그것 ?
ttnphns

0

βx1SSY/SSX1

βx1=ryx1ryx2 rx1x21rx1x22×SSYSSX1,
SSY=i(yiy¯)2SSX1=i(x1ix¯1)2

bβ
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.