조정 된 회귀 : 예측 변수 간의 * 제품 * 항을 계산하는 이유는 무엇입니까?

중재 된 회귀 분석은 종종 사회 과학에서 두 개 이상의 예측 변수 / 공변량 간의 상호 작용을 평가하는 데 사용됩니다.

일반적으로 예측 변수가 두 개인 경우 다음 모델이 적용됩니다.

$Y = β_0 + β_1*X + β_2*M + β_3*XM + e$

중재 테스트는 (독립 변수 와 중재자 변수 의 곱) 이라는 용어에 의해 운영됩니다 . 나의 가장 근본적인 질문은 : 왜 우리는 실제로 와 사이의 제품 항을 계산 합니까? 예를 들어 절대 차이아니면 그냥 합 ?$XM$$X$$M$$X$$M$$|M-X|$$X + M$

흥미롭게도, Kenny는 " http://davidakenny.net/cm/moderation.htm "에서 다음과 같이 말 함으로써이 문제 에 대해 언급합니다. . 공식적인 예증이나 증거가 밝아 질 것입니다.

"변조기"는 에 대한 의 회귀 계수에 영향을 미칩니다 . 중재자의 값이 변경되면 변경 될 수 있습니다. 따라서 전체 일반성에서 간단한 회귀 모형은 다음과 같습니다.$Y$$X$

$$\mathbb{E}(Y) = \alpha(M) + \beta(M)X$$

여기서 및 있는 기능 중재자의 의 값에 의해 영향을받지보다는 상수 .$\alpha$$\beta$$M$$M$

회귀는 설립 된 동일한 정신 직선 근사 관계의 및 , 우리는 모두 기대 수 및 이다 - 약 적어도 - 선형 함수 의 값의 범위에 걸쳐 데이터에서 :$X$$Y$$\alpha$$\beta$$M$$M$

$$\eqalign{ \mathbb{E}(Y) &= \alpha_0 + \alpha_1 M + O(M^2) + (\beta_0 + \beta_1 M + O(M^2))X \\ &= \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + O(M^2) + O(M^2)X. }$$

비선형 ( "big-O") 용어를 삭제하면 문제가 너무 작기 때문에 곱하기 (양 선형) 상호 작용 모델이 제공됩니다.

$$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX.\tag{1}$$

이 유도는 계수에 대한 흥미로운 해석을 제안합니다. 은 이 절편 을 변경 하는 비율 이고 은 이 기울기를 변경하는 비율 입니다. ( 및 은 이 (공식적으로) 0으로 설정된 경우의 기울기와 절편 입니다.) 은 "제품 항" 의 계수입니다 . 다음과 같은 방법으로 질문에 대답합니다.$\alpha_1$$M$$\beta_1$$M$$\alpha_0$$\beta_0$$M$$\beta_1$$MX$

중재자 이 (대략 평균적으로) 대 의 기울기와 선형 관계를 가질 것으로 예상 할 때 제품 용어 중재를 모델링합니다 .$MX$$M$$Y$ $X$

---

흥미로운 점은이 파생이 모델의 자연스러운 확장을 향한 길을 가리키고 있다는 점입니다. 이는 적합도를 확인하는 방법을 제안 할 수 있습니다. 비선형성에 관심이 없다면 모형 이 정확 하다는 것을 알고 있거나 가정 한 다음, 삭제 된 항을 수용하도록 모형을 확장하려고합니다.$X$$(1)$

$$\mathbb{E}(Y) = \alpha_0 + \beta_0 X + \alpha_1 M + \beta_1 MX + \alpha_2M^2 + \beta_2 M^2X.$$

가설을 테스트하면 이 적합도를 평가합니다. 및 추정 하면 모델 을 확장해야 할 방법을 나타낼 수 있습니다 비선형 성을 통합 하거나 ( )보다 복잡한 조정 관계 ( ) 또는 가능 양자 모두. (이 테스트는 일반 함수 의 전력 계열 확장에서는 제안 되지 않습니다 .)$\alpha_2=\beta_2=0$$\alpha_2$$\beta_2$$(1)$$M$$\alpha_2 \ne 0$$\beta_2 \ne 0$$f(X,M)$

---

마지막으로, 상호 작용 계수 이 0과 크게 다르지 가 비선형 이라는 사실을 발견 의 유의 한 값에 의해 입증 ), (a) 중재는 있지만 ( b) 용어 로 모델링되지 않고 시작하는 일부 고차 용어 로 모델링됩니다 . 이것은 케니가 언급 한 일종의 현상 일 수 있습니다.$\beta_1$$\beta_2$$MX$$M^2X$

예측 변수의 합을 사용하여 상호 작용을 모델링하면 방정식은 다음과 같습니다.

$$\begin{eqnarray} Y &=& \beta_0 + \beta_1X + \beta_2M + \beta_3(X + M) + e\\ &=& \beta_0 + \beta_1X + \beta_2M + \beta_3X + \beta_3M + e\\ &=& \beta_0 + (\beta_1 + \beta_3)X + (\beta_2 + \beta_3)M + e \\ &=& \beta_0 + \beta_1'X + \beta_2'M + e \end{eqnarray}$$

여기서 및 입니다. 따라서 모델에는 전혀 상호 작용이 없습니다. 분명히 이것은 제품의 경우가 아닙니다.$\beta_1'=\beta_1+\beta_3$$\beta_2'=\beta_2+\beta_3$

절대 값의 정의를 상기하십시오.

$$|X-M| = \begin{cases} X-M, & X \geq M\\ M-X, & X < M \end{cases}$$

모델을 줄일 수 있지만 def를 사용하여 및 항만 있는의, 절대 값은 아래 주석에서 지적 된 바와 같이 "많은 상황에서 현실화 될 수없는 전문화 된 형태의 중재"입니다.$\beta_0 + \beta_1X + \beta_2M + \beta_3|X-M| + e$$X$$M$$|X-M|$

곱하기 중재자 사용에 대한 공식적인 증거는 없습니다. 다른 방법으로이 방법을 지원할 수 있습니다. 예를 들어, 함수 의 Taylor-MacLaurin 확장을 살펴보십시오 .$f(X,M)$

$$f(X,M)=f(0,0)+\frac{\partial f(0,0)}{\partial T} T+\frac{\partial f(0,0)}{\partial M} M+\frac{\partial^2 f(0,0)}{\partial T\partial M} TM +\frac{\partial^2 f(0,0)}{2\partial T^2} T^2 +\frac{\partial^2 f(0,0)}{2\partial M^2} M^2\dots$$

형식의 함수를 Taylor 방정식에 연결하면 다음과 같은 결과를 얻을 수 있습니다.$f(X,M)=\beta_0+\beta_XX+\beta_MM+\beta_{XM}XM$

$$f(X,M)=\beta_0+\beta_XX +\beta_MM +\beta_{XM}XM$$

따라서 여기에서의 이론적 근거는이 특정한 곱셈 형태의 조정이 기본적으로 일반적인 조정 관계 의 2 차 테일러 근사치라는 것입니다.$f(X,M)$

업데이트 : @ whuber가 제안한 것처럼 이차 용어를 포함하면 이것을 Taylor에 연결하십시오 :

$$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM+b_{X2}X^2 +b_{M2}M^2$$ $$g(X,M)=b_0+b_XX +b_MM +b_{XM}XM +b_{X2}X^2 +b_{M2}M^2$$

이것은 2 차 항을 가진 우리의 새로운 모델 이 원래의 중재 모델 과는 달리 전체 2 차 Taylor 근사치에 해당함을 보여줍니다 .$g(X,M)$$f(X,M)$