다중 선형 회귀 분석에서 예측 된 점의 플롯이 직선에 있지 않은 이유는 무엇입니까?

Y와 X1, X2 사이의 관계를 설명하기 위해 다중 선형 회귀를 사용하고 있습니다.

이론으로부터 나는 다중 회귀가 Y와 X 각각 (Y와 X1, Y와 X2) 사이의 선형 관계를 가정한다는 것을 이해했습니다. X 변환을 사용하지 않습니다.

따라서 R = 0.45 및 모든 중요 X (P <0.05)의 모델을 얻었습니다. 그런 다음 X1에 대해 Y를 플로팅했습니다. 모델을 예측하는 빨간색 원이 선을 형성하지 않는 이유를 이해할 수 없습니다. 앞에서 말했듯이, Y와 X의 각 쌍은 한 줄로 맞춰질 것으로 예상했습니다.

플롯은 파이썬에서 다음과 같이 생성됩니다.

fig, ax = plt.subplots()
plt.plot(x['var1'], ypred, 'o', validation['var1'], validation['y'], 'ro');
ax.set_title('blue: true,   red: OLS')
ax.set_xlabel('X')
ax.set_ylabel('Y')
plt.show()

다중 회귀 방정식이

여기서, Y는 수단 "예측 Y를 ".$\hat y$$y$

이제 점만 취하십시오 . 당신이 플롯 경우 Y를 상대로 X 1 , 이러한 점은 방정식을 만족 :$x_2 = 1$$\hat y$$x_1$

따라서 경사 2의 선과 절편 8이 있어야합니다 .$y$

이제 점을 취하십시오 . 당신이 플롯하면 Y를 상대로 X 1 , 다음, 이러한 점은 만족 :$x_2 = 2$$\hat y$$x_1$

이것은 2 번 경사면과 절편 13입니다. x 2 = 3 이면 또 다른 2 번 경사면과 y 절편이 18 인지 스스로 확인할 수 있습니다 .$y$$x_2=3$$y$

우리는 의 다른 값을 가진 점 들이 다른 선에 놓여 있지만 모두 동일한 그래디언트를 갖는 것을 볼 수 있습니다 . 원래 회귀 방정식에서 2 x 1 의 계수의 의미는 ceteris paribus, 즉 다른 예측 변수를 일정하게 유지한다는 것입니다. 의 단위 증가 X 1 이 증가 된 예측 평균 응답 Y 의 절편의 의미있는 동안 두 개의 유닛에 의하여, 3 회귀 식 일 때 그 X (1) = 0 및 X 2 = 0이 그 예측 된 평균 응답이 $x_2$$2x_1$$x_1$$\hat y$$3$$x_1 = 0$$x_2 = 0$$3$. 그러나 모든 포인트가 동일한 갖는 것은 아닙니다. 즉, 다른 절편이있는 선에 놓여 있음을 의미합니다. 선은 x 2 = 0 인 점에 대해 3 만 인터셉트 합니다. (의 특정 값이있는 경우에 따라서가 아니라 하나의 선을 보는 것보다, 당신은 볼 수 있습니다 X 이 경우에 발생할 예를 들어, X 2는 정수 항상) 대각선 "줄무늬"일련의. 여기서, 다음의 데이터가 있다면 , Y는 = 2 X 1 + 5 X 2 + 3 .$x_2$$3$$x_2=0$$x_2$$x_2$$\hat y = 2 x_1 + 5 x_2 + 3$

$x_2=1$$x_2=2$$x_2=3$$y$$x_2$그래프에 표시되지 않은 다른 예측 변수의 값을 기준으로합니다 .

$y$$x_1$$x_2$$\hat y = 2 x_1 + 5 x_2 + 3$$y$$x_1$$x_2$$y$$x_1$축은 오른쪽을 가리 킵니다.

$y$$y$

$\hat y$$x_1$$x_2$$x_2$$\hat y$$x_1$$x_2$$y$$x_1$ $x_2$$y$$x_1$

R 플롯 코드

library(scatterplot3d)

data.df <- data.frame(
  x1 = c(0,2,4,5,8, 1,3,4,7,8, 0,3,5,6,7),
  x2 = c(1,1,1,1,1, 2,2,2,2,2, 3,3,3,3,3)
)

data.df$yhat <- with(data.df, 2*x1 + 5*x2 + 3)

data1.df <- data.df[data.df$x2==1,]
data2.df <- data.df[data.df$x2==2,]
data3.df <- data.df[data.df$x2==3,]

#Before lines added    
mar.default <- c(5,4,4,2) + 0.1
par(mar = mar.default + c(0, 1, 0, 0)) 
plot(data.df[c("x1","yhat")], main=expression("Predicted y against "*x[1]),
     xlab=expression(x[1]), ylab=expression(hat(y)))

#After lines added
plot(data.df[c("x1","yhat")], main=expression("Predicted y against "*x[1]),
     xlab=expression(x[1]), ylab=expression(hat(y)), pch=".")
points(data1.df[c("x1","yhat")], pch=19, col="red")
abline(lm(yhat ~ x1, data=data1.df), col="red")
points(data2.df[c("x1","yhat")], pch=17, col="gold")
abline(lm(yhat ~ x1, data=data2.df), col="gold")
points(data3.df[c("x1","yhat")], pch=15, col="blue")
abline(lm(yhat ~ x1, data=data3.df), col="blue")

#3d plot
myPlot <- scatterplot3d(data.df, pch=".", xlab=expression(x[1]),
                        ylab=expression(x[2]), zlab=expression(hat(y)),
                        main=expression("Predicted y against "*x[1]*" and "*x[2]))
myPlot$plane3d(Intercept=3, x.coef=2, y.coef=5, col="darkgrey")
myPlot$points3d(data1.df, pch=19, col="red")
myPlot$points3d(data2.df, pch=17, col="gold")
myPlot$points3d(data3.df, pch=15, col="blue")
print(myPlot)