가능한 범위

, 및 세 가지 시계열이 있다고 가정합니다.$X_1$$X_2$$Y$

~ ( )에서 일반 선형 회귀를 실행 하면 됩니다. 일반적인 선형 회귀 ~ 는 입니다. 가정$Y$$X_1$$Y = b X_1 + b_0 + \epsilon$$R^2 = U$$Y$$X_2$$R^2 = V$$U < V$

회귀 ~ ( ) 에서 의 가능한 최소값과 최대 값은 얼마입니까?$R^2$$Y$$X_1 + X_2$$Y = b_1 X_1 + b_2 X_2 + b_0 + \epsilon$

새로운 변수를 추가하면 항상 증가하기 때문에 최소 는 + 작은 값 이어야 한다고 생각 하지만이 작은 값을 정량화하는 방법을 모르고 최대 범위를 얻는 방법을 모르겠습니다 .$R^2$$V$$R^2$

1) 편집 : 아래의 추기경 주석은 최소 질문에 대한 정답이 임을 보여줍니다 . 따라서 나는 "흥미로운"것을 삭제하고 있지만 궁극적으로 잘못된 것은 OP 게시물의 해당 부분에 대한 답변입니다.$R^2$$V$

2) 최대 는 1입니다. 다음 예를 고려하십시오. 귀하의 상황에 적합합니다.$R^2$

x1 <- rnorm(100)
x2 <- rnorm(100)
y <- x1 + 2*x2

> summary(lm(y~x1))$r.squared
[1] 0.2378023                 # This is U
> summary(lm(y~x2))$r.squared
[1] 0.7917808                 # This is V; U < V
> summary(lm(y~x1+x2))$r.squared
[1] 1

여기서는 의 분산을 0 으로 수정합니다. 을 원하면 약간 변경됩니다. 더 작게 또는 작게 함으로써 임의로 1에 가깝게 만들 수 있지만, 최소 문제에서와 같이 도달 할 수 없으므로 최대 값은 없습니다. 1은 항상 보다 크지 만 제한 되기 때문에 supremum 이됩니다 .$\epsilon$$\sigma^2_\epsilon > 0$$R^2$$\sigma^2_\epsilon$$R^2$$\sigma^2_\epsilon \to 0$

허락하다 $r_{1,2}$ 사이의 상관 관계 $X_1$ 과 $X_2$, $r_{1,Y}$ 사이의 상관 관계 $X_1$ 과 $Y$, $r_{2,Y}$ 사이의 상관 관계 $X_2$ 과 $Y$. 그때$R^2$ 전체 모델을 $V$ 같다

그래서 $R^2$ 전체 모델의 경우 $V$ 경우에만 $r_{1,2} = 0$ 과 $r_{1,Y}^2 = U = 0$ 또는

만약 $r_{1,2} = 0$, $R^2$ 전체 모델의 경우 $U + V$.

제약이 없습니다 $U$ 과 $V$최소값은 $V$최대 값이 작을수록 $\min(V + U, 1)$. 이는 두 변수가 완벽하게 상관되어 있거나 (이 경우 두 번째 변수를 추가해도 가 전혀 변경되지 않음 ) 두 경우 모두 결과를 포함하여 직교 할 수 있기 때문 입니다. 의견에서 이것은 각각 의 열 벡터 인 과 직교해야한다는 의견도 올바로 지적되었습니다 .$R^2$$U + V$$\mathbf{1}$

구속 조건 . 그러나 있습니다. 즉, 입니다.이 경우 입니다. 마지막으로, 가 상한이 여전히 있습니다.$U < V \implies X_{1} \neq X_{2}$$U = 0$$X_{1} \perp Y$$\min = \max = V + 0$$X_{1} \perp X_{2}$$\min(V + U, 1)$

과 의 관계에 대해 더 많이 알고 있다면 더 말할 수 있다고 생각합니다.$X_{1}$$X_{2}$