피타고라스 정리로서의 총 분산 법칙

$X$ 와 에 유한 한 순간이 있다고 가정합니다 . 두 번째 유한 모멘트를 갖는 랜덤 변수의 힐버트 공간에서 ( 의해 정의 된 의 내부 곱 , ), 의 돌기로서 의 함수의 공간 상 . $Y$ $T_1,T_2$ $E(T_1T_2)$ $||T||^2=E(T^2)$ $E(Y|X)$ $Y$ $X$

또한 총 분산 법칙에

V ㅏ 아르 자형 (와이) = 이자형 (V ㅏ 아르 자형 (와이 | 엑스)) + V ㅏ 아르 자형 (이자형 (와이 | 엑스))

$Var(Y)=E(Var(Y|X)) + Var(E(Y|X))$

위의 기하학적 그림으로이 법을 해석 할 수있는 방법이 있습니까? 나는 법이 측면 가진 직각 삼각형에 대한 피타고라스 정리와 동일하다고 들었습니다 . 삼각형이 직각 인 이유를 이해하지만 피타고라스 정리가 총 분산 법칙을 어떻게 포착하고 있는지 이해하지 못합니다. $Y, E(Y|X), Y-E(Y|X)$

variance conditional-expectation

— Renrenthehamster
소스

나는 당신이 직각 삼각형에 대해 편안하다고 가정합니다. 와 는 상관없는 임의의 변수입니다. 상관되지 않은 임의의 변수 및 , 이므로 설정하면 및 이므로 이므로 그것은 보여 남아 와 동일 $E[Y\mid X]$ $Y - E[Y\mid X]$ $A$ $B$

\begin{matrix} (1) & var (ㅏ + 비) = var (ㅏ) + var (비), \end{matrix}

$\operatorname{var}(A+B) = \operatorname{var}(A) + \operatorname{var}(B),\tag{1}$

A = Y - E [Y ∣ X]

$A = Y - E[Y\mid X]$

B = E [Y ∣ X]

$B = E[Y\mid X]$

A + B = Y

$A+B = Y$

\begin{matrix} (2) & var (와이) = var (와이 - 이자형 [와이 ∣ 엑스]) + var (이자형 [와이 ∣ 엑스]) . \end{matrix}

$\operatorname{var}(Y) = \operatorname{var}(Y-E[Y\mid X]) + \operatorname{var}(E[Y\mid X]).\tag{2}$

var (Y - E [Y ∣ X])

$\operatorname{var}(Y-E[Y\mid X])$

E [var (Y ∣ X)]

$E[\operatorname{var}(Y\mid X)]$ 하여 를 총 분산 공식 인 입니다.

(2)

$(2)$

\begin{matrix} (삼) & var (와이) = 이자형 [var (와이 ∣ 엑스)] + var (이자형 [와이 ∣ 엑스]) \end{matrix}

$\operatorname{var}(Y) = E[\operatorname{var}(Y\mid X)] + \operatorname{var}(E[Y\mid X])\tag{3}$

랜덤 변수 의 예상 값 은 , 즉 것으로 잘 알려져 있습니다. 따라서 입니다. 그 다음 그 , 즉, 하자 확률 변수 나타낸다 우리가 쓸 수 있도록 그 그러나 여기서 $E[Y\mid X]$ $E[Y]$ $E\biggr[E[Y\mid X]\biggr] = E[Y]$

이자형 [ㅏ] = 이자형 [와이 - 이자형 [와이 ∣ 엑스]] = 이자형 [와이] - 이자형 [이자형 [와이 ∣ 엑스]] = 0,

$E[A] = E\biggr[Y - E[Y\mid X]\biggr] = E[Y] - E\biggr[E[Y\mid X]\biggr] = 0,$

var (A) = E [A^{2}]

$\operatorname{var}(A) = E[A^2]$

\begin{matrix} (4) & var (와이 - 이자형 [와이 ∣ 엑스]) = 이자형 [(와이 - 이자형 [와이 ∣ 엑스])^{2}] . \end{matrix}

$\operatorname{var}(Y-E[Y\mid X]) = E\left[(Y-E[Y\mid X])^2\right].\tag{4}$

C

$C$

(Y - E [Y ∣ X])^{2}

$(Y-E[Y\mid X])^2$

\begin{matrix} (5) & var (와이 - 이자형 [와이 ∣ 엑스]) = 이자형 [씨] . \end{matrix}

$\operatorname{var}(Y-E[Y\mid X]) = E[C].\tag{5}$

E [C] = E [E [C ∣ X]]

$E[C] = E\biggr[E[C\mid X]\biggr]$

E [C ∣ X] = E [(Y - E [Y ∣ X])^{2} | X] .

$E[C\mid X] = E\biggr[(Y-E[Y\mid X])^2{\bigr\vert} X\biggr].$ 지금, 주어진 그 의 조건부 분포 평균 갖는 그래서 즉, 임의 변수 가 되도록 입니다. . 따라서 은 로 대체시 다음과 같이 표시됩니다. 그

X = x

$X = x$

Y

$Y$

E [Y ∣ X = x]

$E[Y\mid X=x]$

이자형 [(와이 - 이자형 [와이 ∣ 엑스 = 엑스])^{2} | 엑스 = 엑스] = var (와이 ∣ 엑스 = 엑스) .

$E\biggr[(Y-E[Y\mid X=x])^2{\bigr\vert} X=x\biggr] = \operatorname{var}(Y\mid X = x).$

E [C ∣ X = x] = var (Y ∣ X = x)

$E[C\mid X = x] = \operatorname{var}(Y\mid X = x)$

E [C ∣ X]

$E[C\mid X]$

var (Y ∣ X)

$\operatorname{var}(Y\mid X)$

\begin{matrix} (6) & 이자형 [씨] = 이자형 [이자형 [씨 ∣ 엑스]] = 이자형 [var (와이 ∣ 엑스)], \end{matrix}

$E[C] = E\biggr[E[C\mid X]\biggr] = E[\operatorname{var}(Y\mid X)], \tag{6}$

(5)

$(5)$

var (와이 - 이자형 [와이 ∣ 엑스]) = 이자형 [var (와이 ∣ 엑스)] .

$\operatorname{var}(Y-E[Y\mid X]) = E[\operatorname{var}(Y\mid X)].$ 이것은 의 오른쪽을 정확히 우리가 필요로하는 것을 만들어서 총 분산 공식 증명했습니다 .

(2)

$(2)$

(3)

$(3)$

— 딜립 사르 베이트
소스

Y - E (Y | X)

$Y-E(Y|X)$ 는 평균이 0 인 변수입니다. 따라서 입니다. 이제 입니다. 답의 약간 덜 복잡한 두 번째 부분.

v a r (Y - E (Y | X)) = E [Y - E (Y | X)]^{2}

$var(Y-E(Y|X))=E[Y-E(Y|X)]^2$

E v a r (Y | X) = E [E ((Y - E (Y | X))^{2} | X)] = E [Y - E (Y | X)]^{2}

$Evar(Y|X)=E[E((Y-E(Y|X))^2|X)]=E[Y-E(Y|X)]^2$

— mpiktas

@mpiktas 감사합니다. 원하는 결과를 얻는 더 짧은 방법을 알고 있지만 초보자가 쉽게 따라갈 수있는 방법으로 설명하기가 항상 어렵습니다. 또한, 마지막으로 쓴 방정식에서 오른쪽의 수량은 지수가 잘못 배치되었습니다. 대괄호 안의 수량은 제곱되어야합니다. 즉, 합니다. 그러나 중재자가 의무를 다하지 않는 한 수정하기에는 너무 늦습니다.

E [(Y - E [Y | X])^{2}]

$E\bigr[(Y-E[Y|X])^2\bigr ]$

— Dilip Sarwate

Dilip, 많은 영아들은 @mpiktas의 방정식을 서면으로 올바르게 해석합니다. 여분의 괄호 세트는 종종 삭제됩니다. 아마도 내 눈이 나를 속이고 있을지 모르지만 그의 표기법은 일관성이 있다고 생각합니다. 원하는 경우 문제를 해결하도록 도와 드리겠습니다. :-)

— 추기경

@ 추기경 나는 mpiktas의 글을 잘못 해석하지 않았으며 그가 말한 것을 완전히 이해했습니다. 나는 또한 해석에 사용하고 있지만 또는 예상 값으로 , 나는 늘 내 의심 PEMDAS 그것에 대해 아무것도 말하지 않는다 특히 이후. 기대 값이 지수보다 우선 순위가 있습니까? 나는 기대 연산자가 대괄호 안의 모든 것에 적용하는 데 익숙하다고 생각합니다. m [iktas의 의견을 편집하지 마십시오. 그러나 이전 스레드 의견에서 " 실수 로"이 스레드의 모든 내용 을 삭제하려면 계속 진행하십시오.

E X

$EX$

E X

$\mathbb EX$

X

$X$

E X^{2}

$EX^2$

— Dilip Sarwate

죄송합니다, @Dilip. 내 의도는 당신이 이해하지 못했다고 제안하는 것이 아니 었습니다. 나는 당신이 알고 있었다! 또한 표기법이 애매 모호 할 수 있다는 점에 동의합니다. 내가 의미하는 바는 주석의 두 번째 방정식 (즉, )이 이후에 사용 된 규칙을 명확하게 생각했다고 생각했습니다 . :-)

v a r \dots

$var\ldots$

— 추기경

성명서:

피타고라스 정리는 유한 규범을 가진 내부 제품 공간의 모든 요소 및 에 대해 , 즉, 직교 벡터의 경우 합의 제곱 길이는 제곱 길이의 합입니다. $T_1$ $T_2$ $\langle T_1,T_2\rangle = 0$

\begin{matrix} (1) & | | 티_{1} + 티_{2} | |^{2} = | | 티_{1} | |^{2} + | | 티_{2} | |^{2} . \end{matrix}

$||T_1+T_2||^2 = ||T_1||^2 + ||T_2||^2 \tag{1}.$

우리의 경우 :

우리의 경우 및 는 임의의 변수이며, 제곱 규범은 이고 내부 곱은 입니다. 을 통계 언어로 번역 하면 다음과 같이됩니다. 때문에 . 우리가 다음과 같이 변경하면 ... $T_1 = E(Y|X)$ $T_2 = Y - E[Y|X]$ $||T_i||^2 = E[T_i^2]$ $\langle T_1,T_2\rangle = E[T_1T_2]$ $(1)$

\begin{matrix} (2) & 이자형 [{와이}^{2}] = 이자형 [{이자형 (와이 | 엑스)}^{2}] + 이자형 [(와이 - 이자형 [와이 | 엑스])^{2}], \end{matrix}

$E[Y^2] = E[\{E(Y|X)\}^2] + E[(Y - E[Y|X])^2] \tag{2},$

E [T_{1} T_{2}] = Cov (T_{1}, T_{2}) = 0

$E[T_1T_2] = \operatorname{Cov}(T_1,T_2) = 0$

(2)

$(2)$

왼쪽에서 만들어 양쪽에서 뺍니다 . $(E[Y])^2$ $\operatorname{Var}[Y]$
오른쪽에 , $E[\{E(Y|X)\}^2] - (E[Y])^2 = \operatorname{Var}(E[Y|X])$
주목하는 . $E[(Y - E[Y|X])^2] = E[E\{(Y - E[Y|X])^2\}|X] = E[\operatorname{Var}(Y|X)]$

이 세 가지 글 머리 기호에 대한 자세한 내용은 @DilipSarwate의 게시물을 참조하십시오. 그는 나보다이 모든 것을 훨씬 더 자세히 설명합니다.

— 테일러
소스