및 , 의 독립성에 대한 직관은 무엇입니까 ?

18

나는 누군가가 확률 변수 이유를 설명하는 인수 제안 할 수있는 기대했다 및 , 표준 정규 분포를 갖는이 통계적으로 독립적입니다. 그 사실에 대한 증거는 MGF 기술에서 쉽게 따르지만 매우 반 직관적입니다. $Y_1=X_2-X_1$ $Y_2=X_1+X_2$ $X_i$

따라서 여기에 직관에 감사드립니다.

미리 감사드립니다.

편집 : 아래 첨자는 주문 통계가 아니라 표준 정규 분포에서 IID 관찰을 나타냅니다.

probability self-study mathematical-statistics

— 존
소스

"MGF 기술"은 무엇입니까?

— amoeba는 Reinstate Monica

@amoeba 랜덤 변수의 분포를 결정하기 위해 모멘트 생성 기능을 사용합니다. 내 경우에는 , 이 다음과 같은 경우에만 과 가 독립적 이라는 정리를 참조합니다. . 다른 기술을 선택하면 동일한 결과에 도달 할 것이라고 확신합니다.

Y_{1}

$Y_1$

Y_{2}

$Y_2$

M (t_{1}, t_{2}) = M (t_{1}, 0) \times M (0, t_{2})

$M(t_1,t_2)=M(t_1,0) \times M(0,t_2)$

M (t_{1}, t_{2})

$M(t_1,t_2)$

E (e^{t_{1} Y_{1} + t_{2} Y_{2}})

$E(e^{t_1Y_1+t_2Y_2})$

— JohnK

1

stats.stackexchange.com/questions/71260 의 밀접하게 관련된 스레드에서 통찰력을 얻을 수 있습니다 .

— whuber

각 일정한 상수 (예 : )를 추가하면 각각에 발생하는 상황을 고려하여 직관력을 얻을 수 있습니다 . 그리고 각 에 상수 를 곱하면 어떻게

μ

$\mu$

X

$X$

X

$X$

σ

$\sigma$

— 될까요?

1

밀접하게 관련됨 : 상관 관계가 높은 변수의 합계와 차이에 대한 참조는 거의 상관이 없습니다 .

— gung-모니 티 복원

22

이것은 표준 정규 분포 데이터 첫 번째 좌표계의 산점도 입니다. 분포는 원형 대칭입니다.

당신이 전환 할 때 및 : 당신 효과적으로 회전이 같은 축을 확장 이 좌표 새로운 시스템은 원본과 동일한 기원을 가지고 있으며, 축이 직교한다. 원형 대칭으로 인해 변수는 새 좌표계에서 여전히 독립적입니다. $Y_1 = X_2 - X_1$ $Y_2 = X_1 + X_2$ 회전 좌표계가있는 산점도

— 도비 완
소스

4

및 가 단위 일반 여백과 상관되어있는 경우에도 결과가 적용됩니다 . 따라서 귀하의 설명은 원래 결과의 하위 사례에만 적용됩니다. 그러나 여기의 기본 아이디어는 건전합니다.

X_{1}

$X_1$

X_{2}

$X_2$

— Glen_b-복지 주 모니카

1

@Glen_b, 그렇습니다. JohnK는 이미 일반적인 사례를 증명하는 방법을 알고 있지만 직관적 인 이해가 부족하기 때문에 간단한 사례에 집중하고 싶었습니다.

— dobiwan

7

결과는 공통 와 함께 공동으로 정상 (즉, 상관 관계 )에 적용됩니다 . $(X_1,X_2)$ $-1<\rho<1$ $\sigma$

몇 가지 기본 결과를 알고 있다면 필요한 모든 것입니다.

$\quad\quad\quad$ 여기에 이미지 설명을 입력하십시오

dobiwan의 접근 방식은 본질적으로 훌륭합니다. 결과가 거기에서 다루는 것보다 더 일반적이라는 것입니다.

— Glen_b-복귀 모니카
소스

3

원하는 결과를 필수 항목으로 제거하기위한 +1 분산이 같지 않은보다 일반적인 관절 정규성의 경우 내재 된 대신 는 독립적 인 정규 랜덤을 생성합니다 변수.

θ = \frac{1}{2} \arctan (\frac{2 ρ \cdot σ_{1} σ_{2}}{σ_{1}^{2} - σ_{2}^{2}})

$\theta = \frac{1}{2}\arctan\left ( \frac{2\rho\cdot\sigma_1\sigma_2}{\sigma_1^2 - \sigma_2^2}\right )$

\pm \frac{π}{4}

$\pm \frac{\pi}{4}$

(X_{1}, X_{2}) \to (X_{1} + X_{2} . X_{1} - X_{2})

$(X_1,X_2) \to (X_1+X_2. X_1-X_2)$

— Dilip Sarwate

6

당신이 사실이라고 주장하는 결과는 일반적으로 사실이 아니며, 알려진 모든 것이 과 가 동일한 분산을 갖는 정상적인 랜덤 변수이지만, 그 결과 는 언급 한 조건 의 일반적인 해석을 위해 유지됩니다 나중: $X_1$ $X_2$

아래 첨자에는 주문 통계가 아니라 표준 정규 분포에 따른 관측치가 표시됩니다.

물론이 문장에서 마지막 몇 단어에 대한 일반적인 해석은 과 가 독립적 인 (정상) 랜덤 변수이므로 공동으로 정규 랜덤 변수라는 것입니다. $X_1$ $X_2$

위해 공동으로 정상적인 동일한 분산이 확률 변수, 사실이다 및 있는 독립적 인 (일반, 불평등 한 차이에서와) (일반) 확률 변수는,이에 대한 직관적 인 설명은 최고의 Glen_b의 대답에 제시되어있다. 들어 당신 의 특별한 경우 및 아니라 독립적 인, 당신이 수락 dobiwan의 대답은 간단하고, 실제로 그 계시 어떤 뿐 아니라 의한 축의 회전 암시 변환에 , 독립 확률 변수를 산출한다. $X_1+X_2$ $X_1-X_2$ $X_1$ $X_2$ $\pm \frac{\pi}{4}$ $(X_1,X_2)\to (X_1+X_2, X_1-X_2)$

일반적으로 무엇을 말할 수 있습니까? 아래에서 말하는 모든 것에서 와 는 다른 속성이 무엇이든 관계없이 동일한 분산을 가지고 있음을 명심하십시오 . $X$ $Y$

경우 및 있는 모든 랜덤 변수 (참고 : 반드시 정상 생략)과 동일한 분산, 다음 및 되는 상관 랜덤 변수 (즉, 이들은 제로 공분산있다). 공분산 함수가 쌍 선형 이기 때문입니다 . 여기서 우리는 가 단지 분산 이라는 사실을 사용했습니다 $X$ $Y$ $X+Y$ $X-Y$

\begin{aligned} cov (X + Y, X - Y) & = cov (X, X) - cov (X, Y) + cov (Y, X) - cov (Y, Y) \\ = var (X) - cov (X, Y) + cov (X, Y) - var (Y) \\ = 0. \end{aligned}

$\begin{align} \operatorname{cov}(X+Y, X-Y) &= \operatorname{cov}(X,X) - \operatorname{cov}(X,Y) + \operatorname{cov}(Y,X) - \operatorname{cov}(Y,Y)\\ &= \operatorname{var}(X) - \operatorname{cov}(X,Y) + \operatorname{cov}(X,Y) - \operatorname{var}(Y)\\ &= 0. \end{align}$

cov (X, X)

$\operatorname{cov}(X,X)$

var (X)

$\operatorname{var}(X)$ 의 (및 유사 대 물론)과, . 이 결과는 와 가 (임의적으로) 정규 랜덤 변수이지만 반드시 공동으로 정규 랜덤 변수 일 필요는 없습니다 . (여백 한계 정규성 개념이 관절 정규성과 동일하지 않다는 것에 익숙하지 않다면, 추기경 의이 위대한 대답 을보십시오). 와 가 공동으로 정상적인 (그러나 반드시 독립적 일 필요는없는) 정규 랜덤 변수 인 특별한 경우에 , 와

X

$X$

Y

$Y$

cov (Y, X) = cov (X, Y)

$\operatorname{cov}(Y,X) = \operatorname{cov}(X,Y)$

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X + Y

$X+Y$

X - Y

$X-Y$ 공동으로 정상이며 공분산이 이므로 및 는 독립적 인 랜덤 변수입니다.

0

$0$

X + Y

$X+Y$

X - Y

$X-Y$

— 디립 사르 베이트
소스

2

내가 먼저 일반적으로 동일하게 분배에 대한 주장 조건부 평균 것을 조건으로 일정 . 이를 바탕으로 의 공분산 은 0 이라고 주장합니다. 그런 다음 정규성에서 공분산이 0이면 독립성을 의미합니다. $X_1,X_2$ $Y_1$ $Y_2$ $0$ $Y_1,Y_2$

조건부 평균

직감 : 는 어떤 구성 요소가 합계에 더 많이 기여했는지에 대한 의미를 의미하지 않습니다 (예 : 는 ). 따라서 예상되는 차이는 0이어야합니다. $X_1+X_2=y$ $X_1=x, X_2 = y-x$ $X_1 = y-x, X_2=x$

증명 : 과 는 동일한 분포를 가지며 는 인덱싱에 대해 대칭입니다. 따라서 대칭 이유로 인해 조건부 분포 는 조건부 분포 합니다. 따라서 조건부 분포도 같은 평균을 가지며 $X_1$ $X_2$ $X_1+X_2$ $X_1 \mid Y_2 = y$ $X_2 \mid Y_2 = y$

E (Y_{1} ∣ Y_{2} = y) = E (X_{1} - X_{2} ∣ X_{1} + X_{2} = y) = E (X_{1} ∣ X_{1} + X_{2} = y) - E (X_{2} ∣ X_{1} + X_{2} = y) = 0.

$\begin{equation} \mathbb{E}(Y_1 \mid Y_2 = y) = \mathbb{E}(X_1 - X_2 \mid X_1+X_2 = y) \\ = \mathbb{E}(X_1 \mid X_1+X_2 = y) - \mathbb{E}(X_2 \mid X_1+X_2 = y)= 0. \end{equation}$

(주의 : 조건부 평균이 존재하지 않을 가능성을 고려하지 않았습니다.)

상수 조건 평균은 상관 관계 없음 / 공분산을 의미합니다.

직감 : 상관 관계는 가 증가 할 때 이 얼마나 증가 하는지 측정합니다 . 관찰하면 결코 우리의 평균 변경되지 , 및 상관이다. $Y_1$ $Y_2$ $Y_2$ $Y_1$ $Y_1$ $Y_2$

증명 : 정의에 따르면 공분산은 , 우리는 반복 된 기대 법칙을 적용합니다 : 에 조건부 조건부 기대치를 : 조건부 평균이 와 독립적 인 것으로 므로 표현식 은 과 같이 단순화됩니다.

C o v (Y_{1}, Y_{2}) = E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2}))]

$\begin{equation} Cov(Y_1,Y_2) = \mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right)\right] \end{equation}$

Y_{2}

$Y_2$

= E [E [(Y_{1} - E (Y_{1})) (Y_{2} - E (Y_{2})) ∣ Y_{2}]] = E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1}) ∣ Y_{2}]] .

$\begin{equation} = \mathbb{E}\left[\mathbb{E}\left[\left(Y_1 - \mathbb{E}(Y_1)\right)\left(Y_2 -\mathbb{E}(Y_2) \right) \mid Y_2\right]\right] = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1 - \mathbb{E}(Y_1) \mid Y_2\right] \right]. \end{equation}$

Y_{2}

$Y_2$

= E [(Y_{2} - E (Y_{2})) E [Y_{1} - E (Y_{1})]]

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\mathbb{E}\left[Y_1-\mathbb{E}(Y_1)\right]\right] \end{equation}$ 이지만 내부 기대 값은 이며

0

$0$

= E [(Y_{2} - E (Y_{2})) \times 0] = 0.

$\begin{equation} = \mathbb{E}\left[(Y_2 - \mathbb{E}(Y_2))\times0\right] = 0. \end{equation}$

독립

대해 동일한 분포를 가정하면 과 는 서로 관련이없는 것으로 나타 . 때 공동으로 정상 (예를 들어, IID. 질문에서 정상), 자신의 선형 조합 또한 공동으로 정상과 독립성 따라서 uncorrelatedness 의미한다. $X_1,X_2$ $Y_1$ $Y_2$ $X_1,X_2$ $Y_1,Y_2$

— 유호 코 칼라
소스