많은 수의 법칙은 언제 실패합니까?

문제는 단순히 제목에 언급 된 것입니다 : 많은 수의 법칙은 언제 실패합니까? 무슨 의미에서 사건의 빈도가 이론적 확률에 미치지 않는 것입니까?

probability mathematical-statistics law-of-large-numbers

— 에마누엘레
소스

Kolmogorov의 두 가지 이론이 있으며 둘 다 기대 값이 유한해야합니다. 첫 번째는 변수가 IID 일 때, 두 번째는 샘플링이 독립적이고 의 분산이 만족할 때 유지됩니다. $X_n$

\sum_{n = 1}^{\infty} \frac{V (X_{n})}{n^{2}} < \infty

$\sum_{n=1}^\infty \frac{V(X_n)}{n^2} < \infty$

모든 이 0을 기대했지만 그 분산이 이므로 조건이 분명히 실패한다고 가정하십시오. 그러면 어떻게됩니까? 여전히 추정 평균을 계산할 수 있지만 더 깊고 더 깊이 샘플링 할 때 그 평균은 0이되지 않습니다. 샘플링을 계속할수록 점점 더 편향되는 경향이 있습니다. $X_n$ $n^2$

예를 들어 봅시다. 이 균일 한 라고 말하면 위의 조건이 일시적으로 실패합니다. $X_n$ $U(-n2^n , n2^n)$

\sum_{n = 1}^{\infty} \frac{V (X_{n})}{n^{2}} = \sum_{n = 1}^{\infty} \frac{n^{2} 2^{2 n + 2}}{12} \frac{1}{n^{2}} = \frac{1}{3} \sum_{n = 1}^{\infty} 4^{n} = \infty .

$\sum_{n=1}^\infty \frac{V(X_n)}{n^2} = \sum_{n=1}^\infty \frac{n^2 2^{2n+2}}{12}\frac{1}{n^2} = \frac{1}{3} \sum_{n=1}^\infty 4^n = \infty.$

그것을 주목함으로써

{\bar{X}}_{n} = \frac{X_{n}}{n} + \frac{n - 1}{n} {\bar{X}}_{n - 1},

$\bar{X}_n = \frac{X_n}{n} + \frac{n-1}{n}\bar{X}_{n-1},$

우리는 계산 된 평균 이 항상 구간 있습니다. 동일한 공식을 사용하면 밖에 있을 확률이 항상 보다 큰 것을 알 수 있습니다 . 실제로 은 균일 이며 바깥에 있습니다 확률 . 반면, 은 유도에 의해 에 있으며 대칭에 의해 확률로 양수입니다 $\bar{X}_n$ $(-2^n, 2^n)$ $n+1$ $1/8$ $\bar{X}_{n+1}$ $(-2^n, 2^n)$ $\frac{X_{n+1}}{n+1}$ $U(-2^{n+1},2^{n+1})$ $(-2^n, 2^n)$ $1/4$ $\frac{n}{n+1}\bar{X}_n$ $(-2^n, 2^n)$ $1/2$ . 이러한 관찰로부터 이 보다 크거나 보다 작으며 각각 확률은 보다 큽니다 . 확률 이후 그 이 보다 크면 이 무한 대로되므로 0에 수렴 할 수 없습니다 . $\bar{X}_{n+1}$ $2^n$ $-2^n$ $1/16$ $|\bar{X}_{n+1}| > 2^n$ $1/8$ $n$

이제 질문에 구체적으로 대답하려면 이벤트 고려하십시오 . 내가 잘 이해했다면, "다음 진술이 어떤 조건에서 거짓입니까?" $A$

lim_{n \to \infty} \frac{1}{n} \sum_{k = 1}^{n} 1_{A} (X_{k}) = P (X \in A), [P] a . s .

$\lim_{n \rightarrow \infty} \frac{1}{n}\sum_{k = 1}^{n} 1_A(X_k) = P(X \in A), \; [P]\;a.s.$

여기서 표시기 이벤트의 함수 , 즉 경우 및 , 그렇지 않으면 상기 동일하게 분배 (과 같은 분산 ). $1_A$ $A$ $1_A(X_k) = 1$ $X_k \in A$ $0$ $X_k$ $X$

지표 함수의 분산이 Bernouilli 0-1 변수의 최대 분산 인 1/4 이상으로 제한되므로 위의 조건이 유지됩니다. 그럼에도 불구하고, 잘못 될 수있는 것은 많은 수의 강력한 법칙, 즉 독립 샘플링 의 두 번째 가정입니다 . 랜덤 변수 가 독립적으로 샘플링되지 않으면 수렴이 보장되지 않습니다. $X_k$

예를 들어, 모든 대해 = 이면 비율은 값에 관계없이 1 또는 0 이므로 수렴이 발생하지 않습니다 ( 가 0 또는 1의 확률을 갖지 않는 ). 이것은 가짜이고 극단적 인 예입니다. 이론적 확률에 대한 수렴이 발생하지 않는 실제 사례는 알지 못합니다. 그러나 샘플링이 독립적이지 않은 경우 잠재력이 존재합니다. $X_k$ $X_1$ $k$ $n$ $A$

— gui11aume
소스

하나의 의견. Wikipedia (lnl page)에서 나는 분산의 비 유한성이 평균 값의 수렴을 감속한다는 것을 읽었습니다. 당신이 말하는 것과 다른가?

— emanuele

두 사람이 같은 법을 논의하고 있습니까? 이 응답은 평균 의 샘플링 분포에 중점을 둔 것으로 보이는 동안 사건의 빈도에 대해 질문합니다 . 연결이 있지만 내가 말할 수있는 한 여기에 명시 적으로 나타나지 않았습니다.

— whuber

@whuber True입니다. 질문 제목에 너무 집중했습니다. 지적 해 주셔서 감사합니다. 나는 대답을 업데이트했다.

— gui11aume

@ gui11aume 이해하지 못합니다. "인디케이터 함수의 분산이 1/4로 제한되어 있기 때문에 위의 조건이 유지 될 것입니다." 무엇 않습니다 그 의미?

— emanuele

이들이 동일하게 분포되어 있지만 독립적이지 않은 경우, 해당 한계가 전혀 존재하지 않을 수 있습니다.

— 추기경