균일 한 합계 분포에 대한 정규 근사 오류

정규 분포를 근사화하는 하나의 순진한 방법은 에 균일하게 분포 된 $100$ IID 랜덤 변수 를 더한 다음 중앙 한계 정리를 사용하여 최근 및 크기를 조정하는 것입니다. ( 참고 : Box-Muller 변환 과 같은보다 정확한 방법이 있습니다 .) IID 랜덤 변수의 합을 균일 합 분포 또는 Irwin-Hall 분포라고 합니다. $[0,1]$ $U(0,1)$

정규 분포에 의한 균일 한 합계 분포를 근사 할 때 오류가 얼마나됩니까?

이러한 유형의 질문이 IID 랜덤 변수의 합을 근사하기 위해 올 때마다 사람들은 저를 포함하여 Berry-Esseen Theorem을 불러옵니다 .

| F_{n} (x) - Φ (x) | \leq \frac{C ρ}{σ^{3} \sqrt{n}}

$|F_n(x) - \Phi(x)| \le \frac{C \rho}{\sigma^3 \sqrt n}$

여기서 은 IID 랜덤 변수 의 재 계산 된 합에 대한 누적 분포 함수이고 , 는 절대 세 번째 중심 모멘트 , 표준 편차이고, 것으로 취해질 수 절대 상수 또는 . $F_n$ $n$ $\rho$ $E|(X-EX)^3|$ $\sigma$ $C$ $1$ $1/2$

불만족 스럽습니다. Berry-Esseen 추정값은 불연속 이항 분포에서 가장 가까우며 대칭 이항 분포의 경우 에서 가장 큰 오차가 가장 큽니다 . 가장 큰 오류는 가장 큰 점프에서 발생합니다. 그러나 균일 한 합계 분포는 점프하지 않습니다. $0$

수치 테스트에 따르면 오류가 보다 빠르게 축소됩니다. . $c/\sqrt n$

사용 , 베리 - Esseen 추정치가 $C=1/2$

| F_{n} (x) - Φ (x) | \leq \frac{\frac{1}{2} \frac{1}{32}}{\frac{1}{{\sqrt{12}}^{3}} \sqrt{n}} \approx \frac{0.650}{\sqrt{n}}

$|F_n(x) - \Phi(x)| \le \frac{\frac12 \frac{1}{32}}{\frac{1}{\sqrt{12}^3} \sqrt n} \approx \frac{0.650}{\sqrt n}$

하는 약 , 및 , 각각. 의 실제 최대 차이는 각각 약 , 및 인 것으로 , 훨씬 더 작으며 대신 으로 떨어집니다 $n=10,20,40$ $0.205$ $0.145$ $0.103$ $n=10, 20, 40$ $0.00281$ $0.00139$ $0.000692$ $c/n$ . $c/\sqrt n$

— 더글러스 자레
소스

만약에 합의 분포 확장하면 에지 워스 확장 하면하다고 생각

을 균일에서

로서

(보낸 균일 분포는 대칭이므로)

소리가 옳습니다.

때문에

F_{n} (x) = Φ (x) + n^{- 1} g (x) + o (n^{- 1})

$F_n(x)=\Phi(x)+n^{-1}g(x)+o(n^{-1})$

x

$x$

n \to \infty

$n\rightarrow\infty$

c / n

$c/n$

o (n^{- 1})

$o(n^{-1})$ 용어, 그것은 당신에게 바인딩을 제공하지 않습니다 ...

— MånsT

고마워, 그것은 다른 많은 분포에서도

패턴을 설명하는 것처럼 보입니다 .

c / n

$c/n$

— Douglas Zare

하자 IID 될 무작위 변수들과 정규화 된 합 고려 $U_1, U_2,\dots$ $\mathcal U(-b,b)$ 및 관련 규범

S_{n} = \frac{\sqrt{3} \sum_{i = 1}^{n} U_{i}}{b \sqrt{n}},

$S_n = \frac{\sqrt{3} \sum_{i=1}^n U_i}{b \sqrt{n}} \>,$

sup

$\sup$

여기서,

의 분포

δ_{n} = sup_{x \in R} | F_{n} (x) - Φ (x) |,

$\delta_n = \sup_{x\in\mathbb R} |F_n(x) - \Phi(x)| \>,$

F_{n}

$F_n$

S_{n}

$S_n$ .

$\delta_n$

δ_{n} < \frac{1}{7.5 π n} + \frac{1}{π} {(\frac{2}{π})}^{n} + \frac{12}{π^{3} n} \exp (- π^{2} n / 24) .

$\delta_n < \frac{1}{7.5 \pi n} + \frac{1}{\pi}\left(\frac{2}{\pi}\right)^n + \frac{12}{\pi^3 n} \exp(-\pi^2 n / 24) \>.$

Proof. See J. V. Uspensky (1937), Introduction to mathematical probability, New York: McGraw-Hill, p. 305.

This was later improved by R. Sherman to the following.

Lemma 2 (Sherman): The following improvement on the Uspensky bound holds.

δ_{n} < \frac{1}{7.5 π n} - (\frac{π}{180} + \frac{1}{7.5 π n}) e^{- π^{2} n / 24} + \frac{1}{(n + 1) π} {(\frac{2}{π})}^{n} + \frac{12}{π^{3} n} e^{- π^{2} n / 24} .

$\delta_n < \frac{1}{7.5 \pi n} - \left(\frac{\pi}{180}+\frac{1}{7.5\pi n}\right) e^{-\pi^2 n / 24} + \frac{1}{(n+1)\pi}\left(\frac{2}{\pi}\right)^n + \frac{12}{\pi^3 n} e^{-\pi^2 n / 24} \>.$

Proof: See R. Sherman, Error of the normal approximation to the sum of N random variables, Biometrika, vol. 58, no. 2, 396–398.

The proof is a pretty straightforward application of the triangle inequality and classical bounds on the tail of the normal distribution and on $(\sin x) / x$ applied to the characteristic functions of each of the two distributions.

— cardinal
소스

+1 Is

N = n

$N=n$ in Lemma 2?

@Procrastinator: Good catch.

— cardinal

Thanks! Those references are very helpful. The estimates seem to be within a factor of

2

$2$ of the actual value.

— Douglas Zare