정규 분포를 시뮬레이션하기 위해 역 CDF 방법에 비해 Box-Muller의 장점은 무엇입니까?

균일 한 변수 집합에서 정규 분포를 시뮬레이션하기 위해 몇 가지 기술이 있습니다.

Box-Muller 알고리즘 은 하나가 두 개의 독립된 균일 한 변이 샘플링 $(0,1)$ 하여 다음을 통해 두 개의 독립적 인 표준 정규 분포로 변환합니다.
$Z_{0} = \sqrt{- 2 ln U_{1}} cos (2 π U_{0}) Z_{1} = \sqrt{- 2 ln U_{1}} sin (2 π U_{0})$ $Z_0 = \sqrt{-2\text{ln}U_1}\text{cos}(2\pi U_0)\\ Z_1 = \sqrt{-2\text{ln}U_1}\text{sin}(2\pi U_0)$
CDF 방법 은 정규 cdf $(F(Z))$ 를 균등 한 변량 과 동일하게 할 수 있습니다 .
$F (Z) = U$ $F(Z) = U$ 이고 도출합니다. $Z = F^{- 1} (U)$ $Z = F^{-1}(U)$

내 질문은 : 어느 것이 더 효율적입니까? 나는 후자의 방법을 생각할 것입니다. 그러나 읽은 대부분의 논문은 Box-Muller를 사용합니다. 왜 그렇습니까?

추가 정보:

정상적인 CDF의 역수는 다음과 같이 알고 제공합니다.

F^{- 1} (Z) = \sqrt{2} \erf^{- 1} (2 Z - 1), Z \in (0, 1) .

$F^{-1}(Z)\; =\; \sqrt2\;\operatorname{erf}^{-1}(2Z - 1), \quad Z\in(0,1).$

따라서 :

Z = F^{- 1} (U) = \sqrt{2} \erf^{- 1} (2 U - 1), U \in (0, 1) .

$Z = F^{-1}(U)\; =\; \sqrt2\;\operatorname{erf}^{-1}(2U - 1), \quad U\in(0,1).$

normal-distribution simulation uniform

— 사용자
소스

일반 cdf의 역수는 무엇입니까? 원본 CDF를 부분 선형 함수로 근사한 경우에만 분석적으로 계산할 수 없습니다.

— Artem Sobolev

두 사람이 서로 밀접하게 관련되어 있지 않습니까? Box Muller는 2 변수 생성의 특별한 경우라고 생각합니다.

— ttnphns

안녕 Barmaley, 나는 위에 더 많은 정보를 추가했습니다. Inverse CDF에는 표현식이 있지만

은 계산식으로 계산되어야합니다. 따라서 box Muller가 선호되는 이유는 무엇입니까? 나는

이

값과 매우 유사한 룩업 테이블에서 계산 될 것이라고 가정했다.

{erf}^{- 1}

$\text{erf}^{-1}$

{erf}^{1}

$\text{erf}^1$

sin

$\text{sin}$ 과

했습니까? 따라서 계산 비용이 훨씬 많이 들지 않습니까? 그러나 나는 틀릴 수 있습니다.

cosine

$\text{cosine}$

— user2350366

죄와 코사인이없는 Box-Muller 버전이 있습니다.

— 시안

@Dilip 컴퓨터 그래픽, 사인 및 코사인과 같은 초정밀 응용 분야의 경우 적절한 조회 테이블을 사용하여 실제로 최적화 할 수 있습니다. 그러나 통계 응용 프로그램의 경우 이러한 최적화가 사용되지 않습니다. 궁극적으로

또는

보다

을 계산하는 것이 실제로 어렵지는 않지만 현대 컴퓨팅 시스템 에서는 삼각 함수 를 포함하여

와 관련된 기본 기능 이 최적화되는 경향이 있습니다 (

및

는 인텔의 기본 명령이었습니다) erf는 사용할 수 없거나 더 높은 (= 느린) 레벨로 코딩되었습니다.

{erf}^{- 1}

$\text{erf}^{-1}$

\log

$\log$

sqrt

$\text{sqrt}$

\exp

$\exp$

\cos

$\cos$

\log

$\log$

— whuber

순전히 확률론적인 관점에서, 두 접근법 모두 정확하고 따라서 동등합니다. 알고리즘 관점에서, 비교는 정밀도와 컴퓨팅 비용을 모두 고려해야합니다.

Box-Muller는 균일 한 발전기를 사용하며이 균일 한 발전기와 비용이 거의 같습니다. 내 의견에서 언급했듯이 로그가 없으면 사인 또는 코사인 호출없이 벗어날 수 있습니다.

생성 까지 $U_{1}, U_{2} \overset{iid}{\sim} U (- 1, 1)$ $U_1,U_2\stackrel{\text{iid}}{\sim}\mathcal{U}(-1,1)$ $S=U_1^2+U_2^2\le 1$
걸릴 와 정의 $Z=\sqrt{-2\log(S)/S}$ $X_{1} = Z U_{1}, X_{2} = Z U_{2}$ $X_1=ZU_1\,,\ X_2=Z U_2$

일반 반전 알고리즘을 사용하려면 역 정규 cdf를 호출해야합니다. qnorm(runif(N)) R에서는, 양자 함수가 잘 코딩되지 않으면, 상기보다 더 비쌀 수 있고 정밀도 측면에서 테일에서 실패 할 수있다.

에 의해 의견을 따르 whuber 의 비교 rnorm(N)및 qnorm(runif(N))실행 시간에 모두, 역 CDF의 장점에있다 :

> system.time(qnorm(runif(10^8)))
sutilisateur     système      écoulé
 10.137           0.120      10.251 
> system.time(rnorm(10^8))
utilisateur     système      écoulé
 13.417           0.060      13.472` `

꼬리에 맞는면에서 : 여기에 이미지 설명을 입력하십시오

내 블로그 에서 Radford Neal 의 의견에 따라 기본 설정을 지적하고 싶습니다.rnorm R 은 반전 방법을 사용하므로 위의 비교는 시뮬레이션 방법 자체가 아닌 인터페이스에 반영 ! RNG에 관한 R 문서를 인용하려면 :

‘normal.kind’ can be ‘"Kinderman-Ramage"’, ‘"Buggy
 Kinderman-Ramage"’ (not for ‘set.seed’), ‘"Ahrens-Dieter"’,
 ‘"Box-Muller"’, ‘"Inversion"’ (the default), or ‘"user-supplied"’.
 (For inversion, see the reference in ‘qnorm’.)  The
 Kinderman-Ramage generator used in versions prior to 1.7.1 (now
 called ‘"Buggy"’) had several approximation errors and should only
 be used for reproduction of old results.  The ‘"Box-Muller"’
 generator is stateful as pairs of normals are generated and
 returned sequentially.  The state is reset whenever it is selected
 (even if it is the current normal generator) and when ‘kind’ is
 changed.

— 시안
소스

(1)

와

는 어떻습니까

\log

$\log$

\sqrt{}

$\sqrt{}$

Φ^{- 1}

$\Phi^{-1}$

Φ^{- 1}

$\Phi^{-1}$

X_{1}

$X_1$

X_{2}

$X_2$

U_{i}

$U_i$

- 1

$-1$

1

$1$

0

$0$ 과

1

$1$

— whuber

R 3.0.2rowSums

S

$S$ qnorm(runif(N))InverseCDF[NormalDistribution[], #] &

동의합니다qnorm(runif(N))rnorm(N)

— Xi'an

Φ^{- 1}

$\Phi^{-1}$

\sin

$\sin$

\cos

$\cos$

비교를 위해 사용 i7-3740QM @ 2.7GHz의 및 R 3.12, 다음 통화 :

RNGkind(kind = NULL, normal.kind = 'Inversion');At <- microbenchmark(A <- rnorm(1e5, 0, 1), times = 100L);RNGkind(kind = NULL, normal.kind = 'Box-Muller');Bt <- microbenchmark(B <- rnorm(1e5, 0, 1), times = 100L)

내가 얻을 mean 11.38363 median 11.18718반전과 mean 13.00401 median 12.48802박스 뮬러에 대한

— 아브라함