MCMC; 우리는 후부에서``순수 ''하고``충분히 큰 ''샘플을 가질 수 있습니까? 그렇지 않은 경우 어떻게 작동합니까?

이 글을 참고하세요 : Markov Chain Monte Carlo (MCMC)를 평신도에게 어떻게 설명 하시겠습니까? .

Markov 체인과 Monte Carlo의 조합임을 알 수 있습니다. Markov 체인은 불변 제한 분포로 후방과 함께 생성 된 다음 Monte Carlo 추첨 (종속)이 제한 분포 (= 후부)에서 만들어집니다.

단계 후에 우리는 제한 분포 Π (*)에 있다고 가정합니다 (여기서 단순화하고 있음을 알고 있음 ).$L$$\Pi$

랜덤 변수들의 시퀀스를 인 마르코프 체인, I는 시퀀스 얻을 여기서 X 나는 확률 변수이고, Π는 제한 '확률 변수 ''에서 샘플링하고 싶습니다. $X_1, X_2, \dots , X_L, \Pi, \Pi, \Pi, \dots \Pi$$X_i$$\Pi$

MCMC는 초기 값에서 시작합니다. 즉, 은 하나의 값 x 1에 모든 질량을 갖는 랜덤 변수입니다 . 임의 변수에 대문자를 사용하고 임의 변수를 실현하기 위해 작은 문자를 사용하는 경우 MCMC는 x 1 , x 2 , x 3 , … x L , π 1 , π 2 , π 3 , 시퀀스를 제공합니다 . . . . π n . 따라서 MCMC 체인의 길이는 L + n입니다.$X_1$$x_1$$x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$

[[* 참고 : 대문자는 임의의 변수 (예 : 전체 결과 묶음)이고 작은 는 결과, 즉 하나의 특정 값입니다. *]]$x$

분명히 만 내``앞면 ''에 속하고 뒤쪽``웰 ''을 근사화하기 위해 n 값은 ``충분히 커야 ''합니다.$\pi_i$$n$

$x_1,x_2,x_3, \dots x_L, \pi_1, \pi_2, \pi_3, ....\pi_n$$N=L+n$$\pi_1,\pi_2,\dots, \pi_n$$n$

후부의 근사값을 계산할 때 일부 (즉, 불변 분포에 도달하기 전의 실현)를 포함 시키면``잡음 ''이됩니다.$x_i$

MCMC 체인의 길이는 이지만 L에 대한 지식이 없어도 , 즉 제한 분포에서 샘플링 해야하는 단계는 노이즈를 포함하지 않았는지 확신 할 수 없습니다. 제한 분포에서 내 샘플의 크기 인 n = N − L을 확인하십시오 . 특히``충분히 큰 ''것인지 확신 할 수 없습니다. $N=L+n$$L$$n=N-L$

따라서 내가 이해하는 한, L 의이 값은 후방 근사 품질 (잡음 및 큰 샘플 제외)에 매우 중요합니다$L$ .

MCMC를 적용 할 때 대한 합리적인 추정치를 찾는 방법이 있습니까?$L$

(*) 일반적으로 은 초기 값 x 1 에 의존 한다고 생각합니다 .$L$$x_1$

$L$$L = \infty$$N$

본질적으로 귀하의 질문은 "번인 시간을 어떻게 추정 할 수 있습니까?"로 요약됩니다. 번인은 Markov 체인이 수렴되지 않았기 때문에 시작 샘플을 버리는 행위입니다. "번인 (burn-in)"시간을 추정하는 데 도움이되는 많은 MCMC 진단이 있으며 여기에서 해당 검토를 확인할 수 있습니다 .

$L$$L$$L$

이제 귀하의 질문에 대한 더 기술적 세부 사항을 살펴 보겠습니다.

$L$$L$$L$$\infty$$L$

$L$$L$

$L$$N$$X_1, X_2, X_3, \dots, X_N$$L$$L$$\infty$$\theta$

$N$$L$

$N$$\theta$

$(\bar{\theta}_N - \theta)$$N \to \infty$

$\theta \in \mathbb{R}^p$$\Sigma$

$\Sigma/N$