Metropolis Hastings, Gibbs, Importance 및 Rejection 샘플링의 차이점은 무엇입니까?

저는 MCMC 방법을 배우려고 노력했으며 Metropolis Hastings, Gibbs, Importance 및 Rejection 샘플링을 경험했습니다. 이러한 차이점 중 일부는 명백하지만, 즉 전체 조건이있을 때 Gibbs가 Metropolis Hastings의 특별한 사례 인 반면 Gibbs 샘플러 내에서 MH를 사용하려는 경우와 같이 다른 것은 명확하지 않습니다. 각각의 차이점을 볼 수있는 간단한 방법은 무엇입니까? 감사!

— 사용자 1398057
소스

Iain Murray 는 적어도 MCMC와 관련하여 강의 에서 이것을 훌륭하게 다루고 있습니다.

— gwr

나는 이것이 매우 광범위한 질문이라는 시안에 동의한다. 당신은 효과적으로 네 가지 다른 것들에 대한 많은 정보를 요구하고 있습니다. 그중 하나에 대한 토론 (또는 둘 사이의 대조)이 다소 긴 대답을 할 것입니다. 4 가지 모두 Monte Carlo 방법이지만 중요 샘플링 및 거부 샘플링은 MCMC가 아닙니다 (MCMC에서는 사용할 수 없다고 말하지 않음).

— Glen_b

조지 카셀라, 우리의 책에 설명 된대로 몬테 카를로 통계적 방법 ,이 방법은 밀도, 주어진 유통에서 생산 샘플에 사용되는 이 배포에 대한 아이디어를 얻을, 또는 관련 통합 또는 최적화 문제를 해결하기 위해 하나, 말 . 예를 들어, 값을 찾으려면 $f$ $f$ 또는이 분포의 Quantile 일때 또는 분포 모드.

\int_{X} h (x) f (x) d x h (X) \subset R

$\int_{\mathcal{X}} h(x) f(x)\text{d}x\qquad h(\mathcal{X})\subset \mathbb{R}$

h (X)

$h(X)$

X \sim f (x)

$X\sim f(x)$

관련 기준에 대해 언급 한 Monte Carlo 및 Markov 체인 Monte Carlo 방법을 비교하려면 문제의 배경과 시뮬레이션 실험의 목표를 설정해야합니다. 각각의 장단점이 사례마다 다르기 때문입니다.

다음은 이 문제의 복잡성을 다루지 않는 몇 가지 일반적인 설명 입니다 .

$f$ $u_1,u_2,\ldots$ $x$ $f$ $f$ $f$ $x$ $X$ $f$
$(x_t)_t$ $f$ $f$ $f$ $f (x) \propto \int_{Z} \tilde{f} (x, z) d z$ $f(x)\propto\int_{\mathcal{Z}} \tilde{f}(x,z)\text{d}z$ $(x_t)_t$ $(x_t)_t$ $x_t$ $t$ $f$ $f$ $t$
$g(x)$ $f (x) / g (x) .$ $f(x)/g(x)\,.$ $g$ $f$ $g$ $g$ $f$

I = \int_{X} h (x) f (x) d x,

$\mathcal{I}=\int_{\mathcal{X}} h(x) f(x)\text{d}x\,,$

\hat{I} = \int_{X} h (x) f (x) d x

$\hat{\mathcal{I}}=\int_{\mathcal{X}} h(x) f(x)\text{d}x$

f

$f$

— 시안
소스

f

$f$

베이지안 분석 시나리오에서 의 h(x)의미가 무엇인지 궁금합니다 h(x)f(x)dx. 우리는 이전과 데이터를 감안할 때 후방을 얻으려고 노력하고 있습니다. 그러나 이러한 모든 샘플링 방법을 사용하여 실제로 근사하려고합니다 f(x). 따라서 f(x)우리가 찾고있는 후부 h(x)라고 말할 수 f(x)있습니까? 후부와 함께 사용할 수있는 임의의 기능 일뿐 입니까? 아니면 제대로 이해하지 못했습니다. 감사.

— xji

\int_{X} h (x) f (x) d x

$\int_{\mathcal{X}} h(x) f(x)\text{d}x$

f

$f$

h

$h$