해밀턴 몬테카를로 vs. 순차 몬테카를로

이 두 가지 MCMC 체계의 다른 응용 분야뿐만 아니라 상대적인 장점과 단점을 느끼려고합니다.

mcmc random-walk particle-filter probabilistic-programming hmc

— 아스트리드
소스

SMC는 MCMC 기술이 아닙니다. 즉 SMC를 사용할 때 구성되는 Markov 체인이 없습니다.

— jaradniemi

때로는 smc 내에서 mcmc를 사용합니다. 때로는 mcmc 내에서 smc를 사용하기도합니다. 글을 쓰는 시점에서 나는 hmc와 smc의 사용을 결합한 논문을 모른다.

— Taylor

SMC (일명 입자 필터링)와 HMC의 관계를 더 잘 이해하고 싶습니다. 질문 주셔서 감사합니다! 나는이 논문에 주목한다.이 글은 언뜻 보면 두 가지 접근법의 일종의 융합을 나타내는 것으로 보인다 : arxiv.org/pdf/1504.05715v2.pdf

— David C. Norris

Hamiltonian Monte Carlo는 "이상한"형태의 연속적인 대상 분포를 잘 수행합니다. 목표 분포는 기본적으로 목표 분포의 기울기를 사용하여 어디로 가야하는지에 따라 차별화 할 수 있어야합니다. 완벽한 예는 바나나 모양의 기능입니다.

다음은 바나나 기능의 표준 메트로폴리스 헤이스팅스입니다. 합격률 66 % 및 매우 낮은 적용 범위.

HMC의 경우 : 적용 범위가 99 %로 우수합니다.

피 (θ | {와이}_{1}), 피 (θ | {와이}_{1}, {와이}_{2}), . . ., 피 (θ | {와이}_{1}, {와이}_{2}, . . ., {와이}_{엔})

$P(\theta|y_1) \;,\; P(\theta|y_1,y_2)\;,\;... \;,\; P(\theta|y_1,y_2,...,y_N)$

예를 들어이 시퀀스는 SMC의 훌륭한 대상입니다.

SMC의 병렬 특성으로 인해 분산 / 병렬 컴퓨팅에 특히 적합합니다.

개요:

HMC : 길고 이상한 대상에게 좋습니다. 비 연속 기능에서는 작동하지 않습니다.
SMC : 복합적이고 비 연속적인 경우에 적합합니다. 높은 차원의 이상한 모양을 위해 느리게 수렴하거나 더 많은 컴퓨팅 성능을 사용할 수 있습니다.

출처 : 대부분의 이미지는 필자가 2 가지 방법 (해밀턴 순차 몬테카를로)을 결합한 논문 에서 발췌 한 것입니다. 이 조합은 매우 높은 차원에서도 우리가 던질 수있는 거의 모든 분포를 시뮬레이션 할 수 있습니다.

— 레미 다브
소스

좋고 명확합니다. +1. 왜 이것이 더 많은 투표를하지 않는지 모릅니다!

— arboviral

관심있는 사람들을위한 논문은 다음과 같습니다. remidaviet.com/files/HSMC-paper.pdf

— stackoverflax