Metropolis-Hastings 대신 Gibbs 샘플링을 언제 사용합니까?

MCMC 알고리즘에는 여러 종류가 있습니다.

• 대도시 해 스팅
• 깁스
• 중요성 / 거부 샘플링 (관련).

Metropolis-Hastings 대신 Gibbs 샘플링을 사용하는 이유는 무엇입니까? Metropolis-Hastings보다 Gibbs 샘플링에서 추론이 더 다루기 쉬운 경우가 있다고 생각하지만 구체적인 내용은 명확하지 않습니다.

먼저 [언젠가는]

MCMC 알고리즘에는 Metropolis-Hastings, Gibbs, 중요도 / 거부 샘플링 (관련)과 같은 여러 종류가 있습니다.

$f$ 말하지만 중요한 가중치 만 $\omega$ 몬테카를로에서 사용되는 적분의 근사치 $f$. 이러한 가중치를 확률로 사용하여 샘플을 생성한다고해서 적절한 샘플이 생성되지는 않습니다.$f$, 편견없는 기대치 추정치 하에서 $f$ 생산할 수 있습니다.

둘째, 질문

Metropolis-Hastings 대신 Gibbs 샘플링을 사용하는 이유는 무엇입니까? Metropolis-Hastings보다 Gibbs 샘플링에서 추론이 더 다루기 쉬운 경우가 있다고 생각합니다.

Metropolis-Hastings 샘플러는 Gibbs 샘플러를 포함하여 거의 모든 것이 될 수 있다는 대답이 없습니다. 나는 이전의 비슷한 질문에 대해 좀 더 자세한 용어 로 대답 했다. 그러나 여기에 중복 점이있는 경우 몇 가지를 추가하겠습니다.

Gibbs 샘플링이 도입 된 주된 이유는 여전히 올바른 목표에 수렴하는 일련의 낮은 차원 시뮬레이션을 생성하여 차원의 저주 (거부 및 중요도 샘플링에 영향을 미침)를 깨뜨리는 것이 었습니다. 대상의 치수가 수렴 속도에 영향을 주더라도. Metropolis-Hastings 샘플러는 수락 거부 단계를 통해 잘못된 밀도를 수정하여 제안 (중요도 및 거부 샘플링과 같은)을 기반으로 Markov 체인 (예 : Gibbs 샘플링)을 생성하도록 설계되었습니다. 그러나 중요한 점은 반대되는 것이 아니라는 것입니다. 즉, Gibbs 샘플링은 저 차원 조건부 대상인 경우 복잡한 문제에 직면 할 때 Metropolis-Hastings 단계가 필요할 수 있지만 Metropolis-Hastings 제안은 (Gibbs) 전체 조건에 대한 근사치에 기반 할 수 있습니다. 공식적인 정의에서 깁스 샘플링은 Metropolis-Hasting 알고리즘의 특별한 경우로, 하나를 받아 들일 확률이 있습니다. (그런데, 나는통계적 목적을 위해 예약 할 것이기 때문에 그 인용구를 추론 하는 반면, 그 표본은 수치 장치입니다.)

일반적으로 Gibbs 샘플링 (낮은 차원 조건부 시뮬레이션을 실행하는 것으로 이해 됨)은 이러한 조건부로의 분해가 구현하기 쉽고 빠르게 실행되는 설정에서 선호됩니다. 이러한 분해가 다중 양식을 유도하고 따라서 모드 간 이동이 어려워 (혼합 모델과 같은 잠재 가변 모델이 떠오를 때) 설정에서 Metropolis-Hasting 알고리즘에서보다 전체적인 제안을 사용하면 효율성이 높아질 수 있습니다. 그러나 단점은 Metropolis-Hasting 알고리즘에서 제안서 배포를 선택하는 것입니다.