Gibbs 샘플링은 MCMC 방법입니까?


11

내가 이해하는 한 그것은 (적어도 Wikipedia가 그것을 정의 하는 방법입니다 ). 그러나 나는 Efron * (강조 추가)에 의해이 진술을 찾았습니다.

Markov 체인 Monte Carlo (MCMC)는 현대 베이지안 통계의 성공 사례입니다. MCMC와 자매 방법 인 "Gibbs sampling" 은 분석 표현에 비해 너무 복잡한 상황에서 사후 분포의 수치 계산을 허용합니다.

그리고 지금 나는 혼란스러워한다. 이것은 용어의 사소한 차이일까요, 아니면 Gibbs가 MCMC 이외의 것을 샘플링합니까?

[*] : Efron 2011, "부츠 스트랩 및 Markov-Chain Monte Carlo"

답변:


15

현재 Gibbs 샘플링 이라고하는 알고리즘은 Markov-chain을 형성하고 입력에 Monte-Carlo 시뮬레이션을 사용하므로 실제로 MCMC (Markov-Chain Monte-Carlo) 방법의 적절한 범위에 속합니다. 역사적으로, 상기 방법은 중앙 20 세기로 다시 적어도 추적 할 수 있지만, 공지되지 않았고 단지 나중의 정액 용지가 대중화되었다 Geman과 (1984) Geman 의 사용과 관련하여 통계 물리학을 조사 깁스 배포 (일부 역사 참조에 대한이 참조 Casella 조지 1992 , P. 167).

어떤 이유로 든 그의 논문은 아니지만 Efron은 Gibbs 샘플러가 마치 MCMC의 범위를 벗어난 것처럼 깁스 샘플러를 언급합니다. 그는 당신이 주신 인용문과 논문의 다른 부분에서 이것을합니다. 이 기술에 대한 그의 첫 번째 언급은 "Gibbs sampler"(따옴표로 제공)를 참조하기 때문에 원래 방법이 통계 물리학에서 Gibbs 분포를 통해 개발되었다는 역사적 사실을 암시 할 수 있습니다. MCMC의 일반적인 통계 이론은 훨씬 이후까지. 이것이 그가 왜 이런 식으로 그것을 참조하는지에 대한 나의 최선의 추측입니다.

업데이트 : Efron 교수는 여전히 살아 있기 때문에 나는 왜 그가 Gibbs 샘플러를 이런 식으로 묘사하는지 물어보기 위해 그에게 글을 쓸 자유를 얻었습니다. 그의 대답은 다음과 같습니다 (자신의 허락으로 재 생성됨).

그것은 역사적으로 주로 있었기 때문입니다 ... 반면에 Gibbs 알고리즘은 MCMC 레시피와 상당히 다르게 보이며, 어떤 의미에서는 같은지 보여주기 위해 약간의 작업이 필요합니다. (Efron 2018, 개인 서신, 줄임표 원본)


1
감사합니다! Efron 박사로부터 답변을받을 수있을 때까지 기다릴 것입니다. 그렇지 않은 경우 여전히 답변으로 선택하겠습니다.
가브리엘

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.