Gibbs 샘플링은 MCMC 방법입니까?


11

내가 이해하는 한 그것은 (적어도 Wikipedia가 그것을 정의 하는 방법입니다 ). 그러나 나는 Efron * (강조 추가)에 의해이 진술을 찾았습니다.

Markov 체인 Monte Carlo (MCMC)는 현대 베이지안 통계의 성공 사례입니다. MCMC와 자매 방법 인 "Gibbs sampling" 은 분석 표현에 비해 너무 복잡한 상황에서 사후 분포의 수치 계산을 허용합니다.

그리고 지금 나는 혼란스러워한다. 이것은 용어의 사소한 차이일까요, 아니면 Gibbs가 MCMC 이외의 것을 샘플링합니까?

[*] : Efron 2011, "부츠 스트랩 및 Markov-Chain Monte Carlo"

답변:


15

현재 Gibbs 샘플링 이라고하는 알고리즘은 Markov-chain을 형성하고 입력에 Monte-Carlo 시뮬레이션을 사용하므로 실제로 MCMC (Markov-Chain Monte-Carlo) 방법의 적절한 범위에 속합니다. 역사적으로, 상기 방법은 중앙 20 세기로 다시 적어도 추적 할 수 있지만, 공지되지 않았고 단지 나중의 정액 용지가 대중화되었다 Geman과 (1984) Geman 의 사용과 관련하여 통계 물리학을 조사 깁스 배포 (일부 역사 참조에 대한이 참조 Casella 조지 1992 , P. 167).

어떤 이유로 든 그의 논문은 아니지만 Efron은 Gibbs 샘플러가 마치 MCMC의 범위를 벗어난 것처럼 깁스 샘플러를 언급합니다. 그는 당신이 주신 인용문과 논문의 다른 부분에서 이것을합니다. 이 기술에 대한 그의 첫 번째 언급은 "Gibbs sampler"(따옴표로 제공)를 참조하기 때문에 원래 방법이 통계 물리학에서 Gibbs 분포를 통해 개발되었다는 역사적 사실을 암시 할 수 있습니다. MCMC의 일반적인 통계 이론은 훨씬 이후까지. 이것이 그가 왜 이런 식으로 그것을 참조하는지에 대한 나의 최선의 추측입니다.

업데이트 : Efron 교수는 여전히 살아 있기 때문에 나는 왜 그가 Gibbs 샘플러를 이런 식으로 묘사하는지 물어보기 위해 그에게 글을 쓸 자유를 얻었습니다. 그의 대답은 다음과 같습니다 (자신의 허락으로 재 생성됨).

그것은 역사적으로 주로 있었기 때문입니다 ... 반면에 Gibbs 알고리즘은 MCMC 레시피와 상당히 다르게 보이며, 어떤 의미에서는 같은지 보여주기 위해 약간의 작업이 필요합니다. (Efron 2018, 개인 서신, 줄임표 원본)


1
감사합니다! Efron 박사로부터 답변을받을 수있을 때까지 기다릴 것입니다. 그렇지 않은 경우 여전히 답변으로 선택하겠습니다.
— 가브리엘

당사 사이트를 사용함과 동시에 당사의 쿠키 정책과 개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.