좋은 Gibbs 샘플링 자습서 및 참조


29

Gibbs Sampling의 작동 방식을 배우고 싶은 중급 용지에 적합한 기본 용지를 찾고 있습니다. 컴퓨터 과학 배경과 기본 통계 지식이 있습니다.

누구든지 좋은 자료를 읽었습니까? 어디서 배웠어요?

감사


2
인터넷 검색 "Gibbs sampling"은 주제에 대한 다양한 견해를 얻는 나쁜 방법이 아닙니다. "회의적인 마음"으로 접근하는 경향이 있기 때문에 시작하는 좋은 방법이라고 생각합니다. Google 단어를 당연한 것으로 받아 들일 수 없으므로 다양한 견해를 찾아야합니다. 물론 나중에 구현할 때 평판이 좋은 소스가 필요할 수 있습니다. 그러나 "유명한 출처"로 시작하는 것이 항상 최선의 아이디어는 아닙니다. 왜냐하면 그들이 무언가를하는 특정한 방식에 아주 잘 연결되어 있기 때문입니다. 즉, 그들은 "올바른 길"을 알고 있고 "다른 모든 사람들은 잘못되었거나 비효율적"입니다.
chanceislogic

3
(+1) 인터넷 검색에서 쉽게 대답 할 수있는 질문은 일반적으로 환영받지 않지만이 IMO는 Google 순위에서 할 수없는 방식으로 커뮤니티의 집단적 지혜를 활용하려고합니다. 사람들 이이 자료를 배우는 데 실제로 어떤 출처가 유용한 지 보는 것은 흥미로울 것 입니다.
whuber

4
그게 문제 야. Google은 너무 많은 결과를 반환하며 모든 논문이나 튜토리얼이 충분히 명확하지는 않습니다.
fabrizioM

답변:


19

나는 시작할 것이다 :

카셀라, 조지; George, Edward I. (1992). " Gibbs 샘플러 설명 ". 미국 통계 학자 46 (3) : 167–174. ( 무료 PDF )

개요 : Gibbs 샘플러와 같은 컴퓨터 중심의 알고리즘은 응용 및 이론 작업 모두에서 점점 더 널리 사용되는 통계 도구가되었습니다. 그러나 이러한 알고리즘의 속성은 때때로 명확하지 않을 수 있습니다. 여기에서는 Gibbs 샘플러의 작동 방식과 이유에 대한 간단한 설명을 제공합니다. 우리는 간단한 경우에 속성을 분석적으로 설정하고 더 복잡한 경우에 대한 통찰력을 제공합니다. 여러 가지 예가 있습니다.

American Statistician 은 종종 주제에 대한 사전 지식이 없다고 생각하는 짧은 초급 기사의 좋은 소스입니다. 그러나 미국 회원에게는 합리적으로 예상 할 수있는 확률과 통계에 대한 배경 지식이 있다고 가정합니다. 통계 협회 .


12

Gibbs Sampling을 이해하는 데 실제로 도움이 된 한 온라인 기사는 Gregor Heinrich의 텍스트 분석위한 매개 변수 추정입니다 . 일반적인 Gibbs 샘플링 튜토리얼은 아니지만 문서 모델링을 위해 상당히 인기있는 베이지안 모델 인 잠재 디리 클릿 할당 측면에서 설명합니다. 수학에 대해 자세히 설명합니다.

더 철저한 수학적 세부 사항에 들어가는 것은 미개척자를위한 깁스 샘플링입니다 . 그리고 그것은 당신이 다변량 미적분학을 알고 있다고 가정하고 그 시점에서 모든 단계를 제시한다는 점에서 철저합니다. 따라서 많은 수학이 있지만 그 중 어느 것도 진보되지 않았습니다.

나는 이것이 Gibbs 샘플링이 올바른 분포로 수렴하는 이유를 입증하는 것과 같이 더 고급 결과를 도출하는 무언가가 당신에게 더 유용 할 것이라고 생각합니다. 내가 지적한 참조는 이것을 증명하지 못한다.


2

Scientific Computing의 Monte Carlo Strategies 책 은 훌륭한 자료입니다. 수학적으로 엄격한 방식으로 문제를 해결하지만 관심이없는 수학 섹션을 쉽게 건너 뛰어도 여전히 실용적인 조언을 얻을 수 있습니다. 특히 Metropolis-Hastings와 Gibbs 샘플링을 함께 연결하는 것이 중요합니다. 대부분의 응용 프로그램에서는 Gibbs 샘플링을 사용하여 사후 분포에서 추출해야하므로 그것이 Metropolis의 논리에 어떻게 적합한 지 아는 것이 도움이됩니다.

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.