«mcmc» 태그된 질문

Metropolis-Hastings 및 Gibbs 샘플링과 같은 MCMC 알고리즘은 공동 후방 분포에서 샘플링하는 방법입니다. 저는 대도시의 번거 로움을 이해하고 쉽게 구현할 수 있다고 생각합니다. 어떻게 시작점을 선택하고 사후 밀도와 제안 밀도에 따라 무작위로 '매개 변수 공간을 걷습니다'. Gibbs 샘플링은 한 번에 하나의 매개 변수 만 업데이트하고 다른 매개 변수는 일정하게 유지하여 효과적으로 …

15 bayesian  mcmc  gibbs 

MCMC를 사용하여 혼합 모델을 추정 할 때 라벨 전환 (즉, 사후 분포는 컴포넌트 라벨 전환에 불변)이 문제가됩니다. 이 문제를 다루는 표준 방법이 있습니까? 표준 접근 방식이 없다면 라벨 전환 문제를 해결하기위한 주요 접근 방식의 장단점은 무엇입니까?

15 bayesian  mcmc  mixture 

SAS를 사용하여 Markov 체인을 이해하려고합니다. Markov 프로세스는 미래 상태가 현재 상태에만 의존하고 과거 상태에는 의존하지 않으며 하나의 상태에서 다른 상태로의 전환 확률을 캡처하는 전환 행렬이 있음을 이해합니다. 그러나 나는이 용어를 보았습니다 : Markov Chain Monte Carlo. Markov Chain Monte Carlo가 위에서 설명한 Markov 프로세스와 관련이 있는지 알고 싶습니다.

15 probability  simulation  mcmc  monte-carlo  markov-process 

지난 몇 주 동안 저는 MCMC와 Metropolis-Hastings 알고리즘을 이해하려고 노력했습니다. 내가 그것을 이해할 때마다 나는 내가 틀렸다는 것을 깨닫는다. 내가 찾은 대부분의 코드 예제는 설명과 일치하지 않는 것을 구현합니다. 즉, 그들은 Metropolis-Hastings를 구현한다고 말하지만 실제로는 랜덤 워크 대도시를 구현합니다. 다른 것들은 (거의 항상) 대칭 제안 분포를 사용하고 있기 때문에 헤이스팅스 …

15 mcmc  metropolis-hastings 

난 그냥 사용하는 방법을 배우게하기 시작했습니다 스탠 와 rstan. JAGS / BUGS의 작동 방식에 대해 항상 혼란스러워하지 않는 한, 모델의 모든 매개 변수에 대해 사전에 어떤 종류의 사전 분포를 정의해야한다고 생각했습니다. 그러나 설명서를 기반으로 Stan 에서이 작업을 수행하지 않아도됩니다. 여기 그들이 제공하는 샘플 모델이 있습니다 . data { int<lower=0> J; …

15 mcmc  prior  jags  graphical-model  stan 

누군가 Hamiltonian Monte Carlo 방법의 기본 아이디어를 설명 할 수 있습니까? 그렇다면 Markov Chain Monte Carlo 방법보다 더 나은 결과를 얻을 수 있습니까?

14 bayesian  mcmc  hmc 

일련의 테스트 밀도에서 여러 가지 다른 알고리즘의 성능을 비교하는 MCMC 방법에 대한 대규모 연구가 있었습니까? Rios and Sahinidis의 논문 (2013) 과 비슷한 것을 생각 하고 있는데 , 이는 여러 클래스의 테스트 기능에 대한 많은 파생없는 블랙 박스 최적화 프로그램을 철저히 비교 한 것입니다. MCMC의 경우, 성능은 예를 들어 밀도 평가 …

14 machine-learning  bayesian  references  mcmc 

Q : Dirichlet Process를 사용하여 데이터를 클러스터링하는 표준 방법은 무엇입니까? Gibbs 샘플링을 사용하면 샘플링 중에 클러스터가 나타나고 사라집니다. 게다가 사후 분포가 군집 재 표식에 변동이 없기 때문에 식별 가능성 문제가 있습니다. 따라서 우리는 어느 사용자의 클러스터인지를 말할 수 없지만 두 명의 사용자가 동일한 클러스터에 있다고 말할 수 있습니다 (즉, ).p(ci=cj)p(ci=cj)p(c_i=c_j) …

14 bayesian  clustering  mcmc  dirichlet-process  identifiability 

Gelman 및 Rubin 진단은 병렬로 실행되는 여러 mcmc 체인의 수렴을 확인하는 데 사용됩니다. 체인 내 분산과 체인 간 분산을 비교하면 노출은 다음과 같습니다. 단계 (각 매개 변수) : 과도하게 분산 된 시작 값에서 길이 2n의 m ≥ 2 체인을 실행하십시오. 각 체인에서 첫 번째 n 추첨을 버리십시오. 체인 내 및 …

14 mcmc  convergence  covariance-matrix 

나는 MCMC와 관련된 강의를하고있었습니다. 그러나 나는 그것이 어떻게 사용되는지에 대한 좋은 예를 찾지 못했습니다. 누구든지 구체적인 예를 들어 줄 수 있습니까? 내가 볼 수있는 것은 Markov 체인을 실행하고 고정 분포가 원하는 분포라고 말합니다. 원하는 분포를 샘플링하기 어려운 좋은 예를 원합니다. Markov 체인을 만듭니다. Markov 체인의 고정 분포가 대상 분포가되도록 전이 …

14 probability  bayesian  mcmc  markov-process 

Metropolis 샘플러 (C ++)를 실행 중이며 이전 샘플을 사용하여 수렴 률을 추정하려고합니다. 내가 찾은 진단을 쉽게 구현할 수있는 Geweke 진단 은 두 표본 평균의 차이를 추정 된 표준 오차로 나눈 값을 계산합니다. 표준 오차는 0의 스펙트럼 밀도로부터 추정됩니다. Zn=θ¯A−θ¯B1nASAθ^(0)+1nBSBθ^(0)−−−−−−−−−−−−−−−−√,Zn=θ¯A−θ¯B1nASθA^(0)+1nBSθB^(0),Z_n=\frac{\bar{\theta}_A-\bar{\theta}_B}{\sqrt{\frac{1}{n_A}\hat{S_{\theta}^A}(0)+\frac{1}{n_B}\hat{S_{\theta}^B}(0)}}, 여기서 , B 는 Markov 체인 내에있는 두 개의 창입니다. 나는 …

14 mcmc  diagnostic 

대칭 제안이 포함 된 랜덤 워크 메트로폴리스-하 스팅 q(x|y)=g(|y−x|)q(x|y)=g(|y−x|)q(x|y)= g(|y-x|) 에는 합격 확률이 P(accept y)=min{1,f(y)/f(x)}P(accept y)=min{1,f(y)/f(x)}P(accept\ y) = \min\{1, f(y)/f(x)\} 제안 에 의존하지 않습니다 .g(⋅)g(⋅)g(\cdot) 그것은 체인의 마코 비안에 영향을 미치지 않으면 서 를 체인의 이전 성능의 함수로 변경할 수 있습니까?지( ⋅ )지(⋅)g(\cdot) 특히 관심있는 것은 수락 률의 함수로 일반 …

14 mcmc  metropolis-hastings 

가역 점프 MCMC를 위해 잘 작성된 코드 (Matlab 또는 R)를 알고 있습니까? 바람직하게는 주제에 대한 논문을 보완하기위한 간단한 데모 애플리케이션으로, 프로세스를 이해하는 데 유용합니다.

14 r  matlab  references  mcmc 

모델의 매개 변수를 추정하기위한 코드를 작성하기 위해 Metropolis-Hastings 알고리즘을 이해하려고 노력했습니다 (예 : f(x)=a∗xf(x)=a∗xf(x)=a*x ). 참고 문헌에 따르면 Metropolis-Hastings 알고리즘에는 다음 단계가 있습니다. 생성 Yt∼q(y|xt)Yt∼q(y|xt)Y_t \sim q(y|x^t) Xt+1={Yt,xt,with probabilityρ(xt,Yt),with probability1−ρ(xt,Yt),Xt+1={Yt,with probabilityρ(xt,Yt),xt,with probability1−ρ(xt,Yt),X^{t+1}=\begin{cases} Y^t, & \text{with probability} \quad \rho(x^t,Y_t), \\ x^t, & \text{with probability} \quad 1-\rho(x^t,Y_t), \end{cases} ρ(x,y)=min(f(y)f(x)∗q(x|y)q(y|x),1)ρ(x,y)=min(f(y)f(x)∗q(x|y)q(y|x),1)\rho(x,y)=\min \left( \frac{f(y)}{f(x)}*\frac{q(x|y)}{q(y|x)},1 \right) …

14 mcmc  metropolis-hastings 

Markov chain Monte Carlo (MCMC)의 다양한 응용 분야에 대한 좋은 요약 (리뷰, 서적)이 있습니까? 나는 본 적이 연습에 마르코프 체인 몬테 카를로을 하지만,이 책은 좀 오래된 것 같습니다. 머신 리닝, 컴퓨터 비전 및 컴퓨터 생물학과 같은 영역에서 MCMC의 다양한 응용 프로그램에 대한 추가 업데이트 책이 있습니까?

14 machine-learning  mcmc  inference  references  application