세부 균형을 충족하는 MCMC가 고정 분포를 생성합니까?

전이 확률 와 정지 분포 에 대해 Markov Chain은 경우 상세 균형을 만족 한다는 상세 균형 조건의 방정식을 이해합니다.π q ( x | y ) π ( y ) = q ( y | x ) π ( x ) $q$$\pi$

$$q(x|y)\pi(y)=q(y|x)\pi(x),$$

다음과 같이 다시 말하면 나에게 더 의미가 있습니다.

$$\frac{q(x|y)}{q(y|x)}= \frac{\pi(x)}{\pi(y)}.$$

기본적으로 상태 에서 상태 로의 전환 확률은 확률 밀도의 비율에 비례해야합니다.$x$$y$

세부 균형을 충족하는 MCMC가 항상 고정 분포를 산출하는 것은 사실이 아닙니다. 또한 인체 공학적 프로세스가 필요합니다 . 이유를 보자 :

고려 설정 가능한 모든 상태의 상태로하고, 인덱스를 식별 . 마르코프 프로세스에서 분포 는$x$$i$$p_t(i)$

$$p_t(i) = \sum_{j} \Omega_{j \rightarrow i} p_{t-1}(j)$$

여기서 는 전이 확률 ( )을 나타내는 행렬입니다 .$\Omega_{j \rightarrow i}$$q(x|y)$

그래서 우리는

$$p_t(i) = \sum_{j} (\Omega_{j \rightarrow i})^t p_{0}(j)$$

사실 그 전이 확률이 고유치는 구간 [0,1]에 속해 있어야한다는 것을 의미한다.$\Omega_{j \rightarrow i}$

것을 보장하기 위해 어떠한 초기 유통 점근 하나에 수렴, 당신이 있는지 확인해야$p_{0}(j)$

• 1 값이 1 인 고유 값은 하나 뿐이며 0이 아닌 고유 벡터가 있습니다.$\Omega$

되도록하려면 점근 분포, 당신은 있는지 확인해야합니다$\pi$

• 2 고유 값 1과 관련된 고유 벡터는 입니다.$\pi$

Ergodicity는 1., 자세한 균형은 2.를 의미하며, 이는 두 가지 모두 점근 적 수렴 조건을 형성하는 이유입니다.

자세한 잔액이 2를 의미하는 이유 :

에서 출발

$$p(i)\Omega_{ij} = \Omega_{ji} p(j)$$

그리고 양쪽에서 를 합하면$j$

$$p(i) = \sum_{j}\Omega_{ji} p(j)$$

때문에 , 어딘가에 당신 이후 항상 교통.$\sum_{j} \Omega_{ij} = 1$

위의 방정식은 고유 값 1의 정의입니다 (벡터 형식으로 작성하는 것이 더 쉽습니다).

$$1.v = \Omega\cdot v$$

자세한 균형이 충족되면 돌이킬 수없는 MC의 경우 고유 한 고정 분포가 있지만 초기 분포와 독립적이기 위해서는 비 주기적이어야하기 때문에 그렇게 생각합니다.

MCMC의 경우 데이터 포인트에서 시작하여 새 포인트를 제안합니다. 우리는 제안 된 지점으로 이동할 수도 있고 그렇지 않을 수도 있습니다. 즉, 우리는 돌이킬 수없는 MC를 비 주기적으로 만드는 자기 루프를 가지고 있습니다.

이제 DB를 만족시키기 때문에 긍정적 인 반복 상태가 있습니다. 즉 상태로의 평균 반환 시간은 유한합니다. 우리가 MCMC에서 구성하는 체인은 돌이킬 수없고, 비주기적이고, 긍정적 인 반복입니다. 즉, 그것은 인체 공학적 체인입니다.

우리는 돌이킬 수없는 인체 공학적 체인의 경우 초기 배포와 독특하고 독립적 인 고정 배포가 존재한다는 것을 알고 있습니다.