마르코프 체인에 대한 중앙 한계 정리

$\newcommand{\E}{\mathbb{E}}$$\newcommand{\P}{\mathbb{P}}$ CLT (Central Limit Theorem)는 독립적이고 동일하게 분포 된 (iid) 및 이면 합은 정규 분포로 로 수렴됩니다 . $X_1,X_2,\dots$$\E[X_i]=0$$\operatorname{ Var} (X_i)<\infty$$n\to\infty$

$$\sum_{i=1}^n X_i \to N\left(0, \sqrt{n}\right).$$

대신 $X_1,X_2,\dots$ 는 고정 분포 $\P_\infty$ 와 기대 값 0 및 경계 분산을 갖는 유한 상태 마르코프 체인을 형성 한다고 가정하십시오 . 이 경우에 간단한 CLT 확장이 있습니까?

Markov Chains에 대한 CLT에서 찾은 논문은 일반적으로 훨씬 일반적인 경우를 다룹니다. 관련 일반 결과에 대한 포인터와 그 적용 방법에 대해 설명해 주셔서 감사합니다.

Alex R.의 대답은 거의 충분하지만 몇 가지 자세한 내용을 추가합니다. 에서 중심 극한 정리 마르코프 체인에 - Galin L. 존스 , 당신은 정리 (9)를 보면, 그것이 말하는,

경우 고정 분포 해리스 에르고 마르코프 체인 , 다음 CLT 찾는 보유 만약 균일 에르고하고 .$X$$\pi$$f$$X$$E[f^2] < \infty$

유한 상태 공간의 경우, 모든 돌이킬 수없고 비주기적인 마르코프 체인은 균일하게 인체 공학적입니다. 이에 대한 증거는 마르코프 연쇄 이론의 상당한 배경을 포함합니다. 여기서 정리 18의 맨 아래에 좋은 참조가있을 것 입니다.

따라서 Markov 체인 CLT는 유한 한 순간을 가진 모든 함수 를 유지합니다 . CLT의 형식은 다음과 같습니다.$f$

하자 시간의 추정 평균화 , 다음 알렉스 R. 같이 지적으로 , $\bar{f}_n$$E_{\pi}[f]$$n \to \infty$

$$\bar{f}_n = \frac{1}{n} \sum_{i=1}^n f(X_i) \overset{\text{a.s.}}{\to} E_\pi[f].$$

Markov 체인 CLT는

$$\sqrt{n} (\bar{f}_n - E_\pi[f]) \overset{d}{\to} N(0, \sigma^2),$$

여기서

$$\sigma^2 = \underbrace{\operatorname{Var}_\pi(f(X_1))}_\text{Expected term} + \underbrace{2 \sum_{k=1}^\infty \operatorname{Cov}_\pi(f(X_1), f(X_{1+k}))}_\text{Term due to Markov chain}.$$

용어에 대한 파생 내용 은 Charles Geyer의 MCMC 메모 8 페이지 및 9 페이지에서 확인할 수 있습니다 .$\sigma^2$

Markov Chains의 "일반적인"결과는 Birkhoff Ergodic Theorem입니다.

$$\frac{1}{n}\sum_{i=1}^nf(X_i)\rightarrow E_{\pi}[f],$$

여기서 는 고정 분포이고, 는 충족 하며 수렴은 거의 확실합니다.$\pi$$f$$E|f(X_1)|<\infty$

불행히도이 수렴의 변동은 일반적으로 매우 어렵습니다. 이는 가 고정 분포 에 얼마나 빨리 수렴 되는지에 대한 전체 변형 범위를 파악하기가 매우 어려워서 발생합니다 . 변동이 CLT와 유사한 알려진 사례가 있으며, 표류 에서 유추를 유지하는 몇 가지 조건을 찾을 수 있습니다 . Markov Chain Central Limit Theorem-Galin L. Jones (Theorem 1 참조).$X_i$$\pi$

어리석은 상황, 예를 들어 하나의 상태를 흡수하는 두 상태의 체인 (예 : 및 있습니다.이 경우 변동이 없으며 퇴화 정규 분포 (상수)로 수렴합니다.$P(1\rightarrow 2)=1$$P(2\rightarrow 1)=0$