제한된 매개 변수 공간의 MCMC?

MCMC를 문제에 적용하려고하는데 내 사전 (내 경우에는 )이 영역으로 제한됩니까? 일반 MCMC를 사용하고 제한된 영역을 벗어나는 샘플을 무시할 수 있습니까 (제 경우에는 [0,1] ^ 2 임), 즉 새 전환이 제한된 (제한된) 영역에서 벗어날 때 전환 기능을 재사용 할 수 있습니까? $\alpha\in[0,1],\beta\in[0,1]$

— 큐 피터
소스

살펴보십시오 : xianblog.wordpress.com/tag/constrained-parameter-spaces

— Zen

@ 젠, 나는 확실하지 않지만 Xian이 제안한 대답은 하위 샘플링이지만 MH를 사용하는 대신 Gibbs 샘플러를 사용하고 치수 값 중 하나가 경계를 초과하면 반복한다는 것입니다.

— Cupitor

MH가 매개 변수 공간 외부에서 무언가를 제안하면 합격 확률은 설정 되고 모든 것이 잘 작동합니다. MH가 을 해석한다고 생각합니다 ( 측정 이론에서 의 표현 ).

0

$0$

0 / 0

$0/0$

0

$0$

0 \cdot \infty = 0

$0 \cdot \infty = 0$

— guy

@guy이지만 xian의 페이지 (Zen의 링크 위)에 대한 토론에 따르면 Gibbs는 아무런 이유도 언급하지 않고 우월한 것처럼 보입니다!

— 큐 피터

@Cupitor 나는 그가 그렇게 말하는 것을 보지 못했습니다. 나는 가브리엘이 깁스 안에서 메트로폴리스를하고 있었다는 것을 의미한다고 생각한다.

— guy

몇 가지 간단하고 간단한 옵션이 있습니다. 당신의 균일 한 사전은 그것들을 더 단순하게 만들어줍니다.

옵션 1 : 독립 샘플러. 제안서 분포를 단위 제곱에 대한 균일 분포와 동일하게 설정하면 샘플을 호출 할 때 제한 구역을 벗어나지 않습니다. 잠재적 인 단점 : 후방이 단위 사각형의 매우 작은 영역에 집중되면 수용 률이 매우 낮을 수 있습니다. OTOH, U (0,1) 분포보다 더 빠른 난수 생성이 어렵습니다. 잠재적 인 거꾸로 : 적은 작업.

옵션 2 : 한계가없는 것으로 매개 변수를 변환하고 변환 된 매개 변수를 제안한 다음 가능성 함수에 사용하기 위해 매개 변수를 다시 변환하십시오. 이 경우 이전은 변환 된 매개 변수에 관한 것입니다. 이는 제안한 것이기 때문에 새로운 이전을 얻으려면 변환의 Jacobian을 엉망으로 만들어야합니다. 물론 분석을 위해 MCMC 생성 매개 변수 난수를 원래 매개 변수로 다시 변환합니다. 잠재적 인 단점 : 더 많은 초기 작업. Pptential upside : 제안에 대한 더 나은 수락 률.

옵션 3 : 단위 제곱에있는 독립 샘플러 이외의 제안서 배포를 구성합니다. 따라서 제안서 확률을 계산할 때 사전에 균일 한 상태를 유지할 수 있지만 복잡성이 커집니다. 모수 중 하나의 현재 값으로 설정하는 이 예는 모수 가 포함 된 베타 분포입니다 . 이 클수록 제안서가 현재 가치에 더 집중됩니다. 잠재적 인 단점 : 더 많은 초기 작업. Pptential upside : 제안에 대한 수용 률 향상 너무 크게하고 모퉁이 근처로 이동하면 나가기 전에 모퉁이에서 작은 움직임을 많이 일으킬 수 있습니다. $x$ $(nx, n(1-x))$ $n$ $n$

옵션 4 : 단위 광장을 벗어나는 제안은 거부하십시오 (시안의 반건의 제안). 이는 다른 제안서를 생성하는 것과는 다릅니다. 이 경우 제안을 거부합니다. 즉, 매개 변수의 다음 값이 매개 변수의 현재 값과 동일합니다. 이것은 매개 변수 공간의 일부 영역에 대해 사전 확률이 0이고 해당 영역에 속하는 임의의 숫자를 생성하면 발생하기 때문에 작동합니다. 잠재적 인 단점 : 모퉁이 근처에 가면 수용 확률이 낮아 잠시 동안 고착 될 수 있습니다. 잠재적 인 거꾸로 : 적은 작업.

옵션 5 : 단위 사각형에서 직면하는 실제 문제와 동일한 평면에 확장 문제를 생성하고 모든 것을 올바르게 수행 한 다음 MCMC 샘플링 결과를 후 처리 할 때 모든 샘플을 외부로 버립니다. 단위 광장의. 잠재적 인 거꾸로 : 확장 된 문제를 만들기가 매우 쉬운 경우에는 효과가 떨어질 수 있습니다. 잠재적 인 단점 : Markov 체인이 잠시 동안 사각형 외부 어딘가에서 방황하면 대부분의 샘플을 버릴 수 있기 때문에 끔찍한 수용 확률을 가질 수 있습니다.

의심의 여지없이 다른 옵션이 있습니다. 다른 사람들이 제안하는 것을보고 싶습니다.

$n$

— 보보 맨
소스

투표하세요! 이러한 철저한 답변에 감사드립니다. 그러나 따라야 할 몇 가지 사항이 있습니다 .1) 실제로 매개 변수 공간은 정사각형의 선 세그먼트에서 나오므로 균일 한 샘플링으로 얻는 것이 실제로 어렵습니다. 2) 이것은 실제로 좋은 생각이 아닌 것 같습니다. 간단한 예시를 제공하기 위해 외부 영역의 확률을 0으로 설정하여 경계 샘플을 확장하는 것을 상상해보십시오! 이것은 수렴 과정을 매우 느리게 만들 것입니다. 아마도 서브 샘플링과 비슷할 것입니다

— Cupitor

3)이 아이디어의 문제점은 제안이 되돌릴 수 없으므로 결과 샘플링 체계가 더 이상 인체 공학적이지 않을 수 있다는 것입니다!

— Cupitor

4) 내가 시도하고 합리적으로 보이는 방식입니다 (IMH!) 5)이 두 가지 사례는 2에서 언급 한 사례로 인해 어려움을 겪는 것으로 보입니다.

— Cupitor

(0, inf)

$(0,\inf)$

x \in (0, 1)

$x \in (0,1)$

β

$\beta$

α = 2.5

$\alpha=2.5$

(0.5, 1)

$(0.5,1)$

α = 3.2

$\alpha=3.2$

(0, 0.8)

$(0,0.8)$

α = 0.2

$\alpha=0.2$

(0.2, 0)

$(0.2,0)$