혼합 분포에 대한 역 CDF 샘플링

상황에 맞지 않는 짧은 버전

허락하다 $y$ CDF와 함께 임의 변수

F (\cdot) \equiv {\begin{cases} θ & y = 0 \\ θ + (1 - θ) \times {CDF}_{log-normal} (\cdot; μ, σ) & y > 0 \end{cases}

$F(\cdot) \equiv \cases{\theta & y = 0 \\ \theta + (1-\theta) \times \text{CDF}_{\text{log-normal}}(\cdot; \mu, \sigma) & y > 0}$

내가 무승부를 시뮬레이션하고 싶다고 가정 해 봅시다. $y$ 역 CDF 방법을 사용합니다. 가능합니까? 이 함수는 정확히 역수를 갖지 않습니다. 그런 다음 다시 두 개의 정규 분포의 혼합 분포에 대한 역변환 샘플링이 있습니다. 여기에서 역변환 샘플링을 적용하는 알려진 방법이 있음을 나타냅니다.

2 단계 방법을 알고 있지만 내 상황에 적용하는 방법을 모르겠습니다 (아래 참조).

배경이있는 긴 버전

벡터 값 응답에 다음 모델을 적용했습니다. $y^i = \left( y_1 , \dots , y_K \right)^i$ , MCMC (특히 Stan)를 사용하는 경우 :

θ_{k}^{i} \equiv {logit}^{- 1} (α_{k} x^{i}), μ_{k}^{i} \equiv β_{k} x^{i} - \frac{σ_{k}^{2}}{2} F (\cdot) \equiv {\begin{cases} θ & y = 0 \\ θ + (1 - θ) \times {CDF}_{log-normal} (\cdot; μ, σ) & y > 0 \end{cases} u_{k} \equiv F (y_{k}), z_{k} \equiv Φ^{- 1} (u_{k}) z \sim N (0, R) \times \prod_{k} f (y_{k}) (α, β, σ, R) \sim priors

$\theta_k^i \equiv \operatorname{logit}^{-1}\left( \alpha_k x^i \right), \quad \mu_k^i \equiv \beta_k x^i - \frac{ \sigma^2_k }{ 2 } \\ F(\cdot) \equiv \cases{\theta & y = 0 \\ \theta + (1-\theta) \times \text{CDF}_{\text{log-normal}}(\cdot; \mu, \sigma) & y > 0} \\ u_k \equiv F(y_k), \quad z_k \equiv\Phi^{-1}{\left( u_k \right)} \\ z \sim \mathcal{N}(\mathbf{0}, R) \times \prod_k f(y_k) \\ \left( \alpha, \beta, \sigma, R \right) \sim \text{priors}$

어디 $i$ 인덱스 $N$ 관찰, $R$ 상관 행렬이고 $x$ 예측 변수 / 회귀 변수 / 기능으로 구성된 벡터입니다.

즉, 내 모델은 반응의 조건부 분포가 0으로 팽창 된 로그 정규 마진을 갖는 가우시안 copula로 가정되는 회귀 모델입니다. 이전에이 모델에 대해 게시했습니다. Song, Li 및 Yuan (2009, gated )이이를 개발했으며이를 벡터 GLM 또는 VGLM이라고합니다. 다음은 내가 얻을 수있는 그대로 그대로의 사양입니다.

f (y; μ, φ, Γ) = c {G_{1} (y_{1}), \dots, G_{m} (y_{m}) | Γ} \prod_{i = 1}^{m} g (y_{i}; μ_{i}, φ_{i}) c (u | Γ) = {| Γ |}^{- 1 / 2} \exp (\frac{1}{2} q^{T} (I_{m} - Γ^{- 1}) q) q = {(q_{1}, \dots, q_{m})}^{T}, q_{i} = Φ^{- 1} (u_{i})

$f(\mathbf{y}; \mathbf{\mu}, \mathbf{\varphi}, \Gamma) = c\{ G_1(y_1), \dots, G_m(y_m) | \Gamma \} \prod_{i=1}^m g(y_i; \mu_i, \varphi_i) \\ c(\mathbf{u} | \Gamma) = \left| \Gamma \right|^{-1/2}\exp\left( \frac{1}{2} \mathbf{q}^T \left( I_m - \Gamma^{-1} \right) \mathbf{q} \right) \\ \mathbf{q} = \left( q_1, \dots, q_m \right)^T, \quad q_i = \Phi^{-1}(u_i)$ 나의

F_{K}

$F_K$ 그들의에 해당

G_{m}

$G_m$ , 나의

z

$z$ 그들의에 해당

q

$\mathbf{q}$ , 그리고 내

R

$R$ 그들의에 해당

Γ

$\Gamma$ ; 자세한 내용은 62 페이지 (PDF 파일의 3 페이지)에 있지만 여기에 쓴 것과 동일합니다.

제로 팽창 된 부분은 대략 Liu와 Chan (2010, ungated ) 의 사양을 따릅니다 .

이제 추정 된 매개 변수의 데이터를 시뮬레이션하고 싶지만 어떻게 처리 해야할지 조금 혼란 스럽습니다. 먼저 시뮬레이션 할 수 있다고 생각했습니다. $y$ 직접 (R 코드로) :

for (i in 1:N) {
    for (k in 1:K) {
        Y_hat <- rbinom(1, 1, 1 - theta[i, k])
        if (Y_hat == 1)
            Y_hat <- rlnorm(1, mu[i, k], sigma[k])
    }
}

사용하지 않는 $R$ 조금도. 실제로 추정 한 상관 관계 매트릭스를 사용하려고합니다.

내 다음 아이디어는 $z$ 그런 다음 다시 $y$ . 이것은 또한 Sklar의 copula 정리로 표현 된 분포에 대한 R 과 Bivariate 샘플링 에서 Copula에서 샘플을 생성 하는 답변과 일치하는 것 같습니다 . . 하지만 도대체 뭐야 $F^{-1}$ 여기? 두 정규 분포의 혼합 분포에 대한 역변환 샘플링 은 이것이 가능하다고 들리지만 어떻게해야할지 모르겠습니다.

— 그림자 추적자
소스

@ Xi'an 그것은 가우시안 copula입니다.

y

$y$ 구성 요소.

— shadowtalker

법선 혼합에서 샘플링에 대해 참조하는 스레드는 필수 수정없이 문제에 직접 적용됩니다. 법선의 역 CDF를 사용하는 대신 두 성분의 역 CDF를 사용하십시오. 원자의 역 CDF

y = 0

$y=0$ 상수 함수이며 항상

0

$0$ .

— whuber

@ whuber 나는 두 구성 요소의 역 CDF를 사용하는 방법 에 대해 혼란스러워 합니다. 무엇을 그리고, 무엇을 그리며, 각각에 무엇을 연결합니까?

— shadowtalker

@ Xi'an은 일반적인 혼합 질문에 대한 대답에서 균일 한 변량을 사용하여 혼합 구성 요소를 선택한 다음 해당 구성 요소에서 원하는 방식으로 값을 그립니다. 귀하의 경우 첫 번째 구성 요소에서 값을 얻는 것이 매우 쉽습니다. 항상 항상

0

$0$ ! 두 번째 성분에서 값을 그리려면 원하는 로그 정규 난수 생성기를 사용하십시오. 각각의 경우에 숫자를 입력해야합니다. 달성 할 "플러그인"이 없습니다. 난수 생성의 전체 목표는 해당 숫자를 얻는 것입니다.

— whuber

@ whuber 새로운 대답은 나를 위해 그것을 정리했습니다. 둘 다 감사합니다.

— shadowtalker

답변:

배경이있는 긴 버전에 대한 답변 :

긴 버전에 대한이 답변은 다른 문제를 다소 해결하며 모델과 문제를 공식화하는 데 어려움이 있기 때문에 여기에서 올바르게 표현하기를 선택합니다.

에 대한 $1\le i\le I$ 목표는 벡터를 시뮬레이션하는 것입니다 $y^i=(y^i_1,\ldots,y^i_K)$ 공변량에 조건부로 $x^i$ ,

y_{k}^{i} = {\begin{cases} 0 & with probability {logit}^{- 1} (α_{k} x^{i}) \\ \log (σ_{k} z_{k}^{i} + β_{k} x^{i}) & with probability 1 - {logit}^{- 1} (α_{k} x^{i}) \end{cases}

$y_k^i = \begin{cases} 0 &\text{ with probability }\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\\ \log(\sigma_k z_k^i + \beta_k x^i) &\text{ with probability }1-\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\end{cases}$ 와

z^{i} = (z_{1}^{i}, \dots, z_{K}^{i}) \sim N_{K} (0, R)

$z^i=(z^i_1,\ldots,z^i_K)\sim\mathcal{N}_K(0,R)$ . 따라서이 모델의 데이터를 시뮬레이션하려는 경우 다음과 같이 진행할 수 있습니다.

에 대한 $1\le i\le I$ ,

일으키다 $z^i=(z^i_1,\ldots,z^i_K)\sim\mathcal{N}_K(0,R)$
일으키다 $u^i_1,\ldots,u^i_K \stackrel{\text{iid}}{\sim} \mathcal{U}(0,1)$
파생 $y^i_k=\mathbb{I}\left\{u^i_k>\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\right\}\, \log\{ \sigma_k z_k^i + \beta_k x^i\}$ ...에 대한 $1\le k\le K$

후자의 세대에 관심이 있다면 $(\alpha,\beta,\mu,\sigma,R)$ 주어진 $y^i_ k$ Gibbs 샘플링 또는 ABC로 실행하기는 쉽지만 더 어려운 문제입니다.

— 시안
소스

뭔가 빠진 줄 알았습니다. "모든 것이 후시로 명백하다." 내 의도 : 나는 가치에 관심이있다

F (y^{i} | x^{i})

$F(y^i | x^i)$ 그래서, 나는 매개 변수의 공동 후부에서 그리는 데 관심이 있습니다. 나는 시뮬레이션을 원한다

y

$y$ 모델이 맞는지 확인합니다.

— shadowtalker

두 번째 문제는 어떻게 더 어려워 집니까? 나는 이미 모델을 추정했으며 후방 그리기가 있습니다. 우리는 당신이 원한다면 여기에서 의견을 어지럽히 지 않도록 계속 대화 할 수 있습니다.

— shadowtalker

아, 일반적 으로요 다행히 Stan과 No-U-Turn Sampler가 저를 위해 열심히 일하고 있습니다.

— shadowtalker

문맥 외 짧은 버전에 대한 답변 :

대부분의 Monte Carlo 교과서에 설명 된 것처럼 수학적 의미에서 뒤집을 수없는 CDF (혼합 분포와 같은)를 "반전"하는 것이 가능합니다. ( 우리 와 마찬가지로 Lemma 2.4를 참조하십시오.) 일반화 된 역을 정의하는 경우

F^{-} (u) = inf {x \in R; F (x) \geq u}

$F^{-}(u) = \inf\left\{ x\in\mathbb{R};\ F(x)\ge u \right\}$ 그때

X \sim F is equivalent to X = F^{-} (U) when U \sim U (0, 1) .

$X \sim F \text{ is equivalent to } X=F^{-}(U)\text{ when } U\sim\mathcal{U}(0,1)\,.$ 즉,

F (y)

$F(y)$ 점프

θ

$\theta$ ...에서

y = 0

$y=0$ ,

F^{-} (u) = 0

$F^{-}(u)=0$ ...에 대한

u \leq θ

$u\le\theta$ . 다시 말해 유니폼을 입으면

U (0, 1)

$\mathcal{U}(0,1)$ 그리고 그것은보다 작게 끝납니다

θ

$\theta$ 의 세대

X

$X$ 이다

x = 0

$x=0$ . 그렇지 않으면

u > θ

$u>\theta$ , 연속 부분, 즉 귀하의 경우 로그 정규에서 생성됩니다. 이는 두 번째 균일 한 무작위 생성을 사용한다는 것을 의미합니다.

v

$v$ 첫 번째 균일 한 드로우 및 설정과 무관

y = \exp (μ + σ Φ^{- 1} (v))

$y=\exp(\mu+\sigma\Phi^{-1}(v))$ 로그 정규 생성을 얻습니다.

이것은 거의 R 코드입니다

Y_hat <- rbinom(1, 1, theta[i, k]) if (Y_hat == 1) Y_hat <- rlnorm(1, mu[i, k], sigma[k])

하고있다. 확률로 Bernoulli를 생성합니다 $\theta_k^i$ 그리고 그것이 같다면 $1$ ,이를 로그 노멀로 바꿉니다. 확률이 1과 같기 때문에 $\theta_k^i$ 대신 0 이되면 수정 된 R 코드로 끝나는 로그 정규 시뮬레이션으로 바꿔야 합니다.

Y_hat <- rbinom(1, 1, theta[i, k])
    if (Y_hat == 0)
        Y_hat <- rlnorm(1, mu[i, k], sigma[k])

— 시안
소스

모두 함께 모의 시뮬레이션 절차는 다음과 같습니다. 1) 그리기

z

$z$ , 2) 계산

u_{k} = Φ (z_{k})

$u_k = \Phi(z_k)$ 그런 다음 3) 계산

y_{k} = 0

$y_k = 0$ 만약

u_{k} \leq θ

$u_k \leq \theta$ 과

y_{k} = F_{log-normal}^{- 1} (u_{k})

$y_k = F^{-1}_\text{log-normal}(u_k)$ 그렇지 않으면. 옳은?

— shadowtalker

아뇨. 첫 번째 유니폼을 그려서

0

$0$ log-normal, log-normal을 선택한 경우 두 번째 유니폼. 내 답변의 수정 된 버전을 참조하십시오.

— 시안

그러나 그것은 무시

z

$z$ 구성 요소; 따라서 내 질문. 나는 명확한 편집을하고 의사 코드의 실수를 해결했습니다.

— shadowtalker

내 대답은 짧은 버전과 제공 한 R 코드에 대한 것입니다. 긴 버전에 도움이되기를 바랍니다. 그러나 관절 모델의 공식은 여전히 잘못된 것입니다. 에 모델을 정의해야합니다

y

$y$ 의 유니폼을 사용하지 않고 ...

— Xi'an

그 모델은 어떻게 잘못 되었나요? 방금 연결했습니다

F_{1}, \dots, F_{K}

$F_1, \dots, F_K$ 내가 인용 한 논문에서 제공 한 공식에

G_{1}, \dots, G_{m}

$G_1, \dots, G_m$ 그들의 표기법으로). 유효하지 않습니까?

— shadowtalker