잘린 분포는 무엇을 의미합니까?

14

동적 시스템의 일반적인 미분 방정식 모델의 감도 분석에 관한 연구 논문에서 저자는 모델 매개 변수의 분포를 정규 분포 (평균 = 1e-4, 표준 = 3e-5)로 [0.5e -4 1.5e-4]. 그런 다음 모형의 시뮬레이션에이 잘린 분포의 표본을 사용합니다. 잘린 분포와이 잘린 분포의 표본이 있다는 것은 무엇을 의미합니까?

이 작업을 수행하는 두 가지 방법이 있습니다.

정규 분포에서 표본을 추출하지만 시뮬레이션 전에 지정된 범위를 벗어나는 모든 임의의 값은 무시하십시오.
어떻게 든 특별한 "Truncated Normal"분포를 구하여 표본을 얻습니다.

이것들은 유효하고 동등한 접근법입니까?

첫 번째 경우, 샘플의 실험적인 cdf / pdf를 플로팅하면 곡선이 까지 확장되지 않기 때문에 정규 분포처럼 보이지 않습니다 $\pm\infty$ .

distributions simulation truncation

— 카브 카
소스

16

분포를 자르려면 값을 구간으로 제한하고 밀도를 다시 정규화하여 해당 범위의 적분이 1이되도록합니다.

따라서 분포를 구간 로 자르는 것은 밀도를 갖는 랜덤 변수를 생성하는 것입니다 $N(\mu, \sigma^{2})$ $(a,b)$

피_{ㅏ, 비} (엑스) = \frac{ϕ_{μ, σ^{2}} (엑스)}{\int_{ㅏ}^{비} ϕ_{μ, σ^{2}} (와이) 디 와이} \cdot 나는 {엑스 \in (ㅏ, 비)}

$p_{a,b}(x) = \frac{ \phi_{\mu, \sigma^{2}}(x) }{ \int_{a}^{b} \phi_{\mu, \sigma^{2}}(y) dy } \cdot \mathcal{I} \{ x \in (a,b) \}$

여기서 는 밀도입니다. 이 밀도에서 여러 가지 방법으로 샘플링 할 수 있습니다. 이것을 수행하는 한 가지 방법 (내가 생각할 수있는 가장 간단한 방법)은 값 을 생성 하고 밖에있는 값을 버리는 것입니다. $\phi_{\mu, \sigma^{2}}(x)$ $N(\mu, \sigma^2)$ $N(\mu, \sigma^2)$ $(a,b)$ 당신이 언급 한대로 간격. 예, 나열된 두 글 머리 기호는 동일한 목표를 달성합니다. 또한이 분포의 변수에 대한 경험적 밀도 (또는 히스토그램)가 까지 확장되지 않을 것 입니다. 물론 로 제한됩니다 . $\pm \infty$ $(a,b)$

— 매크로
소스

17

확률 때 결과가 구간 내에 속할 때까지 정규 분포 에서 시뮬레이션하는 것이 $\mathcal{N}(\mu,\sigma^2)$ $(a,b)$ 는 충분히 크다. 너무 작 으면 한 번의 수락에 대한 평균 추첨 횟수가 이기 때문에이 절차가 너무 비쌉니다.

ϱ = \int_{a}^{b} φ_{μ, σ^{2}} (x) d x

$\varrho = \int_a^b \varphi_{\mu,\sigma^2}(x)\,\text{d} x$

1 / ϱ

$1/\varrho$

설명한 바와 같이 몬테 카를로 통계 방법 (제 2 실시 예 2.2)에서뿐만 아니라 내 arXiv 종이 이 정상적인 절단 시뮬레이션하는보다 효율적인 방법은 지수 함수에 기초하여 수락 거부있어서 사용하는 분포. $\mathcal{E}(\alpha)$

일반성을 잃지 않고 경우 및 . 경우 , 전위 분포가 쓸모 변환 지수 분포 인 밀도는 $\mu = 0$ $\sigma = 1$ $b=+\infty$ $\mathcal{E} (\alpha,{ a})$ 비 다음으로 묶여 만약 의해 그렇지. 해당 (상한) 경계는

g_{α} (z) = α e^{- α (z - a)} I_{z \geq a} .

$g_{\alpha}(z) = \alpha e^{- \alpha(z - {a})} \; \mathbb{I}_{z \geq {a }} \;.$

p_{a, \infty} (z) / g_{α} (z) \propto e^{- α (z - a)} e^{- z^{2} / 2}

$p_{a,\infty}(z)/g_{\alpha}(z) \propto e^{- \alpha(z - a )}e^{-z^{2}/2}$

\exp (α^{2} / 2 - α a)

$\exp(\alpha^{2}/2 - \alpha{a })$

α > a

$\alpha > a$

\exp (- a^{2} / 2)

$\exp(- a^{2}/2)$

첫 번째 표현은

최소화됩니다

{\begin{cases} 1 / α \exp (α^{2} / 2 - α a) & if α > a, \\ 1 / α \exp (- a^{2} / 2) & otherwise. \end{cases}

$\begin{cases} 1/\alpha \; \exp (\alpha^{2}/2 - \alpha{a }) & \hbox{if } \alpha > a , \cr 1/\alpha \; \exp (- a^{2}/2) & \hbox{otherwise.} \cr \end{cases}$

반면

최소화 번째 결합. 따라서

의 최적 선택은(1)입니다.

α^{*} = \frac{1}{2} a + \frac{1}{2} \sqrt{a^{2} + 4}, (1)

$\begin{equation} \alpha^{*} = \frac{1}{2}a + \frac{1}{2} \sqrt{a^2 + 4}\;,\qquad (1) \end{equation}$

\tilde{α} = a

$\tilde\alpha = a$

α

$\alpha$

— 시안
소스

2

U \sim Unif (Φ (a), Φ (b))

$U \sim \text{Unif}(\Phi(a),\Phi(b))$

X = Φ^{- 1} (U)

$X = \Phi^{-1}(U)$

2

a

$a$

0

$0$

1

시안이 맞습니다, @bnaul. qnormR 루프에서 실행 하는 것은 좋지 않습니다.

— Stéphane Laurent

@ Xi'an : 사실이지만 이러한 기능은 임의의 정밀도를 갖도록 설계 될 수 있습니다.

— Neil G

9

정규 분포에서 표본을 추출하지만 시뮬레이션 전에 지정된 범위를 벗어나는 모든 임의의 값은 무시하십시오.

이 방법은 정확하지만 @ Xi'an이 그의 답변에서 언급했듯이 범위가 작을 때 (보다 정확하게는 정규 분포에서 측정이 작을 때) 시간이 오래 걸립니다.

$F^{-1}(U)$ $F$ $U\sim\text{Unif}(0,1)$ $F$ $G$ $(a,b)$ $G^{-1}(U)$ $U\sim\text{Unif}\bigl(G(a),G(b)\bigr)$

$G^{-1}$ $G^{-1}$ $G$ $G^{-1}$ $a$ $b$ $G$ .

중요도 샘플링을 사용하여 잘린 분포 시뮬레이션

${\cal N}(0,1)$ $G$ $G$ : one simply has $\boxed{G(q)=\frac{\arctan(q)}{\pi}+\frac12}$ and $\boxed{G^{-1}(q)=\tan\bigl(\pi(q-\frac12)\bigr)}$ . Therefore, the truncated Cauchy distribution is easy to sample by the inversion method and it is a good choice of the instrumental variable for importance sampling of the truncated normal distribution.

After a bit of simplifications, sampling $U\sim\text{Unif}\bigl(G(a),G(b)\bigr)$ and taking $G^{-1}(U)$ is equivalent to take $\tan(U')$ with $U'\sim\text{Unif}\bigl(\arctan(a),\arctan(b)\bigr)$ :

a <- 1
b <- 5
nsims <- 10^5
sims <- tan(runif(nsims, atan(a), atan(b)))

Now one has to calculate the weight for each sampled value $x_i$ , defined as the ratio $\phi(x)/g(x)$ of the two densities up to normalization, hence we can take

승 (엑스) = 특급 (- {엑스}^{2} / 2) (1 + {엑스}^{2}),

$w(x) = \exp(-x^2/2)(1+x^2),$ 그러나 로그 가중치를 취하는 것이 더 안전 할 수 있습니다.

log_w <- -sims^2/2 + log1p(sims^2)
w <- exp(log_w) # unnormalized weights
w <- w/sum(w)

가중 샘플 $(x_i,w(x_i))$ 모든 간격의 측정 값을 추정 할 수 있습니다 $[u,v]$ 목표 분포 하에서 구간 내에 포함 된 각 표본 값의 가중치를 합산합니다.

u <- 2; v<- 4
sum(w[sims>u & sims<v])
## [1] 0.1418

목표 누적 함수의 추정치를 제공합니다. spatsat패키지를 사용하여 신속하게 가져와 플롯 할 수 있습니다 .

F <- spatstat::ewcdf(sims,w)
# estimated F:
curve(F(x), from=a-0.1, to=b+0.1)
# true F:
curve((pnorm(x)-pnorm(a))/(pnorm(b)-pnorm(a)), add=TRUE, col="red")

ewcdf

# approximate probability of u<x<v:
F(v)-F(u)
## [1] 0.1418

물론 샘플 $(x_i)$ 는 분명히 목표 분포의 표본이 아니라 도구 적 코시 분포의 표본이며, 예를 들어 다항식 샘플링을 사용하여 가중 리샘플링 을 수행하여 목표 분포의 표본을 얻습니다 .

msample <- rmultinom(1, nsims, w)[,1]
resims <- rep(sims, times=msample)
hist(resims)

hist

mean(resims>u & resims<v)
## [1] 0.1446

다른 방법 : 빠른 역변환 샘플링

Olver와 Townsend 는 광범위한 연속 분포를위한 샘플링 방법을 개발했습니다. Matlab 의 chebfun2 라이브러리와 Julia 의 ApproxFun 라이브러리 에서 구현됩니다 . 최근 에이 라이브러리를 발견했으며 매우 샘플링 된 것으로 보입니다 (임의의 샘플링뿐만 아니라). 기본적으로 이것은 반전 방법이지만 cdf와 역 cdf의 강력한 근사값을 사용합니다. 입력은 정규화까지의 목표 밀도 함수입니다.

샘플은 다음 코드로 간단하게 생성됩니다.

using ApproxFun
f = Fun(x -> exp(-x.^2./2), [1,5]);
nsims = 10^5;
x = sample(f,nsims);

아래에서 확인한 바와 같이, 예상 간격 측정 값을 산출합니다 $[2,4]$ 중요도 샘플링으로 이전에 얻은 것과 가깝습니다.

sum((x.>2) & (x.<4))/nsims
## 0.14191

— 스테판 로랑
소스