특정 평균 및 표준 편차와 같은 특정 제약 조건을 충족하는 데이터를 시뮬레이션하는 방법은 무엇입니까?

이 질문은 메타 분석에 대한 나의 질문에 의해 동기가 부여됩니다 . 그러나 기존 게시 된 데이터 집합을 정확하게 미러링하는 데이터 집합을 만들려는 컨텍스트를 가르치는데도 유용하다고 생각합니다.

주어진 분포에서 무작위 데이터를 생성하는 방법을 알고 있습니다. 예를 들어 다음과 같은 연구 결과에 대해 읽은 경우 :

• 평균 102,
• 표준 편차 5.2
• 72의 샘플 크기.

rnormR을 사용하여 비슷한 데이터를 생성 할 수 있습니다 . 예를 들어

set.seed(1234)
x <- rnorm(n=72, mean=102, sd=5.2)

물론 평균과 SD는 각각 102와 5.2와 정확히 같지 않습니다.

round(c(n=length(x), mean=mean(x), sd=sd(x)), 2)
##     n   mean     sd 
## 72.00 100.58   5.25 

일반적으로 일련의 제약 조건을 만족하는 데이터를 시뮬레이션하는 방법에 관심이 있습니다. 위의 경우, 구속은 표본 크기, 평균 및 표준 편차입니다. 다른 경우에는 추가 제한 조건이있을 수 있습니다. 예를 들어

• 데이터 또는 기본 변수의 최소값과 최대 값을 알 수 있습니다.
• 변수는 정수 값 또는 음이 아닌 값만 취하는 것으로 알려져 있습니다.
• 데이터는 상관 관계가 알려진 여러 변수를 포함 할 수 있습니다.

질문

• 일반적으로 일련의 제약 조건을 정확히 만족시키는 데이터를 어떻게 시뮬레이션 할 수 있습니까?
• 이것에 관한 기사가 있습니까? 이 작업을 수행하는 프로그램이 R에 있습니까?
• 예를 들어, 변수가 특정 평균과 sd를 갖도록 어떻게 시뮬레이션 할 수 있습니까?

$X_1, X_2, ..., X_n$

$$Z_i = \sqrt{c_{1}} \left( \frac{X_i-\overline{X}}{s_{X}} \right) + c_{2}$$

$\overline{X} = \frac{1}{n} \sum_{i=1}^{n} X_i$$s^{2}_{X} = \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X})^2$$Z_{i}$$c_2$$c_1$

$$B_i = a + (b-a) \left( \frac{ X_i - \min (\{X_1, ..., X_n\}) }{\max (\{X_1, ..., X_n\}) - \min (\{X_1, ..., X_n\}) } \right)$$

간격 제한된 데이터 세트 을 생성합니다 . ( a , b $B_1, ..., B_n$$(a,b)$

참고 : 이러한 유형의 이동 / 확장은 일반적으로 원본 데이터가 위치 규모 패밀리에서 나온 경우에도 데이터의 분포 패밀리를 변경합니다.

정규 분포 의 맥락 에서 mvrnorm함수를 R 사용하면을 설정 하여 미리 지정된 표본 평균 / 공분산으로 정규 (또는 다변량 정규) 데이터를 시뮬레이션 할 수 있습니다 empirical=TRUE. 특히,이 함수 는 표본 평균 및 (공) 분산이 사전 지정된 값과 같을 때 정규 분포 변수 의 조건부 분포 에서 데이터를 시뮬레이션 합니다 . 주요 질문에 대한 주석에서 @whuber가 지적한 것처럼 결과 한계 분포는 정상 이 아닙니다 .

다음은 표본 평균 ( 의 표본 )이 0으로 제한되고 표본 표준 편차가 1 인 간단한 일 변량 예제 입니다. 첫 번째 요소는 정규 분포보다 균일 분포와 훨씬 더 유사합니다. 분포:$n=4$

library(MASS)
 z = rep(0,10000)
for(i in 1:10000)
{
    x = mvrnorm(n = 4, rep(0,1), 1, tol = 1e-6, empirical = TRUE)
    z[i] = x[1]
}
hist(z, col="blue")

$\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ $

논문 요청과 관련하여 다음이 있습니다.

• Chatterjee, S. & Firat, A. (2007). 통계는 동일하지만 그래픽이 다른 데이터 생성 : Anscombe 데이터 세트를 따릅니다. 미국 통계 학자, 61 , 3, 248-254 쪽.

이것은 당신이 찾고있는 것이 아니지만 제 분소를 위해 가장 어리석은 역할을 할 수 있습니다.

---

아무도 언급하지 않은 다른 전략이 있습니다. 나머지 데이터가 적절한 값으로 고정 되는 한 전체 세트가 제약 조건을 만족하도록 크기 의 세트로부터 (의사) 랜덤 데이터 를 생성하는 것이 가능하다 . 필요한 값은 방정식, 대수 및 팔꿈치 그리스 시스템으로 해결할 수 있어야합니다 . N k k $N-k$$N$$k$$k$$k$

예를 들어, 주어진 표본 평균 및 분산 가있는 정규 분포에서 데이터 세트를 생성 하려면 와 의 두 점 값을 수정해야합니다 . 샘플 평균은 다음과 같습니다. 는 다음과 같아야합니다. 표본 분산은 다음과 같습니다. ( 위의 내용으로 바꾸고, 호일 / 배포, 재배 열한 후 ... ) 우리는 얻는다 : $N$$\bar x$$s^2$$y$$z$

$$\bar x = \frac{\sum_{i=1}^{N-2}x_i\; + \;y\!+\!z}{N}$$ $y$ $$y = N\bar x\; - \;\left(\sum_{i=1}^{N-2}x_i\!+\!z\right)$$ $$s^2 = \frac{\sum_{i=1}^{N-2}(x_i - \bar x)^2\; + \;(y - \bar x)^2\!+\!(z - \bar x)^2}{N-1}$$ $y$ $$2(N\bar{x}\! - \!\sum_{i=1}^{N-2}x_i)z - 2z^2 = N\bar{x}^2(N\!-\!1) + \sum_{i=1}^{N-2}x_i^2 + \left[\sum_{i=1}^{N-2}x_i\right]^2 - 2N\bar{x}\sum_{i=1}^{N-2}x_i - (N\!-\!1)s^2$$ 우리가 걸리는 경우 , 및 를 RHS의 부정으로 , 2 차 공식을 사용하여 대해 풀 수 있습니다 . 예를 들어에서 다음 코드를 사용할 수 있습니다. $a=-2$$b=2(N\bar{x} - \sum_{i=1}^{N-2}x_i)$$c$$z$R

find.yz = function(x, xbar, s2){
  N    = length(x) + 2
  sumx = sum(x)
  sx2  = as.numeric(x%*%x)          # this is the sum of x^2
  a    = -2
  b    = 2*(N*xbar - sumx)
  c    = -N*xbar^2*(N-1) - sx2 - sumx^2 + 2*N*xbar*sumx + (N-1)*s2
  rt   = sqrt(b^2 - 4*a*c)

  z    = (-b + rt)/(2*a)
  y    = N*xbar - (sumx + z)
  newx = c(x, y, z)
  return(newx)
}

set.seed(62)
x    = rnorm(2)
newx = find.yz(x, xbar=0, s2=1)
newx                                # [1] 0.8012701  0.2844567  0.3757358 -1.4614627
mean(newx)                          # [1] 0
var(newx)                           # [1] 1

이 접근법에 대해 이해해야 할 것이 있습니다. 첫째, 작동하지 않을 수 있습니다. 예를 들어, 초기 데이터는 결과 집합의 분산을 만드는 값 및 가 존재 하지 않는 것일 수 있습니다 . 치다: $N-2$$y$$z$$s^2$

set.seed(22)    
x    = rnorm(2)
newx = find.yz(x, xbar=0, s2=1)
Warning message:
In sqrt(b^2 - 4 * a * c) : NaNs produced
newx                                # [1] -0.5121391  2.4851837        NaN        NaN
var(c(x, mean(x), mean(x)))         # [1] 1.497324

둘째, 표준화는 모든 변수의 한계 분포를보다 균일하게 만드는 반면,이 방법은 마지막 두 값에만 영향을 미치지 만 한계 분포는 왜곡됩니다.

set.seed(82)
xScaled = matrix(NA, ncol=4, nrow=10000)
for(i in 1:10000){
  x           = rnorm(4)
  xScaled[i,] = scale(x)
}

set.seed(82)
xDf = matrix(NA, ncol=4, nrow=10000)
i   = 1
while(i<10001){
  x       = rnorm(2)
  xDf[i,] = try(find.yz(x, xbar=0, s2=2), silent=TRUE)  # keeps the code from crashing
  if(!is.nan(xDf[i,4])){ i = i+1 }                      # increments if worked
}

셋째, 결과 샘플을하지 않을 수 있습니다 보면 매우 정상; 본질적으로 그렇기 때문에 '이상 점'(즉, 나머지와 다른 데이터 생성 프로세스에서 나오는 점)이있는 것처럼 보일 수 있습니다. 생성 된 데이터의 샘플 통계가 필요한 값으로 수렴되므로 조정이 덜 필요하므로 이는 더 큰 샘플 크기에서는 문제가되지 않습니다. 더 작은 샘플을 사용하면 생성 된 샘플에 허용 범위를 벗어난 (예 : @ cardinal 's comment ) 범위를 벗어난 모양 통계 (예 : 왜도 및 첨도)가 있거나 다시 시도하는 승인 / 거부 알고리즘과이 방법을 항상 결합 할 수 있습니다. 이 방법은 고정 평균, 분산, 왜도 및첨도 (하지만 나는 대수를 당신에게 맡길 것입니다). 또는 적은 수의 샘플을 생성하고 Kolmogorov-Smirnov 통계량이 가장 작은 샘플을 사용할 수 있습니다.

library(moments)
set.seed(7900)  
x = rnorm(18)
newx.ss7900 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss7900)                       # [1] 1.832733
kurtosis(newx.ss7900) - 3                   # [1] 4.334414
ks.test(newx.ss7900, "pnorm")$statistic     # 0.1934226

set.seed(200)  
x = rnorm(18)
newx.ss200 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss200)                        # [1] 0.137446
kurtosis(newx.ss200) - 3                    # [1] 0.1148834
ks.test(newx.ss200, "pnorm")$statistic      # 0.1326304 

set.seed(4700)  
x = rnorm(18)
newx.ss4700 = find.yz(x, xbar=0, s2=1)
skewness(newx.ss4700)                       # [1]  0.3258491
kurtosis(newx.ss4700) - 3                   # [1] -0.02997377
ks.test(newx.ss4700, "pnorm")$statistic     # 0.07707929S

일반적인 기술은 '거부 방법'으로, 제약 조건을 충족하지 않는 결과 만 거부합니다. (MCMC와 같은) 어떤 종류의 지침이 없다면, (사례에 따라) 많은 경우가 거부 될 수 있습니다!

평균 및 표준 편차와 같은 것을 찾고 목표에서 얼마나 멀리 떨어져 있는지를 나타내는 거리 메트릭을 만들 수있는 경우 최적화를 사용하여 원하는 출력을 제공하는 입력 변수를 검색 할 수 있습니다 가치.

평균이 100이고 표준 편차가 1 인 길이 100의 임의의 균일 한 벡터를 찾을 수 있는 추악한 예입니다.

# simplistic optimisation example
# I am looking for a mean of zero and a standard deviation of one
# but starting from a plain uniform(0,1) distribution :-)
# create a function to optimise
fun <- function(xvec, N=100) {
  xmin <- xvec[1]
  xmax <- xvec[2]
  x <- runif(N, xmin, xmax)
  xdist <- (mean(x) - 0)^2 + (sd(x) - 1)^2
  xdist
}
xr <- optim(c(0,1), fun)

# now lets test those results
X <- runif(100, xr$par[1], xr$par[2])
mean(X) # approx 0
sd(X)   # approx 1

이 작업을 수행하는 프로그램이 R에 있습니까?

Runuran R 패키지는 임의 variates를 생성하기위한 많은 방법이 포함되어 있습니다. UNU.RAN (Universal Non-Uniform RAndom Number Generator) 프로젝트의 C 라이브러리를 사용합니다 . 무작위 변이 생성 분야에 대한 내 지식은 제한적이지만 Runuran 삽화 는 훌륭한 개요를 제공합니다. 다음은 비 ur 트에서 가져온 Runuran 패키지에서 사용 가능한 방법입니다.

연속 분포 :

• 적응 형 거부 샘플링
• 역변환 밀도 제거
• 역 CDF의 다항식 보간
• 간단한 균등 비율 방법
• 변형 된 밀도 제거

이산 분포 :

• 이산 자동 거부 반전
• Alias-Urn 방법
• 이산 반전을위한 가이드 테이블 방법

다변량 분포 :

• 균등 비율 방법을 사용한 적중 및 실행 알고리즘
• 다변량 순진한 비율 비율 방법

예:

간단한 예를 들어, 0에서 100 사이의 정규 분포를 생성하려고한다고 가정합니다.

require("Runuran")

## Normal distribution bounded between 0 and 100
d1 <- urnorm(n = 1000, mean = 50, sd = 25, lb = 0, ub = 100)

summary(d1)
sd(d1)
hist(d1)

이 urnorm()기능은 편리한 래퍼 기능입니다. 나는 배후에서 다항식 보간법의 CDF 방법을 사용하지만 확실하지 않다고 생각합니다. 더 복잡한 것, 예를 들어 0과 100 사이의 이산 정규 분포가 있습니다.

require("Runuran")

## Discrete normal distribution bounded between 0 and 100
# Create UNU.RAN discrete distribution object
discrete <- unuran.discr.new(pv = dnorm(0:100, mean = 50, sd = 25), lb = 0, ub = 100)

# Create UNU.RAN object using the Guide-Table Method for Discrete Inversion
unr <- unuran.new(distr = discrete, method = "dgt")

# Generate random variates from the UNU.RAN object
d2 <- ur(unr = unr, n = 1000)

summary(d2)
sd(d2)
head(d2)
hist(d2)

어제 게시 된 요구 사항을 충족하는 R 패키지가있는 것 같습니다! Keith Goldfeld의 simstudy

모델링 기술을 탐색하거나 데이터 생성 프로세스를 더 잘 이해하기 위해 데이터 세트를 시뮬레이션합니다. 사용자는 공변량 간의 관계 집합을 지정하고 이러한 사양을 기반으로 데이터를 생성합니다. 최종 데이터 세트는 무작위 대조 시험, 반복 측정 (종 방향) 설계 및 군집 무작위 시험으로부터의 데이터를 나타낼 수 있습니다. 다양한 메커니즘 (MCAR, MAR, NMAR)을 사용하여 누락을 생성 할 수 있습니다.

이 답변은 너무 늦어서 무의미 할 것 같지만 질문에 대한 MCMC 솔루션이 항상 있습니다. 즉, 제약 조건으로 정의 된 매니 폴드에 샘플 의 조인트 밀도를 투영하려면 예 : 그런 다음 유일한 문제는 해당 매니 폴드에서 값을 시뮬레이션하는 것입니다. 즉, 올바른 치수의 매개 변수를 찾는 것입니다. Bornn, Shephard 및 Solgi 의 2015 년 논문 은이 문제를 연구합니다 ( 궁극적 인 대답은 아니지만 흥미 롭습니다 ).

$$\prod_{i=1}^n f(x_i)$$ $$\sum_{i=1}^n x_i=\mu_0\qquad\sum_{i=1}^n x_i^2=\sigma_0^2$$

이 답변에서는 변수가 지정된 범위에있게하고 평균 및 / 또는 분산을 추가 로 지정하려는 경우에 대한 다른 접근 방법을 고려합니다 .

단위 간격 주의를 제한하십시오 . 일반성을 위해 가중 평균을 사용하겠습니다. 따라서 일부 가중치 을 로 수정하거나 표준 가중치를 원하면 설정 . 양 가정 및 는 각각, 원하는 (가중)을 나타내는 것을 의미하고 (가중치)를 분산. 상한에 그 단위 구간에 가능한 최대 편차가 있기 때문에 필요하다. 이러한 모멘트 제한으로 에서 일부 변수 을 그리는 데 관심 이 있습니다.$[0,1]$$w_k\in[0,1]$$\sum_{k=1}^Nw_k=1$$w_k=1/N$$\mu\in(0,1)$$0<\sigma^2<\mu(1-\mu)$$\sigma^2$$x_1,...,x_N$$[0,1]$

먼저 과 같은 분포에서 일부 변수 을 그 . 이 분포는 최종 분포의 모양에 영향을 미칩니다. 그런 다음 로지스틱 함수를 사용하여 단위 간격 제한합니다 .$y_1,...,y_N$$N(0,1)$$[0,1]$

$$x_k=\frac{1}{1+e^{-(y_k v-h)}}$$

그러나 그렇게하기 전에, 위의 방정식에서 볼 수 있듯이, 와 scale 변환 합니다. 이것은 @Macro의 답변의 첫 번째 방정식과 유사합니다. 트릭은 변환 된 변수 이 원하는 모멘트를 갖도록 와 를 선택 하는 것 입니다. 즉, 다음 중 하나 또는 둘 모두를 보유해야합니다. $y_k$$h$$v$$h$$v$$x_1,...,x_N$

$$\mu=\sum_{k=1}^N \frac{w_k}{1+e^{-(y_k v-h)}} \\ \sigma^2=\sum_{k=1}^N \frac{w_k}{(1+e^{-(y_k v-h)})^2} - \left( \sum_{k=1}^N \frac{w_k}{1+e^{-(y_k v-h)}} \right)^2$$

및 대한 이러한 방정식을 분석적으로 뒤집는 것은 가능하지 않지만, 특히 및 대한 미분이 계산하기 쉽기 때문에 수치 적 으로 계산하는 것이 간단합니다. 뉴턴의 방법을 몇 번만 반복하면됩니다.$v$$h$$v$$h$

첫 번째 예로, 분산이 아닌 가중 평균의 제한에만 관심이 있다고 가정 해 봅시다. 수정 , , , . 그런 다음 기본 분포 , 및 대해 각각 다음 히스토그램으로 끝나고 변이의 평균이 정확히 (작은 조차도 ) :v = 1 w k = 1 / N N = 200000 N ( 0 , 1 ) N ( 0 , 0.1 ) Unif ( 0 , 1 ) 0.8 $\mu=0.8$$v=1$$w_k=1/N$$N=200000$$N(0,1)$$N(0,0.1)$$\text{Unif}(0,1)$ $0.8$$N$

다음으로 평균과 분산을 모두 구속합시다. 가라 , , 및 세 원하는 표준 편차를 고려 . 동일한 기본 분포 사용하여 각각에 대한 히스토그램은 다음과 같습니다.w k = 1 / N N = 2000 σ = 0.1 , 0.05 , 0.01 N ( 0 , 1 $\mu=0.2$$w_k=1/N$$N=2000$$\sigma=0.1,0.05,0.01$$N(0,1)$

이것들은 약간 베타 배포 된 것처럼 보일 수 있지만 그렇지 않습니다.

내 대답에는 여기 에이 작업을 수행하는 데 필요한 3 개의 R 패키지가 나와 있습니다.

• SimCorrMix
• SimMultiCorrData
• Simrel