신뢰 구간에 대해 혼란

나는 신뢰 구간 개념에 대해 혼란 스럽다. 특히, 알려진 가우스 변수 가 있고 신뢰 수준을 가진 평균의 하한 에 관심이 합니다. $X \sim N(\mu, \sigma)$ $\sigma$ $\mu_L$ $95\%$

실험을 번 수행하고 , , , , 합니다. $5$ $X_1$ $X_2$ $X_3$ $X_4$ $X_5$

옵션 1 : 각 샘플을 개별적으로 처리 하고 각 에 대해 를 계산할 수 있습니다 . 그런 다음이 5 에서 실제 하한을 계산하는 방법이 있습니다 (어떻게 모르겠습니다) . $\mu_L = X_i - \sigma z$ $X_i$ $\mu_L$

옵션 2 : 반면에, 계산할 수 있습니다 . ( 가 정상 이라고 가정하면 t-stat도 사용할 수 있습니다.) $T = (X_1+X_2+X_3+X_4+X_5)/5$ $\mu_L = T - \sigma/\sqrt{5}z$ $T$

샘플을 기반으로 하한을 계산하는 옵션 2 이외의 방법이 있습니까? 옵션 1의 경우 계산 된 5 개의 하한을 기준으로 하한을 계산하는 방법이 있습니까? $5$

confidence-interval

— 송아지
소스

대체 절차의 가능성을 조사하고 한 절차가 다른 절차보다 우수한 이유와 방법에 대해 생각하도록 요청하기 때문에 이는 큰 문제 입니다.

짧은 대답은 우리가 평균에 대한 신뢰 하한을 얻기 위해 절차를 고안 할 수있는 방법은 무한히 많지만 그 중 일부는 더 좋고 더 나쁘다는 것입니다 (의미가 있고 정의가 명확한 의미로). 옵션 2는이를 사용하는 사람이 비슷한 품질의 결과를 얻기 위해 옵션 1을 사용하는 사람보다 절반 이하의 데이터를 수집해야하기 때문에 훌륭한 절차입니다. 절반의 데이터는 일반적으로 예산의 절반과 시간의 절반을 의미하므로 실질적이고 경제적으로 중요한 차이에 대해 이야기하고 있습니다. 이것은 통계 이론의 가치에 대한 구체적인 데모를 제공합니다.

많은 훌륭한 교과서 계정이 존재하는 이론을 다시 해치지 말고 알려진 표준 편차의 독립 정규 변량에 대한 세 가지 낮은 신뢰 한계 (LCL) 절차를 빠르게 살펴 보겠습니다 . 나는 그 질문에서 제안한 세 가지 자연스럽고 유망한 것을 선택했습니다. 각각은 원하는 신뢰 수준 의해 결정됩니다 . $n$ $1-\alpha$

옵션 1a, "최소"절차 . 신뢰 하한은 됩니다. 숫자 은 이 실제 평균 초과 할 확률 이 단지 . 즉, 입니다. $t_{\min} = \min(X_1, X_2, \ldots, X_n) - k^{\min}_{\alpha, n, \sigma} \sigma$ $k^{\min}_{\alpha, n, \sigma}$ $t_{\min}$ $\mu$ $\alpha$ $\Pr(t_{\min} \gt \mu) = \alpha$
옵션 (1B)은 "최대"절차 . 신뢰 하한은 됩니다. 숫자 은 가 실제 평균 초과 할 가능성 이 단지 . 즉, 입니다. $t_{\max} = \max(X_1, X_2, \ldots, X_n) - k^{\max}_{\alpha, n, \sigma} \sigma$ $k^{\max}_{\alpha, n, \sigma}$ $t_{\max}$ $\mu$ $\alpha$ $\Pr(t_{\max} \gt \mu) = \alpha$
옵션 2의 "평균"절차 . 신뢰 하한은 . 숫자 은 이 실제 평균 초과 할 확률 이 단지 . 즉, 입니다. $t_\text{mean} = \text{mean}(X_1, X_2, \ldots, X_n) - k^\text{mean}_{\alpha, n, \sigma} \sigma$ $k^\text{mean}_{\alpha, n, \sigma}$ $t_\text{mean}$ $\mu$ $\alpha$ $\Pr(t_\text{mean} \gt \mu) = \alpha$

잘 알려진 바와 같이, 여기서 ; 는 표준 정규 분포의 누적 확률 함수입니다. 이것이 질문에 인용 된 공식입니다. 수학적 속기는 $k^\text{mean}_{\alpha, n, \sigma} = z_\alpha/\sqrt{n}$ $\Phi(z_\alpha) = 1-\alpha$ $\Phi$

$k^\text{mean}_{\alpha, n, \sigma} = \Phi^{-1}(1-\alpha)/\sqrt{n}.$

최소 및 최대 절차에 대한 공식은 잘 알려져 있지 않지만 쉽게 결정할 수 있습니다.

$k^\text{min}_{\alpha,n,\sigma} = \Phi^{-1}(1-\alpha^{1/n})$ .
$k^\text{max}_{\alpha, n, \sigma} = \Phi^{-1}((1-\alpha)^{1/n})$ .

시뮬레이션을 통해 세 가지 수식이 모두 작동 함을 알 수 있습니다. 다음 R코드는 실험을 n.trials개별적으로 수행하고 각 시험에 대해 3 개의 LCL을 모두보고합니다.

simulate <- function(n.trials=100, alpha=.05, n=5) {
  z.min <- qnorm(1-alpha^(1/n))
  z.mean <- qnorm(1-alpha) / sqrt(n)
  z.max <- qnorm((1-alpha)^(1/n))
  f <- function() {
    x <- rnorm(n); 
    c(max=max(x) - z.max, min=min(x) - z.min, mean=mean(x) - z.mean)
  }    
  replicate(n.trials, f())
}

(이 코드는 일반적인 정규 분포로 작업하는 것을 귀찮게하지 않습니다. 우리는 측정 단위와 측정 스케일의 0을 자유롭게 선택할 수 있기 때문에 , 사례를 연구하면 충분합니다 . 다양한 에 대한 공식은 실제로 의존하지 않습니다 .) $\mu=0$ $\sigma=1$ $k^*_{\alpha,n,\sigma}$ $\sigma$

10,000 번의 시험은 충분한 정확도를 제공합니다. 시뮬레이션을 실행하고 각 프로 시저가 실제 평균보다 낮은 신뢰 한계를 생성하지 못하는 빈도를 계산해 보겠습니다.

set.seed(17)
sim <- simulate(10000, alpha=.05, n=5)
apply(sim > 0, 1, mean)

출력은

   max    min   mean 
0.0515 0.0527 0.0520

이 빈도는 규정 된 값인 충분히 가까워서 세 가지 절차 모두 광고 된대로 작동한다는 것을 만족시킬 수 있습니다. 이들 각각은 평균에 대한 95 % 신뢰 하한 신뢰 한계를 생성합니다. $\alpha=.05$

(이 빈도가 와 약간 다르다는 점이 우려되는 경우 더 많은 시행을 할 수 있습니다. 백만 : 훨씬 가깝습니다 .) $.05$ $.05$ $(0.050547, 0.049877, 0.050274)$

그러나 LCL 절차에 대해 우리가 원하는 것은 시간의 의도 된 시간이 정확해야 할뿐만 아니라 정확한 시간에 근접 해야한다는 것 입니다. 예를 들어, 깊은 종교적 감수성 덕분에 데이터 을 수집하고 LCL 계산을 수행하는 대신 (Apollo의) Delphic 오라클과 상담 할 수있는 (가설적인) 통계학자를 상상해보십시오 . 그녀가 신에게 95 % LCL을 요구할 때, 신은 진정한 의미를 신성하게하고 결국 그녀에게 완벽하다고 말할 것입니다. 그러나 신은 자신의 능력을 인류와 완전히 공유하기를 원하지 않기 때문에 (오해의 여지가 남아 있어야 함), 시간의 5 %는 LCL을 줄 것입니다 $X_1, X_2, \ldots, X_n$ $100\sigma$ 너무 높은. 이 Delphic 프로시 저는 LCL도 95 %이지만 실제로는 끔찍한 경계를 생성 할 위험 때문에 실제로 사용하기가 무섭습니다.

우리는 세 가지 LCL 절차가 얼마나 정확한지 평가할 수 있습니다. 좋은 방법은 샘플링 분포를 보는 것입니다. 마찬가지로 많은 시뮬레이션 된 값의 히스토그램도 마찬가지입니다. 여기 있습니다. 먼저 코드를 생성하는 코드는 다음과 같습니다.

dx <- -min(sim)/12
breaks <- seq(from=min(sim), to=max(sim)+dx, by=dx)
par(mfcol=c(1,3))
tmp <- sapply(c("min", "max", "mean"), function(s) {
  hist(sim[s,], breaks=breaks, col="#70C0E0", 
       main=paste("Histogram of", s, "procedure"), 
       yaxt="n", ylab="", xlab="LCL");
  hist(sim[s, sim[s,] > 0], breaks=breaks, col="Red", add=TRUE)
})

히스토그램

그것들은 동일한 x 축 (그러나 약간 다른 수직 축)에 표시됩니다. 우리가 관심있는 것은

절차 의 평균을 과소 평가 하지 못하는 빈도를 나타내는 의 오른쪽에있는 빨간색 부분 은 모두 원하는 양 . (우리는 이미 수치 적으로 확인했습니다.) $0$ $\alpha=.05$
시뮬레이션 결과 의 스프레드 . 명백히, 가장 우측의 막대 그래프는 좁은 다른 두보다 : 그것은 실제로 평균을 과소 평가하는 절차를 설명 (동일 완전히) 시간의 %를하지만 않더라도 그 과소 내에 거의 항상 의 진정한 의미. 다른 두 히스토그램에는 약 너무 낮아서 실제 평균을 조금 더 과소 평가하는 경향이 있습니다. 또한, 그들이 평균을 과대 평가할 때, 그들은 가장 올바른 절차보다 더 과대 평가하는 경향이 있습니다. 이러한 특성으로 인해 가장 오른쪽 막대 그래프보다 열등합니다. $0$ $95$ $2 \sigma$ $3\sigma$

가장 오른쪽 막대 그래프는 기존의 LCL 절차 인 옵션 2를 설명합니다.

이러한 스프레드의 한 가지 측정 값은 시뮬레이션 결과의 표준 편차입니다.

> apply(sim, 1, sd)
     max      min     mean 
0.673834 0.677219 0.453829

이 수치는 최대 및 최소 절차가 같은 스프레드 (약 )를 가지며 일반적인 평균 절차는 스프레드의 약 3 분의 2 (약 ) 를 을 나타 냅니다. 이것은 우리 눈의 증거를 확인시켜줍니다. $0.68$ $0.45$

표준 편차의 제곱은 각각 , 및 과 같은 분산 입니다. 분산은 데이터 양과 관련이있을 수 있습니다 . 한 분석가가 최대 (또는 최소 ) 프로 시저를 권장하는 경우 일반적인 프로 시저가 나타내는 좁은 스프레드를 달성하려면 고객이 배 많은 데이터 를 확보해야 합니다. -두 배 이상. 다시 말해, 옵션 1을 사용하면 옵션 2를 사용하는 것보다 정보에 대해 두 배 이상의 비용을 지불하게됩니다. $0.45$ $0.45$ $0.20$ $0.45/0.21$

— 우버
소스

당신은 나를 놀라게하지 않을 것입니다.

— Momo

+1 @whuber 이것은 좋은 예입니다. 부트 스트랩 신뢰 구간을 설명 할 때 Efron은 정확성과 정확성에 대해 이야기합니다. 정확도는 구간의 실제 신뢰 수준이 광고 된 값에 가깝다는 것입니다. 3 가지 예가 모두 정확합니다. 정확성이 가장 좋습니다. 양측 신뢰 구간의 경우 너비가 가장 짧은 정확한 신뢰 구간을 의미합니다 (귀하의 평균을 기반으로 한 구간 또는 경계). 세 가지 방법이 다소 경쟁적이기 때문에 귀하의 예가 흥미 롭습니다.

— 마이클 R. 체닉

OP 옵션 1은 내가 대답 한 이유로 경쟁이 치열하지 않습니다.

— 마이클 R. 체닉

@Michael 본인 은 옵션 1에 대한 귀하의 해석이 경쟁적이지 않음에 동의합니다 . 내가 흥미로 웠고 여기에서 탐색 한 것은 5 개의 분리 된 것에서 "실제 하한을 계산할 수있는"방법에 대한 더 실용적인 해석이 있다는 것입니다. 아마도 "중간 값"옵션을 면밀히 살펴 보았을 것입니다. 일반적인 계산보다 훨씬 열등하지는 않습니다 (약 40 % 덜 효율적).

— whuber

첫 번째 옵션은 표본에서 얻은 분산의 감소를 고려하지 않습니다. 첫 번째 옵션은 각 경우에 크기가 1 인 표본을 기반으로 평균에 대한 95 % 신뢰 한계를 5 개 낮 춥니 다. 이들을 평균화하여 결합하면 95 % 하한으로 해석 할 수있는 한계가 생성되지 않습니다. 아무도 그렇게하지 않을 것입니다. 두 번째 옵션은 수행되는 것입니다. 5 개의 독립적 인 관측치의 평균은 단일 표본에 대한 분산보다 6만큼 작은 분산을 갖습니다. 따라서 첫 번째 방법으로 계산 한 5 개보다 훨씬 낮은 하한값을 제공합니다.

또한 X 가 iid normal이라고 가정 할 수 있으면 T는 normal입니다. $_i$

— 마이클 R. 체 르닉
소스