신뢰 구간과 신뢰할 수있는 구간이 일치하는 예

Credible Interval 의 Wikipedia 기사에서 다음 과 같이 말합니다.

단일 모수 및 단일 단일 통계량으로 요약 될 수있는 데이터의 경우, 알 수없는 모수가 위치 모수 인 경우 신뢰할 수있는 구간과 신뢰 구간이 일치 함을 알 수 있습니다 (즉, 전진 확률 함수의 형식은 Pr (x | μ) = f (x − μ)), 사전에 균일 한 평탄 분포; [5] 및 미지의 모수가 척도 모수 인 경우 (즉, 순방향 확률 함수는 Pr (x | s) = f (x / s)), Jeffreys 이전의 [5] – 후자는 이러한 스케일 매개 변수의 로그를 취하면 분포가 균일 한 위치 매개 변수로 바뀌기 때문에 다음과 같습니다. 그러나 이것들은 명백히 특별한 (중요하지만) 경우입니다. 일반적으로 그러한 동등성을 만들 수 없습니다. "

사람들이 이에 대한 구체적인 예를 제시 할 수 있습니까? 95 % CI가 실제로 "95 % 확률"에 해당하므로 CI의 일반 정의를 "위반"합니까?

confidence-interval credible-interval

— 웨인
소스

정규 분포:

알려진 분산으로 정규 분포를 취하십시오. 일반성을 잃지 않고이 분산을 1로 할 수 있습니다 (각 관측 값을 분산의 제곱근으로 나눔). 여기에는 샘플링 분포가 있습니다.

p (X_{1} . . . X_{N} | μ) = {(2 π)}^{- \frac{N}{2}} \exp (- \frac{1}{2} \sum_{i = 1}^{N} (X_{i} - μ)^{2}) = A \exp (- \frac{N}{2} (\bar{X} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

어디 는 데이터에만 의존하는 상수입니다. 이는 표본 평균이 모집단 평균에 대한 충분한 통계량임을 나타냅니다. 우리가 이전에 균일을 사용한다면 대한 사후 분포는 다음과같습니다. $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) \sim N o r m a l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

따라서 신뢰할 수있는 간격은 다음과 같은 형식입니다. $1-\alpha$

(\bar{X} + \frac{1}{\sqrt{N}} L_{α}, \bar{X} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

여기서 및 표준 정규 확률 변수되도록 선택된다 만족한다 : $L_{\alpha}$ $U_{\alpha}$ $Z$

P r (L_{α} < Z < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

이제 신뢰 구간을 구성하기 위해이 "피벗 수량"부터 시작할 수 있습니다. 의 샘플링 분포고정대한은 표준 정규 분포이므로 위의 확률로 이것을 대체 할 수 있습니다. $\sqrt{N}(\mu-\overline{X})$ $\mu$

P r (L_{α} < \sqrt{N} (μ - \bar{X}) < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

그런 다음 를 풀도록 재정렬 하면 신뢰 구간은 신뢰할 수있는 구간과 같습니다. $\mu$

스케일 파라미터 :

스케일 파라미터의 경우, pdf는 . 우리는를 취할 수있는데, 이는합니다. 공동 샘플링 분포는 다음과 같습니다. $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p (X_{1} . . . X_{N} | s) = s^{- N} 0 < X_{1} . . . X_{N} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

여기서 우리는 충분한 통계량을 (관측치의 최대치)와 동일하게 찾습니다 . 이제 샘플링 분포를 찾습니다. $X_{max}$

P r (X_{m a x} < y | s) = P r (X_{1} < y, X_{2} < y . . . X_{N} < y | s) = {(\frac{y}{s})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

이제 를 사용하여이를 매개 변수와 독립적으로 만들 수 있습니다 . 우리 "피봇 수량이 '주어진다이 수단 와 은 IS하는 분포. 따라서 베타 수량을 사용하여 를 선택할 수 있습니다 . $y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P r (L_{α} < Q < U_{α}) = 1 - α = U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

그리고 우리는 중추적 인 수량을 대체합니다.

P r (L_{α} < s^{- 1} X_{m a x} < U_{α}) = 1 - α = P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

그리고 우리의 신뢰 구간이 있습니다. jeffreys를 사용한 베이지안 솔루션에는 다음이 있습니다.

p (s | X_{1} . . . X_{N}) = \frac{s^{- N - 1}}{\int_{X_{m a x}}^{\infty} r^{- N - 1} d r} = N (X_{m a x})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (s > t | X_{1} . . . X_{N}) = N (X_{m a x})^{N} \int_{t}^{\infty} s^{- N - 1} d s = {(\frac{X_{m a x}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

이제 신뢰 구간을 연결하고 신뢰도를 계산합니다.

P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m a x}}{X_{m a x} U_{α}^{- 1}})}^{N} - {(\frac{X_{m a x}}{X_{m a x} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

$1-\alpha$

— 확률 론적
소스

걸작, 감사합니다! "정규 분포에서 표본의 평균을 계산할 때 95 % CI는 실제로 95 % 신뢰할 수있는 간격이기도합니다"또는 이와 유사한 간단한 대답이있을 것으로 기대했습니다. (이 가정 된 답변을 구성하는 것만으로도 구체적인 예에 대한 실마리는 없습니다.)

— Wayne

나는 잦은주의 95 % 예측 / 공차 구간이 OLS 회귀 및 정상 오류가있는 베이지안 예측 구간에 해당한다고 생각합니다. predict.lm의 답변과 시뮬레이션 된 답변을 비교하면 그렇게 나타납니다. 그게 사실입니까?

— Wayne

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

감사합니다! Confidence Interval과 관련하여 수행 한 회귀에 대한 CI를 설명하려고 노력했으며 이는 신뢰할 수있는 간격을 기대하는 평신도 청중과 연결되지 않습니다. 평신도의 CI에 대한 오해를 강화시킬 수 있기 때문에 인생을 훨씬 편하게 만듭니다.하지만 아마도 전체 통계 세계에는 좋지 않습니다.

— Wayne

@ 웨인 (Wayne)-상황은 위치 규모 가족보다 조금 더 일반적입니다. 일반적으로 CI는 "충분한 통계"(이 두 개가있는 경우)를 기반으로하는 경우 신뢰할 수있는 간격과 같습니다. 통계가 충분하지 않은 경우 CI는 신뢰할 수있는 간격 해석을 위해 "보조 통계"라는 항목을 조건으로 지정해야합니다.

— chanceislogic