베이지안 신뢰 구간이 잦은 신뢰 구간보다 분명히 열등한 예가 있습니까?

자신감과 신뢰할 수있는 간격의 차이에 대한 최근의 질문으로 인해 해당 주제에 대한 Edwin Jaynes의 기사를 다시 읽기 시작했습니다.

Jaynes, ET, 1976. 확률 이론, 통계적 추론 및 과학 이론 기초, WL Harper 및 CA Hooker (eds.), D. Reidel, Dordrecht, p. 175; ( pdf )

초록에서 Jaynes는 다음과 같이 씁니다.

... 우리는 신뢰 구간 (동일한 추론에 기초한 유의성 검정 포함)과 관련된 6 가지 일반적인 통계 문제에 대한 베이지안 및 정통 솔루션을 보여줍니다. 모든 경우에 우리는 상황이 정반대임을 발견합니다. 즉 베이지안 방법이 적용하기 쉽고 동일하거나 더 나은 결과를 산출합니다. 실제로, 정통 결과는 베이지안 결과와 밀접하게 (또는 정확히) 일치 할 때만 만족합니다. 아직 반대의 예가 나오지 않았습니다.

(강조 광산)

이 논문은 1976 년에 출판되었으므로 아마도 상황이 바뀌었을 것입니다. 제 질문은, 잦은 신뢰 구간이 베이지안 신뢰할 수있는 구간보다 분명히 우수한 예가 있습니까 (Jaynes가 내재 한 도전에 따라)?

잘못된 사전 가정에 근거한 예는 다른 접근법의 내부 일관성에 대해 아무 말도하지 않으므로 수용 할 수 없습니다.

나는 이전에 질문에 대답 할 것이라고 말했다. 그래서 여기에 간다 ...

Jaynes는 그의 논문에서 빈번한 신뢰 구간이 통계의 실제 가치가 높은 (지정된) 확률로 놓여질 것으로 기대할 수있는 구간으로 정의되지 않았다는 점에서 약간 이상하지 않았습니다. 마치 마치 마치 마치 해석 된 것처럼 발생합니다. 문제는 실제 값 (데이터 샘플에서 추론 할 수있는 것)을 포함 할 가능성이 높은 구간이 종종 원하는 것이므로 신뢰 구간이 실제로 사용되는 방식이라는 점입니다.

나에게 중요한 문제는 질문이 제기 될 때 그 질문에 대한 직접적인 답변을 얻는 것이 가장 좋습니다. 베이지안 신뢰 구간이 잦은 신뢰 구간보다 나쁜지 여부는 실제로 어떤 질문을했는지에 달려 있습니다. 질문이 다음과 같은 경우 :

(a) "통계의 실제 가치가 확률 p에있는 구간을 알려주십시오." Bayesian can은 Jayes가 제공 한 예에서 Bayesian 신뢰할 수있는 구간이 잦은 신뢰 구간보다 우수한 이유입니다. 그러나 이것은 잦은 주의자들에게 "잘못 된 질문"이기 때문입니다.

(b) "실험이 여러 번 반복되었는데 통계의 실제 값이 그러한 구간의 p * 100 % 내에있는 구간을 알려주십시오."그러면 빈번한 대답은 원하는 것입니다. 베이지안은이 질문에 대한 직접적인 대답을 줄 수도 있습니다 (단지 확실한 신뢰할만한 간격이 아닐 수도 있음). 질문에 대한 Whuber의 의견은 이것이 사실임을 시사합니다.

따라서 본질적으로 질문을 올바르게 지정하고 정답을 올바르게 해석해야합니다. 질문을하려면 (a) 베이지안 신뢰할 수있는 구간을 사용하고, 질문을하려면 (b) 빈번한 신뢰 구간을 사용하십시오.

이 래리 Wasserman에 의해 쓰여진 책에 주어진 "구체화"예이다 통계의 모든 페이지 216 ( 12.8 강점과 베이지안 추론의 약점을 ). 나는 기본적으로 Wasserman이 그의 책에서 다루지 않은 것을 제공합니다. 2) Wasserman이 편리하게 제공하지 않는 질문에 대한 잦은 대답; 3) 동일한 정보를 사용하여 계산 된 등가 신뢰도 에는 동일한 문제 가 있음을 입증합니다 .

이 예에서 그는 다음 상황을 말합니다.

1. 표본 분포를 갖는 관측치 X : $(X|\theta)\sim N(\theta,1)$
2. $(\theta)\sim N(0,1)$$\tau^2$$\tau^2=1$

$\theta$$\theta$

...이 모든 것에서 무엇을 결론 내려야합니까? 중요한 것은 빈번한 방법과 베이지안 방법이 다른 질문에 답하고 있다는 것을 이해하는 것입니다. 사전 신념을 원칙적으로 데이터와 결합하려면 베이지안 추론을 사용하십시오. 신뢰 구간과 같은 장기 성능이 보장 된 프로 시저를 구성하려면 잦은 방법을 사용하십시오 ... (p217)

그리고 베이지안 방법이 그렇게 나쁘게 수행 된 이유에 대한 설명이나 설명없이 진행합니다 . 또한 그는 빈번한 접근 방식, 고전적인 전술 인 "장기"에 대한 광범위한 솔선 진술에 대한 해답을 제시하지 않는다.

$\tau=1$

$\theta\sim N(0,1)$$\theta$$p(\theta)\propto 1$$Y\sim N(\theta,1)$$X$$\theta$

$(\theta|Y)\sim N(Y,1)$$X$$0$$0$$X$

$\theta$$\overline{x}=\frac{0+X}{2}=\frac{X}{2}$

$(1-\alpha)\text{%}$

$(1-\alpha)\text{%}$$\theta$

$c=\frac{\tau^{2}}{1+\tau^{2}}$$\tau^{2}=1$$c=\frac{1}{2}$

$p(\theta)\propto 1$$X \pm Z_{\alpha/2})$

$X=0$$0$$\theta=4$$X\leq 0$$\theta=4$. 실제로이 예는 기본적으로 산술 평균에 무한한 영향 함수가 있음을 표시하는 것과 같습니다.

$\tau=1$$\tau^2=\frac{1}{N}$ $(N=0,1,2,3,\dots)$$N$$X$$0$$X$$\theta$$0$$\theta$$0$

키이스 윈스 타인,

편집 : 명확히하기 위해이 대답은 잔인한 통계 게임으로 King의 Keith Winstein Answer에 주어진 예를 설명합니다. Bayesian과 Frequentist 답변은 동일한 정보를 사용하는데, 이는 구간을 구성 할 때 공정한 동전과 불공정 한 동전 수에 대한 정보를 무시하는 것입니다. 이 정보를 무시하지 않으면 잦은 주의자는 신뢰 구간을 구성 할 때 샘플링 분포로 통합 베타-이항 우도를 사용해야합니다.이 경우 Clopper-Pearson 신뢰 구간은 적합하지 않으므로 수정해야합니다. 베이지안 솔루션에서도 비슷한 조정이 이루어져야합니다.

편집 : 나는 또한 clopper Pearson Interval의 초기 사용을 분명히했습니다.

편집 : 아아, 내 알파가 잘못된 길을 가고 내 clopper pearson 간격이 잘못되었습니다. @whuber에게 내 겸손한 사과를 전하며,이 점을 정확히 지적했지만 처음에는 동의하지 않고 무시한 사람입니다.

Clopper Pearson 방법을 사용하는 CI는 매우 좋습니다

$\theta$

$X=1$$Pr(Bi(1,\theta)\geq 1)=\theta$$Pr(Bi(1,\theta)\leq 1)=1$$\theta\geq\frac{\alpha}{2}$$1\geq\frac{\alpha}{2}$$X=1$$X=0$$Pr(Bi(1,\theta)\geq 0)=1$$Pr(Bi(1,\theta)\leq 0)=1-\theta$$1-\theta \geq\frac{\alpha}{2}$$\theta\leq 1-\frac{\alpha}{2}$$X=0$$[0.025,1]$$X=1$$[0,0.975]$$X=0$

따라서 Clopper Pearson Confidence Interval을 사용하는 사람은 절대 참수 되지 않습니다 . 간격을 관찰하면 기본적으로 전체 매개 변수 공간입니다. 그러나 CP 간격은 아마도 95 % 간격으로 100 % 적용 범위를 제공함으로써이 작업을 수행합니다! 기본적으로 Frequentists는 자신이 요청한 것보다 95 % 신뢰 구간에 더 많은 적용 범위를 제공하여 "속임수"를합니다 (그러한 상황에서 누가 속이지 않더라도? 1] 간격). 왕이 정확한 95 % CI를 요구한다면 ,이 빈번한 방법은 실제로 일어난 일에 관계없이 실패 할 것입니다 (아마도 더 좋은 방법이 있습니까?).

베이지안 간격은 어떻습니까? (구체적으로 가장 높은 후부 Desnity (HPD) 베이지안 간격)

$(\theta|X)\sim Beta(1+X,2-X)$$Pr(\theta \geq \theta^{e} | x=1) = 1-(\theta^{e})^{2}$$Pr(\theta \leq \theta^{e} | x=0) = 1-(1-\theta^{e})^{2}$$\theta^{e}=\sqrt{0.05}\approx 0.224$$X=1$$\theta^{e}= 1-\sqrt{0.05}\approx 0.776$$X=0$$(0,0.776)$$X=0$$(0.224,1)$$X=1$

따라서 Bayesian은 나쁜 동전 을 받고 나쁜 동전이 꼬리가 나오면 의 확률로 발생 하는 경우 HPD Credible interval으로 참수 됩니다.$\frac{1}{10^{12}+1}\times\frac{1}{10}\approx 0$

$0.1$

$0.025$$0.975$

실제 95 % 신뢰 구간 을 인용하려면 정의 에 따라 모수의 실제 값을 포함하지 않는 관찰 된 구간 중 일부 (즉, 하나 이상)가 있어야합니다 . 그렇지 않으면 어떻게 95 % 태그를 정당화 할 수 있습니까? 90 %, 50 %, 20 % 또는 0 % 간격이라고 부르는 것이 유효하거나 유효하지 않습니까?

무료 제한없이 단순히 "실제로 95 % 이상을 의미"라고 말하는 것이 만족스럽지 않습니다. 명백한 수학적 솔루션이 전체 매개 변수 공간이고 문제가 사소한 것이기 때문입니다. CI를 50 % 원한다고 가정합니까? 허위 네거티브에만 한정되는 경우 전체 매개 변수 공간은이 기준 만 사용하는 유효한 CI입니다.

$\text{100%}$$X=0$$100\times\frac{10^{12}+\frac{9}{10}}{10^{12}+1}\text{%} > \text{95%}$$X=1$

마지막으로, 불확실성 구간을 요청한 다음 불확실한 실제 값을 사용하여 해당 간격을 평가하는 것은 약간 이상하게 보입니다. 자신감과 신뢰할 수있는 간격에 대한 "공정한"비교는 나에게 주어진 불확실성의 진술의 진실 처럼 보인다 .

문제는 문장으로 시작됩니다.

잘못된 사전 가정에 근거한 예는 다른 접근법의 내부 일관성에 대해 아무 말도하지 않으므로 수용 할 수 없습니다.

네, 이전의 내용이 옳다는 것을 어떻게 알 수 있습니까?

계통 발생에서 베이지안 추론의 경우를 생각해 보자. 적어도 하나의 변화 확률은 공식에 의한 진화 시간 (분기 길이 t)과 관련이 있습니다.

u는 대체율입니다.

이제 DNA 서열의 비교를 기반으로 진화 모델을 만들고 싶습니다. 본질적으로, DNA 서열 사이의 변화량을 가능한 한 가깝게 모델링하려는 트리를 추정하려고합니다. 위의 P는 주어진 지점에서 하나 이상의 변경 기회입니다. 진화 모델은 임의의 2 개의 뉴클레오티드 사이의 변화 가능성을 기술하고, 이들 진화 모델로부터 p는 파라미터 또는 t는 파라미터로서 추정 함수가 도출된다.

당신은 현명한 지식이 없으며 p. 이것은 본질적으로 t에 대해 기하 급수적으로 감소하는 것을 의미합니다. t에 플랫을 설정하려는 경우 더욱 문제가됩니다. p에 암시 된 선행은 t 범위를 차단하는 위치에 따라 크게 달라집니다.

이론적으로 t는 무한대 일 수 있지만 무한 범위를 허용하면 밀도 함수 아래의 영역도 무한대와 같아 지므로 이전에 대한 절단 지점을 정의해야합니다. 자르기 지점을 충분히 크게 선택한 경우 신뢰할 수있는 간격의 양쪽 끝이 증가한다는 것을 증명하는 것은 어렵지 않으며 특정 지점에서 실제 값이 더 이상 신뢰할 수있는 간격에 포함되지 않습니다. 이전에 대해 아주 좋은 아이디어가 없다면 베이지안 방법은 다른 방법과 동일하거나 우수하지 않을 수 있습니다.

참조 : Joseph Felsenstein : 계통 발생 유추, 18 장

부수적으로, 나는 그 베이지안 / 자주 교 싸움에 아프게되었습니다. 그것들은 서로 다른 틀이며 절대 진리도 아닙니다. 프로 베이지안 방법의 고전적인 예는 항상 확률 계산에서 나 왔으며, 한 번의 빈번한 사람들은 그것들과 모순되지 않을 것입니다. 베이지안 방법에 대한 고전적인 주장은 항상 이전의 임의의 선택을 포함합니다. 합리적인 사전이 가능합니다.

그것은 모두 적시에 두 가지 방법을 올바르게 사용하는 것으로 요약됩니다. 두 방법이 모두 올바르게 적용되는 인수 / 비교는 거의 없었습니다. 모든 방법의 가정은 매우 과소 평가되어 너무 자주 무시됩니다.

편집 : 분명히하기 위해, 문제는 정보 기반의 사전 작업 (많은 경우에 유일한 해결 책임)으로 작업 할 때 p를 기반으로 한 추정치가 베이지안 프레임 워크의 t를 기반으로 한 추정치와 다르다는 사실에 있습니다. 계통 발생 학적 추론에 대한 ML 프레임 워크에서는 그렇지 않다. 그것은 이전의 잘못된 문제가 아니며, 방법에 내재되어 있습니다.

빈번한 신뢰 구간은 오 탐율 (유형 I 오류)에 영향을 미치며 최악의 경우에도 신뢰 범위에 의해 적용 범위가 아래로 제한되도록합니다. 베이지안 신뢰 구간은 그렇지 않습니다.

따라서 관심있는 것이 오탐 (false positive)이고이를 제한해야하는 경우 신뢰 구간이 사용하려는 접근 방식입니다.

예를 들어, 당신이 100 명의 구단과 코트를 가진 사악한 왕이 있고 그들과 함께 잔인한 통계 게임을하고 싶다고 가정 해 봅시다. 왕은 1 조개의 공정한 동전과 머리 확률이 10 % 인 불공정 한 동전 한 봉지를 가지고 있습니다. 그는 다음 게임을 할 것입니다. 먼저, 그는 가방에서 무작위로 동전을 균일하게 그립니다.

그런 다음 동전을 100 명 정도의 방으로 전달하고 각자는 개인적으로 실험을 수행해야하며, 각 사람은 동전의 머리 확률에 대해 95 %의 불확실성 간격을 진술하게됩니다.

오 탐지를 나타내는 구간 (즉, 헤드 확률의 실제 값을 포함하지 않는 구간)을 제공하는 사람은 참수됩니다.

우리가 동전 무게의 / 사후 확률 확률 함수를 표현하기를 원한다면, 물론 신뢰 구간이 그렇게하는 것입니다. 답은 결과에 관계없이 항상 간격 [0.5, 0.5]이됩니다. 머리를 제로 또는 머리 하나만 뒤집어도 왕이 공정한 동전을 뽑았을 때 1/1024 일 동안 10 머리를 연속으로 얻었 기 때문에 여전히 [0.5, 0.5]라고 말할 것입니다. 왕이 불공평 한 동전을 뽑았다.

따라서 이것은 예의와 예의가 사용하는 좋은 생각이 아닙니다! 불공평 한 동전을 뽑으면 방 전체 (100 명 모두)가 잘못되어 모두 참 수당하기 때문입니다.

가장 중요한 것이 거짓 긍정 인 세상에서, 우리가 필요한 것은 동전을 뽑아도 오 탐지율이 5 % 미만이라는 절대적인 보증입니다. 그런 다음 Blyth-Still-Casella 또는 Clopper-Pearson과 같은 신뢰 구간을 사용해야하며 최악의 경우에도 매개 변수의 실제 값에 관계없이 작동하고 최소 95 %의 적용 범위를 제공합니다 . 모든 사람이 대신이 방법을 사용한다면, 어떤 동전이 뽑 히든, 하루가 끝날 때 우리는 예상되는 잘못된 사람들의 수가 5를 넘지 않도록 보장 할 수 있습니다.

요점은, 만약 당신의 기준이 거짓 긍정의 경계를 요구한다면 (또는 동등하게 보장을 보장한다면), 당신은 신뢰 구간을 따라야합니다. 그것이 그들이하는 일입니다. 신뢰성 구간은 불확실성을 표현하는보다 직관적 인 방법 일 수 있으며, 잦은 분석에서 잘 수행 될 수 있지만, 요청시 얻을 수있는 오 탐지에 대한 보장 된 범위를 제공하지는 않습니다.

(물론 거짓 부정에도 관심이 있다면, 그 사실을 보증하는 방법이 필요합니다 ...)

잦은 신뢰 구간이 베이지안 신뢰할 수있는 구간보다 분명히 우수한 예가 있습니까 (Jaynes가 내재 한 도전에 따라).

$\theta$$10$$\theta$$1$$\theta$

베르나르는 "기준 종래는"과학 통신 [(심지어 "참조 신뢰할 간격"을 표준으로 제안 - 대물 신뢰할 영역 베르나르 )]. 이것이 "베이지안"접근이라고 가정하면, 이제 문제는 언제 다른 간격보다 우월한 간격입니까? 베이지안 간격의 잦은 속성이 항상 최적 인 것은 아니지만 "빈도 간격"의 베이지안 속성이 아닙니다
(그런데 "빈도 간격"이란 무엇입니까?)