드 파인 티의 표현 정리에 대해 너무 멋진 점은 무엇입니까?

에서 통계의 이론 마크 J. Schervish (12 페이지)로 :

DeFinetti의 표현 정리 1.49는 동기 부여 파라 메트릭 모델의 중심이지만 실제로는 구현에 사용되지 않습니다.

정리는 어떻게 파라 메트릭 모델의 중심인가?

— gui11aume
소스

나는 이것이 베이지안 모델의 중심이라고 생각합니다. 나는 이것을 싱글 톤과 논의하고 있었다. deFinetti의 추종자 인 베이지안을 제외하고는 베이지안 통계에서 중요성이 간과됩니다. 1980 년부터 Diaconis와 Freedman에

— Michael Chernick

@ cardinal : 12 페이지 (질문을 업데이트했습니다).

— gui11aume

Schervish는 "... 파라 메트릭 모델

중심 ..."이라고 말했습니다.

motivating

$\textbf{motivating}$

— Zen

나는 종종 얼마나 많은 표현이 "실제"인지, 그리고 이론에 대한 특정 해석에 얼마나 의존하는지 궁금해했다. 모델을 설명하는 것만 큼 이전 분포를 설명하는 데 쉽게 사용할 수 있습니다.

— 확률

답변:

De Finetti의 대표 정리는 확률에 대한 주관적 해석 내에서 통계 모델의 중요성 과 매개 변수의 의미 및 이전 분포를 한 번에 제시합니다.

랜덤 변수 은 결과 "Heads"및 "Tails"에 각각 해당하는 값 과 을 사용하여 연속적인 동전 던지기 결과를 나타냅니다 . 확률 미적분학의 주관적 해석의 맥락에서, 가 독립적이고 동일하게 분포 되어있는 일반적인 잦은 모델의 의미를 분석하면서 De Finetti는 독립 조건이 예를 들어 $X_1,\dots,X_n$ $1$ $0$ $X_i$ 그리고 따라서, 첫 번째의 결과 토스는 결과에 대한 내 불확실성 변하지 않을 것 토스 번째입니다. 예를 들어,이것이 균형 잡힌 동전 을믿는다면, 처음 번의 토스가 "머리"로 밝혀졌다는 정보를 얻은 후에도 그 정보를조건부로 " 토스 1000 머리 "는 동일하다 . 효과적으로, 의 독립성에 대한 가설은동전의 토스 결과를 관찰하여 동전에 대해 아무것도 배울 수 없음을 의미합니다.

피 {{엑스}_{엔} = {엑스}_{엔} ∣ {엑스}_{1} = {엑스}_{1}, \dots, {엑스}_{엔 - 1} = {엑스}_{엔 - 1}} = 피 {{엑스}_{엔} = {엑스}_{엔}},

$P\{X_n=x_n\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = P\{X_n=x_n\} \, ,$

n - 1

$n-1$

n

$n$

a priori

$\textit{a priori}$

999

$999$

1 / 2

$1/2$

X_{i}

$X_i$

이 관측으로 De Finetti는이 명백한 모순을 해결하는 독립보다 약한 조건을 도입하게되었습니다. De Finetti 솔루션의 핵심은 교환 성으로 알려진 일종의 분포 대칭입니다.

주어진 유한 세트 의 임의의 객체에 대해 은 관절 분포를 나타냅니다. 이 유한 집합은모든 순열 대해 인 경우 교환 가능합니다 $\textbf{Definition.}$ $\{X_i\}_{i=1}^n$ $\mu_{X_1,\dots,X_n}$ $\mu_{X_1,\dots,X_n} = \mu_{X_{\pi(1)},\dots,X_{\pi(n)}}$ . 각각의 유한 서브 세트가 교환 가능한 경우 랜덤 객체의 시퀀스 은 교환 가능합니다. $\pi:\{1,\dots,n\}\to\{1,\dots,n\}$ $\{X_i\}_{i=1}^\infty$

랜덤 변수 시퀀스 만 교환 할 수 있다고 가정하면 De Finetti는 일반적으로 사용되는 통계 모델의 의미에 빛을 비추는 주목할만한 정리를 증명했습니다. 과 값을 취하는 특별한 경우에 , De Finetti의 표현 정리는 랜덤 변수 이있는 경우에만 을 교환 할 수 있다고 말합니다 , 배포 $\{X_i\}_{i=1}^\infty$ $X_i$ $0$ $1$ $\{X_i\}_{i=1}^\infty$ $\Theta:\Omega\to[0,1]$ ,되도록 $\mu_\Theta$ 되는 . 또한

피 {{엑스}_{1} = {엑스}_{1}, \dots, {엑스}_{엔} = {엑스}_{엔}} = \int_{[0, 1]} θ^{에스} (1 - θ)^{엔 - 에스} 디 μ_{Θ} (θ),

$P\{X_1=x_1,\dots,X_n=x_n\} = \int_{[0,1]} \theta^s(1-\theta)^{n-s}\,d\mu_\Theta(\theta) \, ,$

s = \sum_{i = 1}^{n} x_{i}

$s=\sum_{i=1}^n x_i$

그것은 De Finetti의 강력한 수의 법칙으로 알려져 있습니다.

{\bar{엑스}}_{엔} = \frac{1}{엔} \sum_{나는 = 1}^{엔} {엑스}_{나는} \to_{엔 \to \infty}^{} Θ 거의 확실하게,

$\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow[n\to\infty]{} \Theta \qquad \textrm{almost surely},$

모델 베이지안 맥락에서 나오는 방법 통계적이 표현 정리 나타낸다 다음 관찰 가능한의 교환 성 가설하에 , 값 주어 지도록 의 관찰 가능한는 독립적 동일하게 배포됩니다. 또한 De Finetti의 Strong law는 분포 표시되는 관측 불가능한 에 대한 사전 의견 이 의 한계에 대한 의견임을 보여줍니다. $\{X_i\}_{i=1}^\infty$ $\textbf{there is}$ $\textit{parameter}$ $\Theta$ $\Theta$ $\textit{conditionally}$ $\Theta$ $\mu_\Theta$ $\bar{X}_n$ 우리는의의 실현의 값에 대한 정보가 전에 들 '을. 매개 변수 는 유용한 보조 구성의 역할을 수행하므로 같은 관계를 통해 관측 가능한 항목 만 포함하는 조건부 확률을 얻을 수 있습니다. $X_i$ $\Theta$

피 {{엑스}_{엔} = 1 ∣ {엑스}_{1} = {엑스}_{1}, \dots, {엑스}_{엔 - 1} = {엑스}_{엔 - 1}} = 이자형 [Θ ∣ {엑스}_{1} = {엑스}_{1}, \dots, {엑스}_{엔 - 1} = {엑스}_{엔 - 1}] .

$P\{X_n=1\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = \mathrm{E}\left[\Theta\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\right] \, .$

— 선
소스

이 통찰력있는 답변에 감사드립니다! 독립에 대한 당신의 요점은 내가 처음으로 깨닫는 매우 중요한 것입니다.

— gui11aume

( "유용한"이 더 낫다 :))

— Neil G

Θ

$\Theta$

Θ

$\Theta$

X_{i}

$X_i$

E [θ^{s} (1 - θ)^{s}] = E [P (X_{i} = x_{i} \forall i | θ)]

$E [\theta^s (1-\theta)^s] = E[P(X_i = x_i \, \forall \, i | \theta) ]$

θ

$\theta$

Pr {X_{1} = x_{1}, \dots, X_{n} = x_{n} ∣ Θ = θ}

$\Pr\{X_1=x_1,\dots,X_n=x_n\mid\Theta=\theta\}$

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

X_{i}

$X_i$

Θ = θ

$\Theta=\theta$

\prod_{i = 1}^{n} Pr {X_{i} = x_{i} ∣ Θ = θ} = \prod_{i = 1}^{n} θ^{x_{i}} (1 - θ)^{1 - x_{i}}

$\prod_{i=1}^n \Pr\{X_i=x_i\mid\Theta=\theta\}=\prod_{i=1}^n \theta^{x_i}(1-\theta)^{1-x_i}$

Zen의 답변에 모든 것이 수학적으로 정확합니다. 그러나 나는 어떤 점에 동의하지 않습니다. 내 견해가 좋은 것이라고 주장하거나 믿지 않는다는 점에 유의하십시오. 반대로 나는이 점들이 아직 명확하지 않다고 생각한다. 이것들은 내가 토론하고 싶은 좋은 철학적 질문이며 (나를 위해 좋은 영어 연습), 나는 또한 조언에 관심이 있습니다.

$999$ $X_i$ $\theta$ $\theta$ $999$ $999$ $\theta$ $1$ $\Pr(X_n=1)$
$\Theta$ $\theta = \bar X_\infty$ $\theta$ $\bar X_\infty$ $\Theta$ $0$ $1$
$(X_i\mid\Theta=\theta)\sim_\text{iid} \text{Bernoulli}(\theta)$ $\Theta \sim \text{Beta}(a,b)$ $a$ $b$ $\Theta$ $\Theta$

늦었 어...

— 스테판 로랑
소스

"this is not true from the frequentist perspective"

$\textbf{"this is not true from the frequentist perspective"}$

Θ

$\Theta$

{\bar{X}}_{n}

$\bar{X}_n$

Θ

$\Theta$

μ_{Θ}

$\mu_\Theta$

a posteriori

$\textit{a posteriori}$

Θ

$\Theta$

θ

$\theta$

세 번째 글 머리 기호에 대해 : 1) Schervish는 베이지안 통계 학자입니다. 2) 그의 책에서 교환 가능성을 논의하는데 소비하는 시간과 에너지의 양; 나는 그에게 De Finetti의 정리의 역할이 매우 깊어서 시원함을 넘어서고 있다고 믿습니다. 그러나 나는 그것이 어쨌든 매우 시원하다는 것에 동의합니다!

— Zen

θ

$\theta$

θ

$\theta$

Θ

$\Theta$

a

$a$

b

$b$

이 주제에 관한 논문에 관심이있을 수 있습니다 (액세스에 필요한 저널 구독-대학에서 액세스하십시오).

O'Neill, B. (2011) 교환 성, 상관 관계 및 베이 즈 효과. 국제 통계 검토 77 (2), 241-250 쪽.

이 논문은 베이지안 및 잦은 IID 모델의 기초가되는 표현 정리를 논의하고 그것을 동전 던지기 예에도 적용한다. 잦은 패러다임의 가정에 대한 논의를 정리해야한다. 실제로는 이항 모델을 넘어서는 표현 정리에 대한 더 넓은 확장을 사용하지만 여전히 유용해야합니다.

— 통계
소스

아마도 이것의 작동하는 종이 버전이 있습니까? atm에 액세스 할 수 없습니다 :-(

— IMA

@Stats 나는 당신의 대답을 본 후 그 논문을 읽었습니다. 나는 그것이 내가 본 그 문제에 대한 베이지안과 빈번한 설명을 보여주는 최고의 논문이라고 말해야한다. 이 논문을 훨씬 일찍 읽었 으면 좋겠다. (+1)

— KevinKim