베타 배포판에 접합체가 있습니까?

34

나는 베타 분포가 이항에 켤레라는 것을 알고있다. 그러나 베타 이전의 접합체는 무엇입니까? 감사합니다.

beta-distribution conjugate-prior

— 폭발 평형
소스

25

당신은 이미 활용을 포기한 것 같습니다. 기록을 위해 사람들이하는 것을 보았지만 (정확한 위치를 기억하지 못하지만) 한 가지가 매개 변수화입니다. 만약 $X_1,\dots,X_n$ 이다 조건부 IID, 소정의 $\alpha,\beta$ ,되도록 $X_i\mid\alpha,\beta\sim\mathrm{Beta}(\alpha,\beta)$ 기억이

이자형 [{엑스}_{나는} ∣ α, β] = \frac{α}{α + β} = : μ

$\mathbb{E}[X_i\mid\alpha,\beta]=\frac{\alpha}{\alpha+\beta} =: \mu$ 및

V 에이 아르 자형 [{엑스}_{나는} ∣ α, β] = \frac{α β}{(α + β)^{2} (α + β + 1)} = : σ^{2} .

$\mathbb{Var}[X_i\mid\alpha,\beta] = \frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)} =: \sigma^2 \, .$ 따라서, 당신은 할 수 있습니다reparameterize의 측면에서 가능성을

μ

$\mu$ 와

σ^{2}

$\sigma^2$ 이전으로 사용을

σ^{2} ∣ μ \sim 유 [0, μ (1 - μ)] μ \sim 유 [0, 1] .

$\sigma^2\mid\mu \sim \mathrm{U}[0,\mu(1-\mu)] \qquad \qquad \mu\sim\mathrm{U}[0,1] \, .$ 이제 후부를 계산하고 원하는 계산 방법으로 탐색 할 준비가되었습니다.

— 선
소스

4

아니요, MCMC가 아닙니다! 이 점을 Quadrature! 단 2 개의 매개 변수 – 구적법 (quadrature)은 시간과 정확성 모두를 위해 작은 차원의 구배를위한 "골드 표준"입니다.

— probabilityislogic

3

또 다른 옵션은

를 정밀도의 척도로 간주 하고 다시

사용하는 것입니다.

ψ = α + β

$\psi = \alpha + \beta$

평균으로서

. 이는 Dirichlet 프로세스를 통해 항상 수행되며 베타 배포는 특별한 경우입니다. 따라서

앞서 감마 또는 로그 노멀을

균일 할 수있습니다.

μ = \frac{α}{α + β}

$\mu = \frac{\alpha}{\alpha + \beta}$

ψ

$\psi$

μ

$\mu$

— guy

2

확실히, 이것은 켤레가 아닙니다. 맞습니까?

— 남자

3

기필코 아니다!

— Zen

안녕하세요 @ 젠 저는 지금이 문제를 다루고 있지만 베이지 안에서 처음 왔으며 아이디어를 이해하고 있는지 잘 모르겠습니다. 나는 당신이

을 찾을 것을 제안하고 있다고 생각했습니다.

다음 재 파라미터 화를 사용하지만 당연히 아이디어가 아니 었습니다. 이해해 주시겠습니까?

\int_{0}^{1} \frac{1}{μ (1 - μ} d μ

$\int_{0}^{1}{\frac{1}{\mu(1-\mu}}d\mu$

— Red Noise

23

예, 지수 패밀리 이전에 켤레가 있습니다. 세 개의 매개 변수 패밀리 일부 값I는 상당히 파악하지 않지만이되는 (I 믿고, 적분 인및- 작동해야에 대응 독립적 인 지수 분포하도록 확실히 작동하고 켤레 업데이트에는 증분이 포함됩니다.

π (α, β ∣ 에이, 비, 피) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{피} 특급 (에이 α + 비 β) .

$\pi(\alpha, \beta \mid a, b, p) \propto \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left(a\alpha + b\beta \right).$

(a, b, p)

$(a, b, p)$

p \geq 0

$p \ge 0$

a < 0, b < 0

$a < 0, b < 0$

p = 0

$p = 0$

따라서

작동합니다).

p

$p$

p > 0

$p > 0$

아무도 그것을 사용하지 않는 문제의 적어도 일부는 즉, 정규화 상수는 클로닝 된 형태를 갖지 않습니다.

\int_{0}^{\infty} \int_{0}^{\infty} {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{피} 특급 (에이 α + 비 β) = ?

$\int_0^\infty \int_0^\infty \left\{\frac{\Gamma(\alpha + \beta)}{\Gamma(\alpha)\Gamma(\beta)}\right\}^p \exp\left(a\alpha + b\beta \right) = ?$

— 사람
소스

아 문제가 있습니다. 어쨌든 사전에 정보가없는 버전의 켤레를 찾게되었으므로 두 매개 변수에 대해 균일 한 우선 순위로 시작하는 것처럼 보입니다. 감사.

— Brash Equilibrium

가능성을 비교하는 경우에는 정규화 할 필요가 없습니다…

— Neil G

나는 당신의 행동 누락 될 수 있습니다 생각

당신의

뿐만 아니라 용어. 아마도

등 이어야합니다 .

p

$p$

\exp

$\exp$

p a α

$pa\alpha$

— Neil G

@NeilG의

에

, 당신은 단지의 관점에서 사물 표현해야

대신

. 이렇게

아무 것도 변경되지 않습니다, 단지 reparmetrization입니다. "우연성 비교"란 무엇을 의미하는지 잘 모르겠습니다. 조건부 활용의 이점을 없애는 Metropolis와 같은 것을 사용하지 않고 사전에 Gibbs 샘플러를 구현할 수 없으며 정규화 상수는

와

에 따라 달라집니다 . .

p

$p$

\exp

$\exp$

\log Γ (\dots)

$\log \Gamma(\cdots)$

Γ (\dots)

$\Gamma(\cdots)$

p a α

$pa\alpha$

a

$a$

b

$b$

— 사람

2

@NeilG 적분은 랜덤 변수이므로

및

초과 합니다.

α

$\alpha$

β

$\beta$

— guy

9

에 이론 베타 배포를위한 복합 이전이 있어야합니다. 이 때문입니다

베타 분포는 기하 급수 분포 중 하나 이며
이론적으로는 이전을 도출하는 것이 가능해야한다. 예를 들어 wikipedia , 지수 가족에 대한 D Blei의 강의를 참조하십시오 .

그러나 파생은 어려워 보이며 Bouchard-Cote의 지수 가족 및 활용 우선 순위 를 인용하면

중요한 레시피는이 레시피가 계산적으로 다루기 쉬운 켤레를 항상 생성하지는 않는다는 것입니다.

이에 따라 D Fink의 A Conengate Priors의 베타 배포판에 대한 사전 배포판은 없습니다 .

— 너무
소스

3

도출은 어렵지 않습니다 — 내 답변 참조 : mathoverflow.net/questions/63496/…

— Neil G

3

베타 분배 이전의 컨쥬 게이트 인 "표준"(즉, 지수 패밀리) 분포가 있다고 생각하지 않습니다. 그러나 존재하는 경우 이변 량 분포 여야합니다.

이 질문에 대해 아무 생각이 없다,하지만 난 당신의 대답을 지원하는 것이 편리 켤레 사전지도를 발견했다 : johndcook.com/conjugate_prior_diagram.html

— 저스틴 Bozonier

이전의 켤레는 지수 패밀리에 있으며 2가 아닌 3 개의 매개 변수를 갖습니다.

— Neil G

1

@ 닐, 당신 말이 맞아요. 적어도 두 개의 매개 변수가 있어야한다고 말했을 것입니다.

-1 :이 답변은 위 의 답변 에서 설명 된 것처럼 "지수 가족에 사전에 공액이 존재하지 않는다"는 주장에서 분명히 잘못되었습니다 ...

— Jan Kukacka

3

Robert and Casella (RC)는 그들의 책 《Monter Carlo Methods in R , Springer, 2010》의 실시 예 3.6 (p 71-75)에서 베타 분포 이전의 컨쥬 게이트 패밀리를 설명하고있다 . 자원.

자세한 내용은 gung의 요청에 따라 추가되었습니다. RC는 분포 경우, 접합체 이전의 형태가 "... $B(\alpha, \beta)$

π (α, β) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{λ} {엑스}_{0}^{α} {와이}_{0}^{β}

$\pi(\alpha,\beta) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} x_0^{\alpha} y_0^{\beta}$

$\{\lambda, x_0, y_0\}$

π (α, β | 엑스) \propto {\frac{Γ (α + β)}{Γ (α) Γ (β)}}^{λ} (엑스 {엑스}_{0})^{α} ((1 - 엑스) {와이}_{0})^{β} . "

$\pi(\alpha,\beta \vert x) \propto \Big\{ \frac{\Gamma(\alpha+\beta)} {\Gamma(\alpha)\Gamma(\beta)} \Big\} ^{\lambda} (xx_0)^{\alpha} ((1-x)y_0)^{\beta}."$

$\pi(\alpha,\beta \vert x)$ $x$

— 사용자 37239
소스

2

π (α, β) \propto {(\frac{Γ (α + β)}{Γ (α) Γ (β)})}^{λ + 1} (x x_{0})^{α - 1} {(y_{0} (1 - x))}^{β - 1}

$\pi(\alpha, \beta) \propto \left( \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha) \Gamma(\beta)} \right)^{\lambda +1} (x x_0)^{\alpha-1} \left(y_0 (1-x) \right)^{\beta-1}$

1

Fred Schoen의 의견에 따라 원본 포스터가 게시물을 업데이트하여 교과서에 주어진 후부가 잘못되었음을 나타냅니다 (쉽게 확인 됨).

— RMurphy