반공 액 및 조건부 공액 사전의 정의는 무엇입니까?

반 접합 이전 과 조건 적 접합 이전 의 정의는 무엇입니까 ? Gelman의 Bayesian Data Analysis 에서 그것들을 찾았 지만 그들의 정의를 찾을 수 없었습니다.

bayesian

— 팀
소스

답변:

이 샘플링 분포의 클래스 이고 가 대한 이전 분포의 클래스 인 경우 베이지안 데이터 분석 (3 차 개정판) 의 정의를 사용합니다 . 클래스 위한 공역 경우 $\mathcal{F}$ $p(y|\theta)$ $\mathcal{P}$ $\theta$ $\mathcal{P}$ $\mathcal{F}$

p (θ | y) \in P for all p (\cdot | θ) \in F and p (\cdot) \in P .

$p(\theta|y)\in \mathcal{P} \mbox{ for all }p(\cdot|\theta)\in \mathcal{F} \mbox{ and }p(\cdot)\in \mathcal{P}.$

경우 분포를 샘플링 한 부류 인 과 위한 종래 분포의 클래스 조건부 다음 클래스 에 대한 조건 공역 경우는 $\mathcal{F}$ $p(y|\theta,\phi)$ $\mathcal{P}$ $\theta$ $\phi$ $\mathcal{P}$ $\mathcal{F}$

p (θ | y, ϕ) \in P for all p (\cdot | θ, ϕ) \in F and p (\cdot | ϕ) \in P .

$p(\theta|y,\phi)\in \mathcal{P} \mbox{ for all }p(\cdot|\theta,\phi)\in \mathcal{F} \mbox{ and }p(\cdot|\phi)\in \mathcal{P}.$

조건부 접합체 사전은 전체 조건부가 공지 된 패밀리이기 때문에 깁스 샘플러를 구성하는데 편리하다.

전자 버전의 베이지안 데이터 분석 (3 판)을 검색했는데 이전에 반 접합에 대한 참조를 찾을 수 없습니다. 조건부 켤레와 동의어라고 생각하지만 책에서 사용에 대한 참조를 제공하면 정의를 제공 할 수 있어야합니다.

— 자라드 니에미
소스

+1. 베이지안 데이터 분석 제 3 판의 URL은 무엇입니까?

— Patrick Coulombe

감사! 반 접합이 여기 (제 2 판) books.google.com/…에 나타납니다 . 그건 그렇고, 당신은 어떻게 제 3 판의 전자 책을 얻었습니까?

— Tim

이전이 완전히 공액이기 때문에 왜 반 접합이라고 말하는지 잘 모르겠습니다. 이 진술은 3 판에서 제거되었습니다. ebook은 crcpress.com/product/isbn/9781439840955에서 구입할 수 있습니다 .

— jaradniemi

@jaradniemi : 내가 준 링크에서 p84 외에도 semiconjugate before는 켤레 이전이 아니라는 것이 지적됩니다.

— Tim

에서는 각 은 무엇을 의미하고 각각은 동일한 것을 의미합니까?

p (θ | y, ϕ) \in P for all p (\cdot | θ, ϕ) \in F and p (\cdot | ϕ) \in P .

$p(\theta|y,\phi)\in \mathcal{P} \mbox{ for all }p(\cdot|\theta,\phi)\in \mathcal{F} \mbox{ and }p(\cdot|\phi)\in \mathcal{P}.$

\cdot

$\cdot$

— Muno

다변량 법선을 예로 사용하고 싶습니다.

가능성은 다음과 같이 주어진다는 것을 상기하십시오.

P (y_{1}, y_{2}, . . ., y_{n} | μ, Σ) = (2 π)^{- \frac{N D}{2}} det (Σ)^{- \frac{N}{2}} \exp (\frac{1}{2} \sum_{i = 1}^{N} (x_{i} - μ)^{T} Σ^{- 1} (x_{i} - μ))

$P(y_1,y_2,...,y_n|\mu,\Sigma) = (2\pi)^{-\frac{ND}{2}}\det(\Sigma)^{-\frac{N}{2}}\exp(\frac{1}{2}\sum_{i=1}^N(x_i-\mu)^T\Sigma^{-1}(x_i-\mu))$

이러한 가능성에 앞서 사전을 찾기 위해

P (μ, Σ) = Normal (μ; μ_{0}, Λ_{0}) InverseWishart (Σ; ν_{0}, S_{0})

$P(\mu,\Sigma)=\text{Normal}(\mu;\mu_0,\Lambda_0)\text{InverseWishart}(\Sigma;\nu_0,S_0)$

지금은 에 대해 걱정하지 않아도됩니다 . 그것들은 단순히 이전 분포의 매개 변수입니다. $\mu_0,\Lambda_0,\nu_0,S_0$

그러나 중요한 것은 이것이 가능성에 겹치지 않는다는 것입니다. 이유를 확인하기 위해 온라인에서 찾은 참조를 인용하고 싶습니다.

참고 와 우도의 비 팩터 방법으로 함께 표시; 그러므로 그것들은 또한 후부에서 함께 연결될 것입니다 $\mu$ $\Sigma$

참조는 Kevin P. Murphy의 "기계 학습 : 확률 적 관점"입니다. 여기 링크가 있습니다. 135 페이지 맨 위의 4.6 절 (MVN의 매개 변수 추론)에서 따옴표를 찾을 수 있습니다.

인용을 계속하려면

와 는 개별적으로 공액 이기 때문에, 상기 선행 기술은 때때로 반공 액 또는 조건부 공액으로 불린다 . 전체 접합체 를 만들려면 와 가 서로 의존 하는 이전을 사용해야합니다 . 우리는 형태의 공동 배포를 사용할 것입니다 $p(\mu|\Sigma)$ $p(\Sigma|\mu)$ $\mu$ $\Sigma$

$p (μ, Σ) = p (Σ) p (μ | Σ)$ $p(\mu, \Sigma) = p(\Sigma)p(\mu|\Sigma)$

여기서 아이디어는 첫 번째 이전 배포판입니다.

P (μ, Σ) = Normal (μ; μ_{0}, Λ_{0}) InverseWishart (Σ; ν_{0}, S_{0})

$P(\mu,\Sigma)=\text{Normal}(\mu;\mu_0,\Lambda_0)\text{InverseWishart}(\Sigma;\nu_0,S_0)$

와 는 분리 가능하거나 어떤 의미에서 독립적 이라고 가정합니다 . 그럼에도 불구하고, 우도 함수에서 와 는 따로 분해 될 수 없으며, 이는 후부에서 분리 할 수 없음을 의미합니다 (Recall, ). 이것은 처음에 "분리 할 수없는"후부 및 "분리 할 수있는"이 공액이 아님을 보여준다. 반면에 다시 쓰면 $\mu$ $\Sigma$ $\mu$ $\Sigma$ $(\text{Posterior}) \sim (\text{Prior})(\text{Likelihood})$

p (μ, Σ) = p (Σ) p (μ | Σ)

$p(\mu, \Sigma) = p(\Sigma)p(\mu|\Sigma)$

되도록 와 서로 의존 (통해 )는로 명명 전에 접합체 얻 반 접합체를 종래 . 희망적으로 귀하의 질문에 대답하십시오. $\mu$ $\Sigma$ $p(\mu|\Sigma)$

ps : 내가 사용한 또 다른 유용한 참고 자료는 Peter D. Hoff의 "베이지 통계 방법의 첫 번째 코스"입니다. 이 책에 대한 링크 입니다. 105 페이지에서 시작하는 섹션 7에서 관련 내용을 찾을 수 있으며 67 페이지에서 시작하는 섹션 5의 단일 변수 정규 분포에 대해 매우 잘 설명하고 직관 할 수 있습니다.이 섹션은 다음을 다룰 때 섹션 7에서 다시 강화됩니다. MVN.

— 네버 베
소스

하면 분포 샘플링의 클래스 , 그리고 에 대한 종래 분포의 클래스 다음 클래스 인 semiconjugate 대한 의 경우 모든 및 , 여기서 및 는 클래스 속하지 않습니다 . $F$ $p(y|θ,ϕ)$ $P$ $θ$ $P$ $F$ $p(θ|y,ϕ)∈P$ $p(⋅|θ,ϕ)∈F$ $p(θ,ϕ)=p(θ)\times p(ϕ)$ $p(θ)∈P$ $p(ϕ)$ $P$

— nudtlxt
소스