베이지안 추론에서 왜 일부 용어는 사후 예측에서 제외됩니까?


12

가우스 분포에 대한 Kevin Murphy의 Conjugate Bayesian 분석 에서 사후 예측 분포는 다음과 같습니다.

피(엑스∣디)=∫피(엑스∣θ)피(θ∣디)디θ

여기서 는 모형이 적합하고 는 보이지 않는 데이터입니다. 내가 이해하지 못하는 것은 왜 대한 의존성 이 적분의 첫 번째 용어에서 사라지는 지입니다. 기본 확률 규칙을 사용하면 다음과 같이 예상됩니다.디엑스디

피(ㅏ)=∫피(ㅏ∣씨)피(씨)디씨피(ㅏ∣비)=∫피(ㅏ∣씨,비)피(씨∣비)디씨↓피(엑스∣디)=∫피(엑스∣θ,디)⏞⋆피(θ∣디)디θ

질문 : 라는 용어 에서 에 대한 의존성이 사라지는 이유는 무엇 입니까?디⋆


가치있는 것을 위해, 나는 이런 종류의 공식화 (조건부에서 변수를 떨어 뜨림) 다른 곳을 보았습니다. 예를 들어 Ryan Adam의 Bayesian Online Changepoint Detection 에서 사후 예측을 다음과 같이 씁니다.

피(엑스티+1∣아르 자형티)=∫피(엑스티+1∣θ)피(θ∣아르 자형티,엑스티)디θ

다시 이기 때문에 예상했을 것입니다.디={엑스티,아르 자형티}

피(엑스티+1∣엑스티,아르 자형티)=∫피(엑스티+1∣θ,엑스티,아르 자형티)피(θ∣아르 자형티,엑스티)디θ

답변:


13

이것은 주어지면 가 조건부 와 독립적 이라는 가정을 기반으로합니다 . 이것은 훈련 및 테스트 데이터 ( 각각 와 )가 동일한 미지의 매개 변수 에서 독립적으로 생성 되기 때문에 많은 경우에 합리적인 가정입니다 . 이 독립 가정을 가정하면 이므로 는 예상 한보다 일반적인 형태에서 제외됩니다.엑스디θ디엑스θ피(엑스|θ,디)=피(엑스|θ)디

두 번째 예에서는 비슷한 독립성 가정이 적용되지만 현재는 (명시 적으로) 시간이 지남에 따라 나타납니다. 이러한 가정은 본문의 다른 부분에서 명시 적으로 언급되거나 문제의 상황에 충분히 익숙한 모든 사람에게 암시 적으로 명확 할 수 있습니다 (그러나 이것이 귀하의 특정 예에서 필자가 익숙하지 않은 것을 의미하지는 않지만) -저자는이 친숙 함을 가정 할 권리가있다).


9

엑스디θθθ디디엑스피(엑스|θ,디)=피(엑스|θ)

당사 사이트를 사용함과 동시에 당사의 쿠키 정책과 개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.