후방 예측 분포와 후방 예측 분포의 차이점은 무엇입니까?


31

나는 후자가 무엇인지 이해하지만 후자가 무엇을 의미하는지 잘 모르겠습니다.

2는 어떻게 다릅니 까?

Kevin P Murphy는 교과서 인 Machine Learning : Probabilistic Perspective 에서 "내부 신념 상태"라고 지적했습니다. 이것이 실제로 무엇을 의미합니까? 나는 Prior가 당신의 내부 신념이나 편견을 나타냅니다.

답변:


36

둘 사이의 간단한 차이는 사후 분포가 알 수없는 모수 θ 에 의존한다는 것입니다. 즉 사후 분포는 다음과 같습니다.

(θ|엑스)=기음×(엑스|θ)(θ)
여기서 기음 는 정규화 상수 .

반면에 사후 예측 분포는 미지의 모수 θ 에 의존하지 않으므로 통합됩니다. 즉, 사후 예측 분포는

(엑스|엑스)=Θ기음×(엑스,θ|엑스)θ=Θ기음×(엑스|θ)(θ|엑스)θ

여기서 엑스 는 관찰되지 않은 새로운 랜덤 변수이며 엑스 와 무관 합니다.

나는 당신이 그것을 이해한다고 말했기 때문에 사후 분포 설명에 머 무르지 않을 것입니다. 그러나 사후 분포는 "불확실한 양의 분포로, 무작위 변수로 취급되며, 얻은 증거에 따라 조건부"입니다 (Wikipedia). 따라서 기본적으로 알려지지 않은 임의의 매개 변수를 설명하는 분포입니다.

반면에 사후 예측 분포 는 이미 본 데이터를 기반으로 미래 예측 데이터의 분포라는 점에서 완전히 다른 의미를 갖습니다. 따라서 사후 예측 분포는 기본적으로 새로운 데이터 값을 예측하는 데 사용됩니다.

도움이되는 경우 사후 분포 및 사후 예측 분포에 대한 예제 그래프입니다.

여기에 이미지 설명을 입력하십시오

여기에 이미지 설명을 입력하십시오


3
이 사후 예측 분포 그래프에는 새로운 축 레이블과 캡션 또는 무언가가 필요합니다. 나는 사후 예측 분포가 무엇인지 알고 있기 때문에 아이디어를 얻지 만 그것을 알아내는 사람은 심각하게 혼란 스러울 수 있습니다.
Cyan

감사합니다 @BabakP 당신은 또한 세타의 pmf와 P (x * | theta)를 그리는 데 사용한 분포를 알려 주실 수 있습니까
AD

... 전체 예제를 해결하고 싶습니다.
AD

방금 내 후부가 베타 (3,2) 인 것처럼 가장했습니다. 나는 실제로 아무것도 해결하지 못했습니다. 그러나 예를 원한다면 가능성이 이항 (n, p)이고 p의 선행이 베타 (a, b)라고 가정하면 후부는 다시 베타 분포라는 것을 알 수 있습니다. .

또한, 그 사후 예측은 도출하기 쉽지 않습니다. 방금 GP 사후 예측을 위해 작성한 가우시안 프로세스 코드에서 그래프를 가져 왔습니다. 그리고 위에서 말한 것처럼, 그 후부와 그 후부 예측 플롯은 실제로 표시된 후자와 일치하지 않으며, 둘 다 임의적입니다.

11

예측 분포는 일반적으로 일종의 예측 모형의 모수에 대한 사후 분포를 학습 한 경우에 사용됩니다. 예를 들어 베이지안 선형 회귀 분석에서 관측 된 데이터 X가 주어진 경우 모델 y = wX의 w 모수에 대한 사후 분포를 배웁니다.
그런 다음 보이지 않는 새로운 데이터 포인트 x *가 들어 오면 가능한 예측에 대한 분포를 찾습니다. * 방금 배운 w의 사후 분포를 고려할 때. w의 사후에 주어진 y *에 대한이 분포는 예측 분포입니다.


5

그들은 두 가지 다른 것들의 분포를 말합니다.

후방 분포의 분포를 의미 파라미터 예측 사후 분포 (PPD)의 분포를 의미하지만, 데이터의 미래 관측 .

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.