두 가우스 간의 KL- 분산을 결정해야합니다. 나는 내 결과를 비교하고 이 있지만, 나는 그들의 결과를 재현 할 수 없습니다. KL (p, p)에 대해 KL이 0이 아니기 때문에 결과가 분명히 잘못되었습니다.
어디에서 실수를하는지 궁금해하고 누군가가 실수를 할 수 있는지 물어 봅니다.
하자 및 . 주교의 PRML에서 나는p(x)=N(μ1,σ1)q(x)=N(μ2,σ2)
케이L ( p , q) = − ∫p ( x ) 로그큐( x ) dx + ∫p ( x ) 로그p ( x ) d엑스
모든 실제 라인에서 통합이 이루어지고
∫p ( x ) 로그p ( x ) dx = − 12( 1 + 로그2 πσ21) ,
그래서 나는 스스로를 로 제한합니다.∫p ( x ) 로그큐( x ) d엑스
− ∫p ( x ) 로그1( 2 πσ22)( 1 / 2 )이자형− ( x − μ2)22 개 σ22디x ,
그것은 분리 될 수있다
12로그( 2 πσ22) −∫p ( x ) 로그이자형− ( x − μ2)22 개 σ22디x .
내가 얻는 로그를 복용
12로그( 2 πσ22) − ∫p ( x ) ( - ( x - μ)2)22 개 σ22) dx ,
여기서 합계를 분리 하고 적분에서 σ22 얻습니다 .
12로그( 2 πσ22) + ∫p ( x ) x2디x − ∫P ( X ) 2 X μ2디x + ∫p ( x ) μ22디엑스2 개 σ22
분들께 아래의 기대 연산자 나타내는 , 나는대로이를 다시 작성할 수 있습니다⟨⟩p
12log(2πσ22)+⟨x2⟩−2⟨x⟩μ2+μ222σ22.
우리는 알고 . 그러므로var(x)=⟨x2⟩−⟨x⟩2
⟨x2⟩=σ21+μ21
따라서
12log(2πσ2)+σ21+μ21−2μ1μ2+μ222σ22,
내가 넣을 수있는
12log(2πσ22)+σ21+(μ1−μ2)22σ22.
모든 것을 하나로 모아서
케이L ( p , q)= − ∫p ( x ) 로그큐( x ) dx + ∫p ( x ) 로그p ( x ) d엑스= 12로그( 2 πσ22) + σ21+ ( μ1− μ2)22 개 σ22− 12( 1 + 로그2 πσ21)= 로그σ2σ1+ σ21+ ( μ1− μ2)22 개 σ22.
1 두 개의 동일한 가우시안에 대해 과
같기 때문에 잘못되었습니다 .1
누구든지 내 오류를 발견 할 수 있습니까?
최신 정보
정리를 해준 mpiktas에게 감사합니다. 정답은 다음과 같습니다.
케이L ( p , q) = 로그σ2σ1+ σ21+ ( μ1− μ2)22 개 σ22− 12