이변 량 혼합 분포를 갖는 EM 알고리즘으로부터의 수렴

주어진 데이터 세트 와 부분적으로 관측 된 데이터 세트 의 최대 우도 추정치를 찾고자하는 혼합 모델이 있습니다. I는 (의 기대 계산 단계 E를 모두 구현 한 주어진 및 전류 파라미터 예상 소정의 음의 로그 우도 최소화하기 위해, 상기 M-공정) .$x$$z$$z$$x$$\theta^k$$z$

내가 이해했듯이 모든 반복에 대해 최대 가능성이 증가하고 있습니다. 이것은 모든 반복에 대해 음의 로그 가능성이 감소해야 함을 의미합니까? 그러나 반복 할 때 알고리즘은 실제로 음의 로그 가능성의 감소 값을 생성하지 않습니다. 대신 감소하고 증가 할 수 있습니다. 예를 들어 이것은 수렴 할 때까지 음의 로그 우도 값입니다.

내가 오해 한 것이 있습니까?

또한 잠재 잠재 (관찰되지 않은) 변수에 대한 최대 가능성을 수행 할 때 시뮬레이션 된 데이터의 경우 프로그래밍 오류가 없음을 나타내는 완벽하게 맞습니다. EM 알고리즘의 경우, 특히 매개 변수의 특정 하위 집합 (예 : 분류 변수의 비율)에 대해 차선책으로 명확하게 수렴하지 않는 경우가 많습니다. 알고리즘이 국부적 최소 점 또는 정지 점으로 수렴 될 수 있거나 , 종래의 검색 휴리스틱이 있거나 또는 마찬가지로 글로벌 최소 (또는 최대)를 찾을 가능성을 증가시키는 것으로 알려져있다 . 이 특정 문제의 경우, 이변 량 혼합의 경우 두 분포 중 하나의 분포가 확률 1의 값을 가지므로 (실제 수명이$T=z T_0 + (1-z)\infty$ 여기서 는 각 분포에 속하는 것을 나타냅니다. 지표 는 물론 데이터 세트에서 검열됩니다. $z$$z$

이론적 솔루션으로 시작할 때에 대한 두 번째 그림을 추가했습니다 (최적에 가깝습니다). 그러나 알 수 있듯이 가능성과 매개 변수는이 솔루션에서 명확하게 열등한 솔루션으로 다양합니다.

편집 : 전체 데이터는 여기서 는 주제 의 관측 시간 이고 는 시간이 실제 이벤트와 연관되어 있는지 여부를 나타냅니다. 또는 오른쪽이 검열 된 경우 (1은 이벤트를 나타내고 0은 오른쪽 검열을 나타내는 경우) 는 절단 표시기 를 사용하여 관측치의 절단 시간 (0 일 수 있음) 이고 마지막으로 는 관측치가 속한 모집단을 나타냅니다. 이변 량은 0과 1 만 고려하면됩니다).$\mathbf{x_i}=(t_i,\delta_i,L_i,\tau_i,z_i)$$t_i$$i$$\delta_i$$L_i$$\tau_i$$z_i$

들어 우리 밀도 함수가 와 마찬가지로 그것이 테일 분포 함수와 연관된 . 들어 관심 이벤트가 발생하지 않습니다. 이 분포와 관련된 는 없지만 정의 하므로 및 입니다. 또한 다음과 같은 완전 혼합 분포가 생성됩니다.$z=1$$f_z(t)=f(t|z=1)$$S_z(t)=S(t|z=1)$$z=0$$t$$\inf$$f(t|z=0)=0$$S(t|z=0)=1$

$f(t) = \sum_{i=0}^{1}p_if(t|z=i) = pf(t|z=1)$ 및 $S(t) = 1 - p + pS_z(t)$

우리는 가능성의 일반적인 형태를 정의합니다.

$L(\theta;\mathbf{x_i}) = \Pi_i \frac{f(t_i;\theta)^{\delta_i}S(t_i;\theta)^{1-\delta_i}}{S(L_i)^{\tau_i}}$

이제 는 일 때만 부분적으로 관찰 되며 그렇지 않으면 알 수 없습니다. 완전한 가능성은$z$$\delta=1$

$L(\theta,p;\mathbf{x_i}) = \Pi_i \frac{\big((p f_z(t_i;\theta))^{z_i}\big)^{\delta_i}\big((1-p)^{(1-z_i)}(p S_z(t_i;\theta))^{z_i}\big)^{1-\delta_i}}{\big((1-p)^{(1-z_i)}(p S_z(L_i;\theta))^{z_i}\big)^{\tau_i}}$

여기서 는 해당 분포의 가중치입니다 (일부 링크 함수에 의해 일부 공변량 및 해당 계수와 연관 될 수 있음). 대부분의 문헌에서 이것은 다음과 같은 로그 가능성으로 단순화됩니다.$p$

$\sum \Big( z_i \ln(p) + (1-p) \ln(1-p) - \tau_i\big(z_i \ln(p) + (1-z_i)\ln(1-p)\big) + \delta_i z_i f_z(t_i;\theta) + (1-\delta_i) z_i S_z(t_i;\theta) - \tau_i S_z(L_i;\theta)\Big)$

들어 M 단계 ,이 함수는 아니지만 극대화 한 방법에서 그 전체가 최대화된다. 대신 우리는 이것을 부분으로 분리 할 수 ​​없습니다 .$l(\theta,p; \cdot) = l_1(\theta,\cdot) + l_2(p,\cdot)$

k : th + 1 E-step 의 경우 (부분적으로) 관찰되지 않은 잠재 변수 의 예상 값을 찾아야합니다 . 에 이라는 사실을 사용합니다 .$z_i$$\delta=1$$z=1$

$E(z_i|\mathbf{x_i},\theta^{(k)},p^{(k)}) = \delta_i + (1-\delta_i) P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})$

여기$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i}) =\frac{P(\mathbf{x_i};\theta^{(k)},p^{(k)}|z_i=1)P(z_i=1;\theta^{(k)},p^{(k)})}{P(\mathbf{x_i};\theta^{(k)},p^{(k)})}$

우리주는$P(z_i=1;\theta^{(k)},p^{(k)}|\mathbf{x_i})=\frac{pS_z(t_i;\theta^{(k)})}{1 - p + pS_z(t_i;\theta^{(k)})}$

(여기서 이므로 이벤트가 관찰되지 않으므로 데이터 의 확률은 꼬리 분포 함수에 의해 제공됩니다.$\delta_i=0$$\mathbf{x_i}$

EM의 목표는 관찰 된 데이터 로그 가능성을 최대화하는 것입니다.

$$l(\theta) = \sum_i \ln \left[ \sum_{z} p(x_i, z| \theta) \right]$$

불행히도 이것은 와 관련하여 최적화하기가 어려운 경향이 있습니다 . 대신 EM은 보조 기능을 반복적으로 형성하고 최대화합니다.$\theta$

$$Q(\theta , \theta^t) = \mathbb{E}_{z|\theta^t} \left (\sum_i \ln p(x_i, z_i| \theta) \right)$$

경우 최대화 , EM을 보장$\theta^{t+1}$$Q(\theta, \theta^t)$

$$l(\theta^{t+1}) \geq Q(\theta^{t+1}, \theta^t) \geq Q(\theta^t, \theta^t) = l(\theta^t)$$

이것이 왜 그런지 정확히 알고 싶다면 머피의 머신 러닝 : 확률 적 관점 의 11.4.7 절 에 좋은 설명이 있습니다. 구현 이 이러한 불평등을 충족 시키지 못하면 어딘가에 실수를 한 것입니다. 같은 말을

프로그래밍 오류가 없음을 나타내는 완벽하게 맞습니다.

위험합니다. 많은 최적화 및 학습 알고리즘을 사용하면 실수를 저지르는 것이 쉽지만 대부분의 경우 정답을 얻을 수 있습니다. 내가 좋아하는 직감은이 알고리즘이 지저분한 데이터를 처리하기위한 것이므로 버그를 잘 처리한다는 것은 놀라운 일이 아닙니다!

---

질문의 나머지 반쪽에서

전역 최소값 (또는 최대 값)을 찾을 가능성을 높이기 위해 기존의 검색 휴리스틱 또는 유사 검색이 있습니까?

무작위로 다시 시작하는 것이 가장 쉬운 방법입니다. 다음으로 가장 쉬운 방법은 아마도 초기 매개 변수에 대한 시뮬레이션 어닐링입니다. 나는 결정 론적 어닐링 이라고 불리는 EM의 변형에 대해 들었지만 개인적으로 사용하지 않았으므로 그것에 대해 많이 말할 수는 없습니다.