주어진 MLE (Markov Chains)에 대한 로그 우도 계산

저는 현재 Markov 체인으로 작업하고 있으며 여러 출처에서 제안한 전환 확률을 사용하여 최대 가능성 추정치를 계산했습니다 (즉, a에서 b 로의 전환 수를 a에서 다른 노드로의 전체 전환 수로 나눈 값).

이제 MLE의 로그 우도를 계산하려고합니다.

maximum-likelihood markov-process likelihood

— fsociety
소스

전환 확률의 최대 가능성 추정치를 이미 계산했으며 이제 정확히 무엇의 로그 가능성을 계산하려고합니까?

— Nick

하자 마르코프 체인의 경로하고하자 경로를 관찰 할 확률 일 때 IS 실제 매개 변수 값 (일명 의 가능성 함수 ) 조건부 확률의 정의를 사용하여 $\{ X_i \}_{i=1}^{T}$ $P_{\theta}(X_1, ..., X_T)$ $\theta$ $\theta$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}, . . ., X_{1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}, ..., X_1) \cdot P_{\theta}(X_1, ..., X_{T-1})$

이것이 마르코프 체인이므로 이므로 이것을 단순화 $P_{\theta}(X_T | X_{T-1}, ..., X_1) = P_{\theta}(X_T | X_{T-1} )$

P_{θ} (X_{1}, . . ., X_{T}) = P_{θ} (X_{T} | X_{T - 1}) \cdot P_{θ} (X_{1}, . . ., X_{T - 1})

$P_{\theta}(X_1, ..., X_T) = P_{\theta}(X_T | X_{T-1}) \cdot P_{\theta}(X_1, ..., X_{T-1})$

이 같은 논리 를 반복 하면 $T$

P_{θ} (X_{1}, . . ., X_{T}) = \prod_{i = 1}^{T} P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_1, ..., X_T) = \prod_{i=1}^{T} P_{\theta}(X_i | X_{i-1} )$

여기서 은 프로세스의 초기 상태로 해석됩니다. 오른쪽의 용어는 전환 행렬의 요소 일뿐입니다. 요청한 로그 가능성이므로 최종 답변은 다음과 같습니다. $X_0$

L (θ) = \sum_{i = 1}^{T} \log (P_{θ} (X_{i} | X_{i - 1}))

${\bf L}(\theta) = \sum_{i=1}^{T} \log \Big( P_{\theta}(X_i | X_{i-1} ) \Big)$

이는 단일 마르코프 체인의 가능성입니다. 데이터 세트에 여러 개의 (독립적 인) 마르코프 체인이 포함 된 경우 전체 가능성은이 양식의 항의 합계입니다.

— 매크로
소스

와우, 답변 주셔서 감사합니다. 이 경우 는 MLE에서 가져온 "전환"확률입니까?

P_{θ}

$P_{\theta}$

— fsociety

@ ph_singer, 당신은 매우 환영합니다. 은 매개 변수 값 주어지면 상태 에서 로 이동할 확률입니다 . 만약 당신이 전이 행렬에 어떤 구조도 가하지 않았다면 (이것처럼 들립니다) 단지 전이 확률의 벡터를 나타냅니다 (그리고 MLE은 질문에 정확하게 표시된대로 샘플 비율 일뿐입니다). : 은 상태 에서 상태 끝난 이동의 샘플 비율 일뿐입니다. .

P_{θ} (X_{i} | X_{i - 1})

$P_{\theta}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_i$

θ

$\theta$

θ

$\theta$

P_{{\hat{θ}}_{M L E}} (X_{i} | X_{i - 1})

$P_{\hat{\theta}_{{\rm MLE}}}(X_i|X_{i-1})$

X_{i - 1}

$X_{i-1}$

X_{i}

$X_{i}$

— 매크로

다시 감사합니다! 한 가지 더 질문 : 다른 주문 (예 : k = 2)을 사용하는 경우이 프로세스는 어떻게 작동합니까?

— fsociety

"주문"의 의미를 명확하게 설명해 주시겠습니까?

— 매크로

(+1) OP는 아마도 차 MC 를 나타 내기 위해 를 의미 할 수 있습니다 . 즉, 가장 최근의 아니라 이전의 두 상태 따라 .

k = 2

$k=2$

X_{i - 1}, X_{i - 2}

$X_{i-1},X_{i-2}$

X_{i - 1}

$X_{i-1}$

— 추기경