이벤트 예측을위한 숨겨진 Markov 모델

질문 : 숨겨진 Markov 모델의 현명한 구현 아래 설정이 있습니까?

전체 관측 시간 동안 108,000관찰 한 데이터 세트 (100 일 동안 수행)와 대략적인 2000이벤트가 있습니다. 데이터는 아래 그림과 같이 관찰 된 변수가 3 개의 개별 값 취할 수 있고 빨간색 열은 이벤트 시간, 즉 강조 표시합니다 .$[1,2,3]$$t_E$

그림에서 빨간색 사각형으로 표시된 것처럼 각 이벤트에 대해 { to }를 해부 하여이를 "사전 이벤트 창"으로 효과적으로 처리했습니다.$t_E$$t_{E-5}$

HMM 교육 : Pg에서 제안한 다중 관측 시퀀스 방법을 사용하여 모든 "사전 이벤트 창"을 기반으로 HMM (Hidden Markov Model) 을 훈련 할 계획 입니다. Rabiner의 논문 273 . 바라건대, 이벤트로 이어지는 시퀀스 패턴을 캡처하는 HMM을 훈련시킬 수 있기를 바랍니다.

HMM 예측 : 그런 다음이 HMM을 사용 하여 새로운 날에 를 예측할 계획 입니다. 여기서 은 슬라이딩 윈도우 벡터가되고 현재 시간 와 사이의 관측 값을 포함하도록 실시간으로 업데이트됩니다. 일이 계속되는대로 .$log[P(Observations|HMM)]$$Observations$$t$$t-5$

"사전 이벤트 창"과 유사한 에 대해 증가 를 볼 것으로 예상됩니다 . 이를 통해 이벤트가 발생하기 전에 이벤트를 예측할 수 있습니다.$log[P(Observations|HMM)]$$Observations$

설명한 접근법의 한 가지 문제는 어떤 종류의 증가를 정의해야 하는가입니다. $P(O)$ 의미가 있으며, 다음과 같이 어려울 수 있습니다. $P(O)$항상 일반적으로 매우 작습니다. 관심있는 이벤트가 발생하는 관찰 시퀀스의 경우 HMM1, 이벤트 가 발생 하지 않는 관찰 시퀀스의 경우 HMM2와 같이 두 개의 HMM을 학습하는 것이 좋습니다 . 그런 다음 관찰 순서가 주어집니다.$O$ 당신은 가지고

$$\begin{align*} P(HHM1|O) &= \frac{P(O|HMM1)P(HMM1)}{P(O)} \\ &\varpropto P(O|HMM1)P(HMM1) \end{align*}$$ HMM2도 마찬가지입니다. 그런 다음 이벤트가 발생할 경우 예측할 수 있습니다 $$\begin{align*} P(HMM1|O) &> P(HMM2|O) \\ \implies \frac{P(HMM1)P(O|HMM1)}{P(O)} &> \frac{P(HMM2)P(O|HMM2)}{P(O)} \\ \implies P(HMM1)P(O|HMM1) &> P(HMM2)P(O|HMM2). \end{align*}$$

면책 조항 : 다음은 개인적인 경험에 근거한 것이므로 그대로 유지하십시오. HMM의 장점 중 하나는 가변 길이 시퀀스 및 가변 차수 효과 (숨겨진 상태 덕분)를 처리 할 수 ​​있다는 것입니다. 때때로 이것은 (많은 NLP 응용 프로그램에서와 같이) 필요합니다. 그러나 최근 5 개의 관측치 만 관심있는 이벤트를 예측하는 데 적합하다고 가정 한 것처럼 보입니다. 이 가정이 현실적이라면 전통적인 기술 (로지스틱 회귀, 순진 베이, SVM 등)을 사용하고 마지막 5 개의 관측치를 특징 / 독립 변수로 사용하는 것이 훨씬 더 운이 좋을 수 있습니다. 일반적으로 이러한 유형의 모델은 학습하기 쉽고 (내 경험상) 더 나은 결과를 생성합니다.