히든 마르코프 모델과 입자 필터 (및 칼만 필터)의 차이점

여기 내 오래된 질문이 있습니다

HMM (Hidden Markov) 모델과 PF (Particle Filter)의 차이를 알고 누군가 Kalman Filter 또는 어떤 상황에서 어떤 알고리즘을 사용하는지 알고 싶습니다. 저는 학생이며 프로젝트를해야하지만 먼저 몇 가지를 이해해야합니다.

따라서 참고 문헌에 따르면 둘 다 숨겨진 (또는 잠복 또는 관찰되지 않은) 상태를 포함한 상태 공간 모델 입니다. Wikipedia (Hidden_Markov_model)에 따르면 “HMM에서 숨겨진 변수의 상태 공간은 불 연속적이지만 관측치 자체는 불 연속적 (일반적으로 범주 형 분포에서 생성됨) 또는 연속적 (일반적으로 가우시안 분포에서) 일 수 있습니다. 연속 상태 공간을 허용하도록 숨겨진 Markov 모델을 일반화 할 수도 있습니다. 이러한 모델의 예는 숨겨진 변수에 대한 Markov 프로세스가 선형 동적 시스템이며 관련 변수 사이에 선형 관계가 있고 숨겨진 변수와 관찰 된 변수가 모두 가우시안 분포를 따르는 모델입니다. 방금 언급 한 선형 동적 시스템과 같은 간단한 경우에는 정확한 추론을 다루기 쉽습니다 (이 경우 칼만 필터 사용). 그러나 일반적으로 연속 잠재 변수가있는 HMM의 정확한 추론은 불가능하며 대략적인 방법을 사용해야합니다."

그러나 나에게는 이것이 약간 혼란 스럽습니다 ... 간단한 말로 이것은 다음을 의미합니다 (내가 한 더 많은 연구를 기반으로 함).

• HMM에서 상태 공간은 불연속 적이 거나 연속적 일 수 있습니다 . 또한 관측 자체는 불연속 적이 거나 연속적 일 수 있습니다 . 또한 HMM은 선형 및 가우시안 또는 비 가우시안 동적 시스템입니다.
• PF에서 상태 공간은 불연속 적이 거나 연속적 일 수 있습니다 . 또한 관측 자체는 불연속 적이 거나 연속적 일 수 있습니다 . 그러나 PF는 비선형 (비 가우시안?) 다이나믹 시스템입니다 (차이가 있습니까?).
• 선형 및 가우스 역학 시스템을 사용할 때 칼만 필터 (HMM과 같은 모양)가 사용됩니다 .

또한 어떤 알고리즘을 선택해야하는지 어떻게 알 수 있습니까? 왜냐하면이 모든 것이 똑같아 보이기 때문입니다. 또한 PF는 선형 데이터 (예 : 센서-키 넥트의 원시 데이터)를 가질 수 있지만 PF라는 논문을 발견했습니다. 동적 시스템은 비선형 일 수 있습니다. 이런 일이 일어날 수 있습니까? 이 올바른지? 어떻게?

제스처 인식을 위해 연구원은 HMM 또는 PF를 사용할 수 있지만 각 알고리즘을 선택하는 이유를 설명하지는 않습니다. 이러한 알고리즘을 구별하고 차이점을 이해하고 최상의 알고리즘을 선택하는 방법을 알고있는 사람이 있습니까?

내 질문이 너무 크거나 일부가 순진하지만 죄송하지만 설득력 있고 과학적인 답변을 찾지 못했습니다. 시간 내 주셔서 감사합니다!

여기 내 새로운 질문이 있습니다 (@conjugateprior의 도움에 따라)

따라서 더 자세히 읽으면서 이전 의견의 일부를 업데이트하고 진행 상황을 조금 더 이해하고 싶습니다.

• 간단히 말해서, 우산은 HMM 및 주 공간 모델 (하위 클래스)이 포함 된 Dynamic Bayesian 네트워크입니다 ( http://mlg.eng.cam.ac.uk/zoubin/papers/ijprai.pdf ).
• 또한, 두 모델 사이의 차이의 초기 HMM에 숨겨진 상태 변수, 즉 인 이산 관측 중 하나 일 수 있지만, 불연속 또는 연속 . PF에서 숨겨진 상태 변수는 연속적 이며 (실제 값 숨겨진 상태 벡터) 관측 값에는 가우스 분포가 있습니다.
• 또한 @conjugateprior에 따르면 각 모델에는 필터링, 스무딩 및 예측의 세 가지 작업이 있습니다. 필터링에서 HMM 모델은 불연속 숨겨진 상태 변수에 Forward 알고리즘 방법, 상태 공간에 연속 변수 및 선형 동적 시스템에 대한 칼만 필터 등을 사용합니다.
• 그러나 연속 상태 공간 을 허용하도록 HMM을 일반화 할 수도 있습니다 .
• 이러한 HMM의 확장으로, 2 개의 모델은 개념적으로 동일한 것으로 보입니다 ( 숨겨진 Markov 모델 대 Markov 전환 모델 대 State-Space 모델 ...? ).

좀 더 정확한 용어를 사용하고 있다고 생각하지만 여전히 모든 것이 흐릿합니다. 누구든지 HMM과 State Space 모델 의 차이점 이 무엇인지 설명 할 수 있습니까 ?

내 필요에 맞는 답을 찾을 수 없기 때문에 ..

다시 한번 감사합니다!

표준 용어가이 두 가지를 혼합하기 때문에 모델을 사용하여 추론하려는 모델과 구별하는 것이 도움이됩니다.

이 모델은 사용자가 지정하는 부분이다 성격 의 : 숨겨진 공간 (불연속 또는 연속)을, 숨겨진 상태 역학 (선형 또는 비선형) 관찰의 성격 (일반적으로 조건부 다항 또는 정상), 측정 모델은 연결 관측에 대한 숨겨진 상태. HMM과 상태 공간 모델은 두 가지 모델 사양 세트입니다.

$t$$t$

상태가 연속적이고 상태 역학 및 측정이 선형이고 모든 노이즈가 정상인 경우 Kalman Filter는 해당 작업을 효율적으로 수행합니다. 상태가 이산 일 때의 아날로그는 순방향 알고리즘입니다. 비 정규성가있는 경우 및 / 또는 비선형, 우리는 대략 필터로 다시 떨어진다. 확장 또는 무향 칼만 필터와 같은 결정적인 근사치가 있으며, 가장 가까운 입자 필터 인 확률 론적 근사치가 있습니다.

일반적인 느낌 은 상태 나 측정 부분에 피할 수없는 비선형 성이 있거나 관측치 (일반적인 문제 상황)에 비정규 성이있을 때 가능한 가장 가까운 근사치로 벗어나려고하는 것 같습니다. 따라서 EKF, UKF, PF입니다.

무향 칼만 필터에 관한 문헌은 일반적으로 확장 칼만 필터의 기존 선형화보다 더 잘 작동 할 수있는 상황을 비교합니다.

Particle Filter는 거의 완전한 일반성 (비선형 성, 분포)을 갖지만 경험상 상당히 신중한 조정이 필요하며 일반적으로 다른 것보다 훨씬 다루기 어렵습니다. 그러나 많은 경우에 유일한 옵션입니다.

자세한 내용은 Särkkä의 Bayesian Filtering and Smoothing의 4-7 장을 좋아하지만 아주 간결합니다. 저자는 개인용 온라인 사본을 제공합니다. 그렇지 않으면 대부분의 주 공간 시계열 책이이 자료를 다룰 것입니다. Particle Filtering에는 Doucet et al. 주제에 대한 볼륨,하지만 그것은 꽤 오래된 것 같아요. 아마도 다른 사람들은 더 새로운 참조를 지적 할 것입니다.