그래픽 모델에서 그래프 이론은 어디에 있습니까?

그래픽 모델에 대한 소개는 그것들을 "... 그래프 이론과 확률 이론의 결혼"으로 묘사합니다.

확률 이론 부분을 얻었지만 정확한 그래프 이론이 어디에 적합한 지 이해하는 데 어려움이 있습니다. 그래프 이론의 통찰력은 불확실성에서 확률 분포와 의사 결정에 대한 이해를 심화시키는 데 도움이 되었습니까?

PGM을 "트리"또는 "이중"또는 "비 지향"으로 분류하는 등 PGM에서 그래프 이론 용어를 사용하는 것 이상의 구체적인 예를 찾고 있습니다.

확률 적 그래픽 모델에는 실제 수학적 그래프 이론이 거의 없다. 여기서 실제 수학적 그래프 이론에 의해 나는 파벌, 정점 차수, 최대 흐름 최소 컷 이론 등에 대한 증거를 의미한다. Euler의 정리 및 핸드 셰이 킹 Lemma와 같은 기본적인 것조차 사용되지 않지만 확률 론적 추정을 업데이트하는 데 사용되는 컴퓨터 코드의 일부 속성을 확인하기 위해 호출 할 수 있다고 가정합니다. 또한, 영아 그래픽 모델은 다중 그래프와 같은 그래프 클래스의 서브 세트 이상을 거의 사용하지 않습니다. 그래프의 흐름에 대한 이론은 확률 적 그래픽 모델에서 사용되지 않습니다.

학생 A가 확률 전문가이지만 그래프 이론에 대해서는 전혀 모르고 학생 B가 그래프 이론 전문가에 대해서는 모르지만 확률에 대해서는 아무것도 모른다면 A는 확률 론적 그래픽 모델을 B보다 빨리 배우고 이해할 것입니다.

엄밀히 말하면, 그래프 이론 은 PGM과 느슨하게 연결되어있는 것 같습니다. 그러나 그래프 알고리즘 이 유용합니다. PGM은 메시지 전달 추론으로 시작했는데, 이는 그래프에서 메시지 전달 알고리즘의 일반 클래스의 하위 집합입니다 (그래서 "그래픽"이라는 단어의 이유 일 수 있음). Graph-cut 알고리즘은 컴퓨터 비전에서 Markov 랜덤 필드 추론에 널리 사용됩니다. 그것들은 Ford-Fulkerson 정리와 유사한 결과를 기반으로합니다 (최대 유량은 최소 컷과 같습니다). 가장 인기있는 알고리즘은 아마도 Boykov–Kolmogorov 및 IBFS입니다.

참고 문헌. [Murphy, 2012 , §22.6.3]은 MAP 추론에 대한 그래프 삭감 사용량을 다룹니다. 참조 [Kolmogorom 및 Zabih, 2004 ; Boykov et al., PAMI 2001] , 모델링보다는 최적화를 다룬다.

저밀도 패리티 검사 코드의 디코딩 용이성 (확률 그래프로 간주하고 Loopy Belief Propagation을 적용 할 때 우수한 결과를 얻음)과 패리티 검사 매트릭스에 의해 형성된 그래프의 거칠기 사이의 링크를 조사하는 연구가있었습니다. . 이 거스와의 연계는 LDPC가 발명되었을 때로 거슬러 올라갑니다. [1] 그러나 Mackay 등 [4]이 별도로 재발견 한 후 지난 10여 년 동안 추가 작업이 있었으며 [2] .

나는 인용되는 그래프의 지름에 따라 믿음 전파의 수렴 시간에 대한 진주의 의견을 종종 봅니다. 그러나 트리가 아닌 그래프에서 그래프 직경을 보는 작업과 그 영향을 알 수는 없습니다.

1. RG Gallager. 저밀도 패리티 검사 코드. MIT Press, 1963
2. IE Bocharova, F. Hug, R. Johannesson, BD Kudryashov 및 RV Satyukov. 하이퍼 그래프를 기반으로 큰 둘레를 가진 새로운 저밀도 패리티 검사 코드. ISIT (Information Theory Proceedings), 2010 IEEE 국제 심포지엄 페이지 819 –823, 2010.
3. SC 타 티콘 다. 합산 알고리즘의 수렴. 2003 년 정보 이론 워크숍에서. 2003 IEEE, 페이지 222 – 225, 2003
4. David JC MacKay 및 RM Neal. 섀넌 근처에서 저밀도 패리티 검사 코드의 성능이 제한됩니다. Electronics Letters, 33 (6) : 457–458, 1997.

확률 적 그래픽 모델에 그래프 알고리즘을 성공적으로 적용한 방법 중 하나는 Chow-Liu 알고리즘 입니다. 최적 (트리) 그래프 구조를 찾는 문제를 해결하고 MST (최대 스패닝 트리) 알고리즘을 기반으로합니다.

$$\begin{equation} p(x|T) = \prod_{t\in V} p(x_t) \prod_{(s,t) \in E} \frac{p(x_s, x_t)}{p(x_s)p(x_t)} \end{equation}$$ $$\begin{equation} \frac{1}{N}\log P(D|\theta, T) = \sum_{t\in V}\sum_k p_{ML}(x_t=k) \log p_{ML}(x_t=k) + \sum_{(s,t)\in E} I(x_s; x_t|\theta_{st}) \end{equation}$$ $I(x_s;x_t|\theta_{st})$$x_s$$x_t$$x$$k$$T$

$I(x_s;x_t|\theta_{st})$