일반 영어의 변형 추론

YouTube에서 비디오를 시청 한 후 변형 추론이 무엇인지 실제로 정의 할 수없는 것 같습니다. 비디오 강의를 보면서 절차를 따를 수 있습니다. 그러나 실제로 무엇인지 정의하기가 어렵습니다. 그것에 대해 듣고 싶습니다.

내 지식에 근거하지는 않지만 여기에 질문과 매우 관련이 있다고 생각되는 논문이 있습니다 ( Blei, Kucukelbir & McAuliffe 2016. Variational Inference : A Review for Statisticians) . https://arxiv.org/abs/1601.00670

초록에서 :

현대 통계의 핵심 문제 중 하나는 계산하기 어려운 확률 밀도를 근사화하는 것입니다. 이 문제는 베이지안 통계에서 특히 중요합니다.이 통계는 사후 밀도를 포함하는 계산으로 알 수없는 수량에 대한 모든 추론을 구성합니다. 이 논문에서는 최적화를 통해 확률 밀도에 근접한 머신 러닝 방법 인 변형 추론 (VI)을 검토합니다. VI는 많은 어플리케이션에서 사용되어 왔으며 Markov chain Monte Carlo 샘플링과 같은 전통적인 방법보다 빠른 경향이 있습니다. VI의 기본 개념은 먼저 밀도 군을 배치 한 다음 목표에 가까운 해당 군의 구성원을 찾는 것입니다.. 근접도는 Kullback-Leibler 발산에 의해 측정됩니다. 우리는 평균-필드 변동 추론에 대한 아이디어를 검토하고, 지수 패밀리 모델에 적용된 VI의 특별한 경우에 대해 논의하고, 가우시안의 베이지안 혼합에 대한 전체 예를 제시하며, 확률 적 최적화를 사용하여 대규모 데이터로 확장하는 변형을 도출합니다. 우리는 VI의 현대 연구를 논의하고 중요한 공개 문제를 강조합니다. VI는 강력하지만 아직 잘 이해되지 않았습니다 . 이 논문을 작성하려는 우리의 희망은이 알고리즘 클래스에 대한 통계 연구를 촉진하는 것입니다.

또한 통계학자가 Markov 체인 Monte Carlo 샘플링을 사용해야 할 때와 변동 추론에 대한 지침을 제공 합니다 (기사에서 변동 추론과 MCMC 비교 단락 참조).