메트릭의 모든 속성을 유지하는 확률 거리가 있습니까?

13

Kullback–Leibler 거리를 연구 할 때, 우리가 매우 빠르게 배운 두 가지 사항은 삼각 부등식이나 대칭, 메트릭의 필수 특성을 존중하지 않는다는 것입니다.

내 질문은 메트릭의 모든 제약 조건 을 충족하는 확률 밀도 함수 메트릭이 있는지 여부 입니다.

distributions distance metric

확률 밀도 에 초점을 맞추는 것은 "잘못된"객체에 초점을 맞추는 것입니다. 메트릭에 관해서는, "고전적인"것들, 예를 들어 레비 (및 임의 변수에 관한 Ky 팬 메트릭), Wasserstein, KL에 더 가까운 것들, 예를 들어 Jensen-Shannon divergence가 있습니다. 대부분 역사적으로 간과되었지만 원래 KL 논문 에서 KL 발산 은 실제로는 대칭 적이었습니다 (아직 통계는 아님).

— 추기경

1

@cardinal, 글쎄, 난 현장에 그리 많지 않아, 당신은 "올바른"객체를 제안 할 수 있습니까?

— Jorge Leitao

2

JC : 죄송합니다. 댓글 상자가 너무 작아서 여기에 맞추려고했지만 정교 했어야 했어요. 누적 분포 함수는 더 일반적이고 자연스러운 연구 대상으로 밝혀졌습니다. :-)

— 추기경

@ 추기경 왜? ;)

— Jorge Leitao

19

확률 측정 영역에서 널리 사용되는 광범위한 메트릭을 다루는이 백서를 살펴보십시오 . 개인적으로 가장 좋아하는 거리는 총 변동 거리와 Wasserstein 거리 (지구 이동 거리)입니다. $L^2$

— 존 지앙
소스

2

좋은 논문입니다. 특히 그림 1입니다. 나중에 참조 할 수 있도록 사본을 저장하고 있습니다.

— Pat

7

Wasserstein 미터법 으로도 알려진 Earth Mover 's Distance 는 귀하의 요구 사항을 충족시키는 예 라고 생각합니다 .

— 가볍게 두드리기
소스

1

KL 분기에 일부 메트릭 속성을 가져 오도록 일부 수정이 있습니다 (모두는 아님).

예를 들어 Jeffrey의 분기 는 KL 분기를 수정하여 대칭으로 만듭니다.

[1] : 불행히도 Kullback-Leibler (KL) 발산과 Bhattacharyya 거리에 기반한 전통적인 측정 방법은 많은 알고리즘에 필요한 모든 메트릭 공리를 만족시키지 못합니다. 다변량 가우스 밀도의 경우 분산과 Bhattacharyya 거리는 두 측정 값을 거리 메트릭으로 변환합니다. "

[1] K. Abou-Moustafa 및 F. Ferrie, "일부 분기 측정에 대한 지표 속성에 대한 참고 사항 : 가우시안 사례"JMLR : 워크샵 및 회의 절차 25 : 1–15, 2012.

— 사용자 29652
소스

0

나는 그 질문에 대한 대답이 가능하다고 생각합니다. 최근에 2017 년 R. Farhadian은 휴리스틱 정수의 하위 집합에 메트릭이라는 확률이 있음을 보여주었습니다. 그의 작업에 대해서는 다음 링크를 참조하십시오. http://journals.univ-danubius.ro/index.php/oeconomica/article/view/4010

— MN
소스