Jeffries Matusita의 장점

내가 읽는 일부 논문에 따르면 Jeffries와 Matusita 거리가 일반적으로 사용됩니다. 그러나 아래 공식을 제외하고는 그것에 대한 많은 정보를 찾을 수 없었습니다.

JMD (x, y) = $\sqrt[2]{\sum(\sqrt[2]{x_i}-\sqrt[2]{y_i})^2}$

제곱근을 제외하고 유클리드 거리와 유사합니다.

E (x, y) = $\sqrt[2]{\sum(x_i-y_i)^2}$

JM 거리는 분류 측면에서 유클리드 거리보다 신뢰할 수 있다고 주장됩니다. 왜이 차이가 JM 거리를 향상시키는 지 설명 할 수 있습니까?

classification k-nearest-neighbour euclidean

— romy_ngo
소스

Jeffries-Matusita 거리에 대해이 공식을 사용하는 신뢰할만한 참조를 찾을 수 없습니다. 내가 찾은 공식은 두 클래스의 공분산 행렬을 기반으로하며 여기에 주어진 것과 관련이없는 것처럼 보이지만이 이름으로 알려진 두 가지 (또는 그 이상) 다른 것이있을 수 있습니다. 참조를 제공하거나 링크를 제공 할 수 있습니까? BTW, 와 는 계산 됩니까? (그렇다면 공식에 대한 자연스런 해석이 있습니다.)

x_{i}

$x_i$

y_{i}

$y_i$

— whuber

@ whuber : 아마도 와 는 와

x

$x$

y

$y$

p (x)

$p(x)$

q (x)

$q(x)$

— user603

@ user603 그렇습니다. 이제 KL과의 연결이 분리되고 Battacharyya 측정 값이 분명해집니다.

— whuber

아래에서 더 긴 설명을하기 전에 몇 가지 주요 차이점은 다음과 같습니다.

결정적으로 : Jeffries-Matusita 거리는 일반적으로 벡터가 아니라 분포에 적용됩니다.
위에서 인용 한 JM 거리 공식은 불연속 확률 분포를 나타내는 벡터 (즉, 합계가 1 인 벡터)에만 적용됩니다.
유클리드 거리와 달리 JM 거리는 Bhattacharrya 거리를 공식화 할 수있는 모든 분포로 일반화 할 수 있습니다.
JM 거리에는 Bhattacharrya 거리를 통해 확률 론적 해석이 있습니다.

Remote Sensing 문헌에서 특히 인기가있는 Jeffries-Matusita 거리는 Bhattacharrya 거리 (두 분포 사이의 비 유사성 척도, 여기서 표시됨)를 고정 범위 : $b_{p,q}$ $[0, \inf)$ $[0, \sqrt{2}]$

J M_{p, q} = \sqrt{2 (1 - \exp (- b (p, q))}

$JM_{p,q}=\sqrt{2(1-\exp(-b(p,q))}$

이 논문 에 따르면 JM 거리의 실질적인 이점은 이 측정법이 "분리 성 값이 지나치게 강조되는 반면 높은 분리 성 값을 억제하는 경향이 있다는 것"입니다.

Bhattacharrya 거리는 다음과 같은 연속적인 의미에서 두 분포 와 의 비 유사성을 측정합니다 . 분포 그리고 는 단위 길이 벡터로 표시되는 히스토그램으로 캡처됩니다 (여기서 번째 요소는 개의 빈에 대한 정규화 된 카운트입니다 ). 결과적으로 두 히스토그램의 JM 거리는 다음과 같습니다. 정규화 된 히스토그램의 경우 $p$ $q$

b (p, q) = - \ln \int \sqrt{p (x) q (x)} d x

$b(p,q)=-\ln\int{\sqrt{p(x)q(x)}}dx$

p

$p$

q

$q$

i

$i$

i

$i$

N

$N$

b (p, q) = - \ln \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}}

$b(p,q)=-\ln\sum_{i=1}^{N}\sqrt{p_i\cdot q_i}$

J M_{p, q} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

\sum_{i} p_{i} = 1

$\sum_{i}{p_i}=1$ , 위에서 제공 한 공식과 동일합니다.

J M_{p, q} = \sqrt{\sum_{i = 1}^{N} {(\sqrt{p_{i}} - \sqrt{q_{i}})}^{2}} = \sqrt{\sum_{i = 1}^{N} (p_{i} - 2 \sqrt{p_{i}} \sqrt{q_{i}} + q_{i})} = \sqrt{2 (1 - \sum_{i = 1}^{N} \sqrt{p_{i} \cdot q_{i}})}

$JM_{p,q}=\sqrt{\sum_{i=1}^{N}{\left(\sqrt{p_i} - \sqrt{q_i}\right)^2}}=\sqrt{\sum_{i=1}^{N}{\left(p_i -2 \sqrt{p_i}\sqrt{q_i} + q_i \right)}}=\sqrt{2\left(1-\sum_{i=1}^{N}{\sqrt{p_i\cdot q_i}}\right)}$

— rroowwllaanndd
소스

+1 상황을 명확하게하기 위해 최선을 다한 노력에 감사드립니다.

— whuber