규범 에서 친밀감을 테스트하기위한 하한 ?

11

다음 문제로 알려진 (샘플 복잡성 측면에서) 하한이 있는지 궁금합니다.

두 개의 알 수없는 분포 $D_1$ , $D_2$ 에 대한 샘플 오라클 액세스 권한이 주어지면 테스트 여부 (whp) $\{1,\dots,n\}$

$D_1=D_2$
$\operatorname{d_2}(D_1,D_2)=\lVert D_1-D_2\rVert_2 = \sqrt{\sum_{i=1}^n\left(D_1(i)-D_2(i)\right)^2} \geq \epsilon$

Batu et al. [BFR + 00] 은 샘플이 충분했지만 하한에 대한 언급을 찾지 못했습니까? $O\left(\frac{1}{\epsilon^4}\right)$

나는 이 문제에 대해 공정한 동전 대 바이어스 동전을 구별하는 작업을 줄임으로써 항상 하한을 표시 할 수 있다고 생각 합니다 (두 개에서만 지원되는 분포 시뮬레이션) iid 코인 토스에 따라 테스터의 질문에 대답하지만 여전히 2 차 간격이 남습니다 ... $\Omega(\frac{1}{\epsilon^2})$ $\epsilon$

(내가 관심을 가질 또 다른 점은 이 거리 를 추정 할 때의 하한치입니다 (최대 첨가제 ). 다시, 나는 문헌에서 그러한 결과에 대한 언급을 찾지 못했습니다) $\epsilon$ $L_2$

당신의 도움을 주셔서 감사합니다,

— 클레멘트 C.
소스

이 약속 문제는 Sahai와 Vadhan의 통계적 차이 라고하는 것과 매우 유사 해 보입니다. 이는 SZK (통계 제로 지식) 클래스에 대한 완전한 문제입니다. 그러나 거리 를 사용 합니다. cs.ucla.edu/~sahai/work/web/2003%20Publications/J.ACM2003.pdf . (편집 : 또한 그들은 오라클 액세스가 아닌 배포를 계산하는 회로가 있다고 가정합니다.)

L_{1}

$L_1$

— usul

안녕하세요, 다른 의견에서 언급했듯이 와 규범 의 차이 는 실제로 여기서 중요합니다. 더 나아가 논문에서 그들은 (임의의 하나에서) 명시 적 (임의의 것이 아닌) 임계 값 을 설정했습니다. 그들은이 문턱 값이 특정한 제약을 충족시켜야한다고 설명한다). 와 를 구별하고 싶습니다. ( "정상 테스트"보다 내성 테스트 / 거리 추정에 더 가깝습니다. 여기서 대 을 테스트하려고합니다. (그러나 대한 어떤 고정 된 )).

L_{2}

$L_2$

L_{1}

$L_1$

τ = 1 / 3

$\tau=1/3$

d_{1} \leq τ

$d_1 \leq \tau$

d_{2} \geq 1 - τ

$d_2 \geq 1-\tau$

d_{2} = 0

$d_2=0$

d_{2} \geq ϵ

$d_2 \geq \epsilon$

ϵ

$\epsilon$

— Clement C.

6

usul 아래에 표시된 것처럼 샘플은 테스트하기에 충분하므로 샘플 복잡도는 정확히 . 실제로, 그것은 규범에 따라 부가적인 까지 를 학습 하기에 충분한 수의 샘플을 우리에게 보여줍니다 . $O(1/\epsilon^2)$ $\Theta(1/\epsilon^2)$ $D$ $\epsilon$ $L_2$

하자 드로잉하여 얻어진 경험적 밀도 함수 수 샘플 IID 및 설정 그런 다음 여기서 . $\hat{D}$ $m$ $s_1,\dots, s_m\sim D$

\hat{D} (k) \overset{d e f}{=} \frac{1}{m} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}}, k \in [n]

$\hat{D}(k) \stackrel{\rm{}def}{=} \frac{1}{m}\sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}},\qquad k\in[n]$

\begin{aligned} ‖ D - \hat{D} ‖_{2}^{2} & = \sum_{k = 1}^{n} {(\frac{1}{m} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} - D (k))}^{2} = \frac{1}{m^{2}} \sum_{k = 1}^{n} {(\sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} - m D (k))}^{2} \\ = \frac{1}{m^{2}} \sum_{k = 1}^{n} {(X_{k} - E X_{k})}^{2} \end{aligned}

$\begin{align*} \lVert D - \hat{D} \rVert_2^2 &= \sum_{k=1}^n \left( \frac{1}{m}\sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}} - D(k) \right)^2 = \frac{1}{m^2}\sum_{k=1}^n \left( \sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}} - mD(k) \right)^2 \\ &= \frac{1}{m^2}\sum_{k=1}^n \left( X_k - \mathbb{E} X_k \right)^2 \end{align*}$

X_{k} \overset{d e f}{=} \sum_{ℓ = 1}^{m} 1_{{s_{ℓ} = k}} \sim Bin (m, D (k))

$X_k\stackrel{\rm{}def}{=} \sum_{\ell=1}^m \mathbb{1}_{\{s_\ell = k\}}\sim\operatorname{Bin}( m, D(k) )$

X_{k}

$X_k$ 의 ( )는 독립적이지 않지만 되도록 대 , 및 Markov의 부등식 적용

k \in [n]

$k\in[n]$

\begin{aligned} E ‖ D - \hat{D} ‖_{2}^{2} & = \frac{1}{m^{2}} \sum_{k = 1}^{n} E [{(X_{k} - E X_{k})}^{2}] = \frac{1}{m^{2}} \sum_{k = 1}^{n} Var X_{k} \\ = \frac{1}{m^{2}} \sum_{k = 1}^{n} m D (k) (1 - D (k)) \leq \frac{1}{m} \sum_{k = 1}^{n} D (k) \\ = \frac{1}{m} \end{aligned}

$\begin{align*} \mathbb{E}\lVert D - \hat{D} \rVert_2^2 &= \frac{1}{m^2}\sum_{k=1}^n \mathbb{E}\left[ \left( X_k - \mathbb{E} X_k \right)^2 \right] = \frac{1}{m^2}\sum_{k=1}^n \operatorname{Var} X_k \\ &= \frac{1}{m^2}\sum_{k=1}^n mD(k)\left( 1- D(k) \right) \leq \frac{1}{m}\sum_{k=1}^n D(k) \\ &= \frac{1}{m} \end{align*}$

m \geq \frac{3}{ϵ^{2}}

$m\geq \frac{3}{\epsilon^2}$

E ‖ D - \hat{D} ‖_{2}^{2} \leq \frac{ϵ^{2}}{3}

$\begin{equation} \mathbb{E}\lVert D - \hat{D} \rVert_2^2 \leq \frac{\epsilon^2}{3} \end{equation}$

P {‖ D - \hat{D} ‖_{2} \geq ϵ} \leq \frac{1}{3} .

$\begin{equation} \mathbb{P}\left\{ \lVert D - \hat{D} \rVert_2 \geq \epsilon \right\} \leq \frac{1}{3}. \end{equation}$

— 클레멘트 C.
소스

(저는 "이전의 반대편에 [...]"을 표시하여 이전 오류에 대해 속죄하려고합니다 . 실제로는이 위에 있습니다. 나는 이것을 기대하지 않았습니다.) 상한에서, 가장 순진한 알고리즘 (즉, 샘플을 그리고 이것을 정의한 경험적 밀도를 출력하는 알고리즘 )은 분포 를 산출한다는 것을 알 수 있습니다. 일정한 확률이며, - 닫기에 에서 거리.

m = O (1 / ϵ^{2})

$m=O(1/\epsilon^2)$

\hat{D}

$\hat{D}$

ϵ

$\epsilon$

D

$D$

L_{2}

$L_2$

— Clement C.

@DW 방금 답변을 편집했습니다.

— Clement C.

3

내가 뭔가 반대를 표시하여 내 이전 오류를 속죄하려고 시도합니다 - 것으로 샘플은 아래의 하한 (충분한 는 거의 타이트합니다!) 당신의 생각을 참조하십시오 .... $\tilde{\Theta}\left(\frac{1}{\epsilon^2}\right)$ $1/\epsilon^2$

주요 직관은 두 가지 관찰에서 시작됩니다. 먼저, 분포의 거리가 이 되려면 확률이 높은 점이 있어야합니다 ( ). 예를 들어, 확률 이면 입니다. $L_2$ $\epsilon$ $\Omega(\epsilon^2)$ $1/\epsilon^3$ $\epsilon^3$ $\|D_1 - D_2\|_2 \leq \sqrt{\frac{1}{\epsilon^3} (\epsilon^3)^2} = \epsilon^{3/2} < \epsilon$

둘째, 거리가 균일 분포를 고려하십시오 . 우리가 있었다면 확률의 점 , 그 후에는 각각 다를 것이다 및 샘플 충분하다. 반면에 포인트가 있으면 와 다시 샘플 (상수는 포인트)면 충분합니다. 따라서 앞에서 언급 한 확률이 높은 점 중에서 가 구별하는 "충분한"점이 항상 다른 점이 있기를 바랍니다. $L_2$ $\epsilon$ $O(1)$ $O(1)$ $O(\epsilon)$ $1/\epsilon^2$ $O(1/\epsilon^2)$ $O(\epsilon^2)$ $O(1/\epsilon^2)$ $O(1/\epsilon^2)$

연산. 과 신뢰 매개 변수 주어지면 이라고하자 . 그리 각 분포로부터 샘플. 를 점 대한 각각의 더 높은, 더 적은 수의 샘플로 하자 . 및 대한 점 이있는 경우 다른 배포판. 그렇지 않으면 동일하게 선언하십시오. $\epsilon$ $M$ $X = M \log(1/\epsilon^2)$ $\frac{X}{\epsilon^2}$ $a_i,b_i$ $i$ $i \in [n]$ $a_i \geq \frac{X}{8}$ $a_i-b_i \geq \sqrt{a_i} \frac{\sqrt{X}}{4}$

정확성과 신뢰 한계 ( )는 거리 의 모든 편차 가 확률이 따라 다른 점 에서 한다는 다음의 정리에 따라 다릅니다 . $1-e^{-\Omega(M)}$ $L_2$ $\Omega(\epsilon^2)$

청구. 이라고 가정하십시오 . 하자. 하자 . 그런 다음 $\|D_1 - D_2\|_2 \geq \epsilon$ $\delta_i = |D_1(i) - D_2(i)|$ $S_k = \{i : \delta_i > \frac{\epsilon^2}{k}\}$
$\sum_{i \in S_{k}} δ_{i}^{2} \geq ϵ^{2} (1 - \frac{2}{k}) .$ $\sum_{i \in S_k} \delta_i^2 \geq \epsilon^2\left(1-\frac{2}{k}\right).$

증거 . 우리는이 두 번째 합을 결집합시다. 따라 를 최대화하고 싶습니다 . 함수 보낸 엄격 볼록하고, 우리가 어떤 취하여 목적을 높일 수 증가 및 증가 하여 감소시키면서 하여 . 따라서 목표는 최대 값에서 최대한 많은 항을 사용하고 나머지는 최대화합니다.

\sum_{i \in S_{k}} δ_{i}^{2} + \sum_{i \notin S_{k}} δ_{i}^{2} \geq ϵ^{2} .

$\sum_{i \in S_k} \delta_i^2 ~ + ~ \sum_{i \not\in S_k} \delta_i^2 \geq \epsilon^2.$

\sum_{i \notin S_{k}} δ_{i}^{2}

$\sum_{i \not\in S_k} \delta_i^2$

\sum_{i \notin S_{k}} δ_{i} \leq 2

$\sum_{i \not\in S_k} \delta_i \leq 2$

x \mapsto x^{2}

$x \mapsto x^2$

δ_{i} \geq δ_{j}

$\delta_i \geq \delta_j$

δ_{i}

$\delta_i$

γ

$\gamma$

δ_{j}

$\delta_j$

γ

$\gamma$

0

$0$ . 각 기간의 최대 값은 및 기껏있다 이 값 환산 (그들은 최대 합이 때문에 ). 따라서

\frac{ϵ^{2}}{k}

$\frac{\epsilon^2}{k}$

\frac{2 k}{ϵ^{2}}

$\frac{2k}{\epsilon^2}$

2

$2$

\sum_{i \notin S_{k}} δ_{i}^{2} \leq \frac{2 k}{ϵ^{2}} {(\frac{ϵ^{2}}{k})}^{2} = \frac{2 ϵ^{2}}{k} . ◻

$\sum_{i \not\in S_k} \delta_i^2 \leq \frac{2k}{\epsilon^2}\left(\frac{\epsilon^2}{k}\right)^2 = \frac{2\epsilon^2}{k} . ~~~~ \square$

청구 . 하자 . 만약 , 적어도 하나의 포인트가 존재한다 와 및 . $p_i = \max\{D_1(i),D_2(i)\}$ $\|D_1 - D_2\|_2 \geq \epsilon$ $i \in [n]$ $p_i > \frac{\epsilon^2}{4}$ $\delta_i \geq \frac{\epsilon \sqrt{p_i}}{2}$

증거 . 먼저, 모든 포인트는 에 따라 를 ( 는 이전 청구 에서 에 대해 비어 수 없음 ). $S_k$ $p_i \geq \delta_i > \frac{\epsilon^2}{k}$ $S_k$ $k > 2$

둘째, 이므로 또는 재 배열, 이므로 부등식 는 에서 하나 이상의 점을 합니다. 이제 선택하십시오 . $\sum_i p_i \leq 2$

\sum_{i \in S_{k}} δ_{i}^{2} \geq ϵ^{2} (\frac{1}{2} - \frac{1}{k}) \sum_{i \in S_{k}} p_{i},

$\sum_{i \in S_k} \delta_i^2 \geq \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right) \sum_{i \in S_k} p_i,$

\sum_{i \in S_{k}} (δ_{i}^{2} - p_{i} ϵ^{2} (\frac{1}{2} - \frac{1}{k})) \geq 0,

$\sum_{i \in S_k} \left( \delta_i^2 - p_i \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right)\right) \geq 0 ,$

δ_{i}^{2} \geq p_{i} ϵ^{2} (\frac{1}{2} - \frac{1}{k})

$\delta_i^2 \geq p_i \epsilon^2 \left(\frac{1}{2} - \frac{1}{k}\right)$

S_{k}

$S_k$

k = 4

$k=4$

◻

$\square$

클레임 (거짓 긍정) . 인 경우 알고리즘은 최대 확률로 다르게 선언합니다 . $D_1 = D_2$ $e^{-\Omega(M)}$

스케치 . 및 두 가지 경우를 고려하십시오 . 첫 번째 경우, 의 표본 수는 두 분포에서 을 초과하지 않습니다 . 평균 표본 수는 이며 꼬리 한계는 확률이 , 의 표본은 첨가제 의한 평균을 초과하지 않습니다 . 값을 테일 바운드 로 유지하는 데주의를 기울이면 그러한 포인트가 몇 개 있든 관계없이 그 값 에 대해 결합 바운드를 결합 할 수 있습니다 (직관적으로는 가능한 포인트 수에서 기하 급수적으로 지수가 감소합니다). $p_i < \epsilon^2/16$ $p_i \geq \epsilon^2/16$ $i$ $X/8$ $< X/16$ $e^{-\Omega(X/p_i)} = \epsilon^2 e^{-\Omega(M/p_i)}$ $i$ $X/16$ $p_i$

경우 , 우리는 Chernoff 바인딩 사용할 수 있습니다 : 우리가 걸릴 때, 그 말한다 샘플을 및 지점은 확률로 그려진 , 평균과는 다른 가능성 에 의해 은 최대 입니다. 여기에서 으로 설정하여 확률은 됩니다. $p_i \geq \epsilon^2/16$ $m$ $p$ $pm$ $c \sqrt{pm}$ $e^{-\Omega((c\sqrt{pm})^2/pm)} = e^{-\Omega(c^2)}$ $c = \frac{\sqrt{X}}{16}$ $e^{-\Omega(X)} = \epsilon^2 e^{-\Omega(M)}$

그래서 확률 (두 배포본)의 샘플의 개수 내 의 평균의 . 따라서 우리의 테스트는 이러한 점을 포착하지 못하고 (그들은 서로 매우 가깝습니다), 우리는 의 모든 영역에 대해 결합 된 경계를 가질 수 있습니다. $1-\epsilon^2e^{-\Omega(M)}$ $i$ $\sqrt{p_i\frac{X}{\epsilon^2}}\frac{\sqrt{X}}{16}$ $p_i\frac{X}{\epsilon^2}$ $16/\epsilon^2$ $\square$

주장 (거짓 부정) . 경우 , 우리의 알고리즘은 최대 확률 그들이 동일한 선언 . $\|D_1 - D_2\|_2 \geq \epsilon$ $\epsilon^2 e^{-\Omega(M)}$

스케치 . 및 포인트 가 있습니다. 앞의 주장과 같은 체 르노 프는 확률 에서 의 샘플 수 는 평균 과 최대 만큼 다르다고 말합니다 . 그것은 를 갖는 (WLOG) 분포 대한 ; 그러나 분포 에서 의 샘플 수가 확률이 훨씬 낮습니다. $i$ $p_i > \epsilon^2/4$ $\delta_i \geq \epsilon \sqrt{p_i}/2$ $1-\epsilon^2 e^{-\Omega(M)}$ $i$ $p_i m$ $\sqrt{p_i m} \frac{\sqrt{X}}{16}$ $1$ $p_i = D_1(i) = D_2(i) + \delta_i$ $i$ $2$ 이 첨가량에 의해 평균과 다른 것 (평균과 분산이 더 낮기 때문에).

따라서 높은 확률 로 각 분포 의 샘플 수는 평균의 있습니다. 그러나 그 확률은 마다 다르 므로 그 수단은 $i$ $\sqrt{\frac{p_i X}{\epsilon^2}} \frac{\sqrt{X}}{16}$ $\delta_i$

\frac{X}{ϵ^{2}} δ_{i} \geq \frac{X \sqrt{p_{i}}}{2 ϵ} = \sqrt{\frac{p_{i} X}{ϵ^{2}}} \frac{\sqrt{X}}{2} .

$\frac{X}{\epsilon^2}\delta_i \geq \frac{X \sqrt{p_i}}{2\epsilon} = \sqrt{\frac{p_i X}{\epsilon^2}} \frac{\sqrt{X}}{2} .$

따라서 높은 확률로 포인트 의 경우 샘플 수는 적어도 만큼 다릅니다 . $i$ $\sqrt{\# samples(1)} \frac{\sqrt{X}}{4}$ $\square$

스케치를 완료하려면 충분히 큰 경우 의 샘플 수가 알고리즘 이 아닌 사용할 때의 평균에 충분히 가깝다 는 것을보다 엄격하게 보여 주어야합니다. , 그것은 아무것도 변경하지 않습니다 (상황에 약간의 흔들림 공간을 남겨두면 간단해야 함). $M$ $i$ $\sqrt{\# samples}$ $\sqrt{mean}$

— usul
소스

안녕, 덕분에이 - 나는 알고리즘 (나는 확실히 얻을 수 아니에요 몇 점에 대한) 분석에 대한 몇 가지 질문이 : 내가 마지막에만 일정한 확률로 원하는 가정하면 , 성공의 수단 것을 그 내가 정확하게 이해한다면 상수 ( 이 무엇인지 얻지 않는 한 )? 따라서이 경우 전환 하면 알고리즘에 따라 가됩니다. 맞습니까?

2 / 3

$2/3$

M

$M$

M

$M$

X

$X$

Θ (\log \frac{1}{ϵ})

$\Theta(\log\frac{1}{\epsilon})$

— Clement C.

@ClementC. 미안하지만 명확하지 않았습니다! 우리가 샘플 을 그리면 잘못된 확률은 이므로 일정 확률이 잘못되어 샘플입니다.

\frac{1}{ϵ^{2}} M \log (1 / ϵ^{2})

$\frac{1}{\epsilon^2} M \log(1/\epsilon^2)$

O (e^{- M})

$O(e^{-M})$

O (\frac{1}{ϵ^{2}} \log (1 / ϵ^{2}))

$O\left(\frac{1}{\epsilon^2} \log(1/\epsilon^2)\right)$

— usul

좋아, 내가 모은거야. 이를 염두에두고 증거를 살펴 보겠습니다. 시간을내어 다시 한 번 감사드립니다!

— Clement C.

1

경우 대해이 문제를 해결하려고 시도 할 수 있습니다 . 이 경우 샘플이 필요하고 충분할 것이라고 확신합니다. $n=2$ $\Theta(1/\epsilon^2)$

거리와 거리 (총 변동 거리) 사이의 변환을 보는 것이 도움이 될 수 있습니다 . $L_2$ $L_1$

분포가 알려진 경우 하나 개의 샘플로, 총 변동 거리가 완벽하게 하나가 구별 할 수있는 장점이 특징 인 것으로 알려져 에서 . 따라서 총 변동 거리가 크고 분포를 알고 있으면 확률이 높은 정확한 검정을 구축 할 수 있습니다. 총 변동 거리가 작 으면 불가능합니다. 총 변동 거리가 크지 만 분포를 알 수없는 경우에 대해 무엇을 말할 수 있는지 모르겠습니다. $D_1$ $D_2$
다음으로 제품 분포 및 살펴볼 수 있습니다 . 총 변동 거리 ( 거리)를 사용하면 ~ 과 관련된 적절한 경계가없는 것 같습니다 . 그러나 거리를 사용할 때 의 함수로 추정치가 있다고 생각 합니다. (내가 misremembering 아니에요 희망 불행하게도, 나는 그 견적 / 경계에 특정 참조를 발굴 할 수없는 것.) 당신은 추정 할 수 알려진 경계도있다 의 기능으로 거리를 거리 . $D_1^n$ $D_2^n$ $L_1$ $||D_1^n - D_2^n||_1$ $||D_1 - D_2||_1$ $L_2$ $||D_1^n - D_2^n||_2$ $||D_1 - D_2||_2$ $L_1$ $L_2$
따라서 바인딩 한 다음 바인딩하는 방법 중 하나를 시도 할 수 있습니다 . $||D_1^n - D_2^n||_2$ $||D_1^n - D_2^n||_1$

나는 이것이 어디에서나 선을 이룰 수 있는지 모르겠다. 아이디어 일뿐입니다. 아마 당신이 인용 한 논문의 저자들은 이미 이와 같은 것을 시도하거나 고려했을 것입니다.

아마도 유용한 참고 문헌 :

— DW
소스

안녕, 답변 주셔서 감사합니다! 그러나 일 때 점근 적 하한에 관심이 있습니다. 특히, 와 규범 사이의 관계 는 요소를 포함합니다. 이는 상수에 대해 동일 하지만 무의식적으로 매우 다릅니다. 사용 프록시에 친밀감을 테스트로 내가 (말할 수있는 지금까지, 옵션이 아닙니다으로 dstance을 정확한 복잡성 것으로 알려져 거리 [BFR + 10 , Val11 ]

n \to \infty

$n\to\infty$

L_{2}

$L_2$

L_{1}

$L_1$

\sqrt{n}

$\sqrt{n}$

n

$n$

L_{1}

$L_1$

L_{1}

$L_1$

Θ (n^{2 / 3} / p o l y (ϵ))

$\Theta(n^{2/3}/{\rm{}poly}(\epsilon))$

— 클레멘트 C.

0

편집 : 이것은 올바르지 않습니다! 의견의 토론을 참조하십시오-아래 결함을 지적합니다.

이 (가) 필요 하다고 말할 수 있습니다 . $\frac{1}{\epsilon^4}$

집합 . 하자 균일 분포 수 (각 점의 확률 ) 및하자 첨가제 양만큼 균일 다를 각 점. 거리가 확인하십시오 . $n = \Theta\left(\frac{1}{\epsilon^2}\right)$ $D_1$ $= \Theta(\epsilon^2)$ $D_2$ $\pm \Theta\left(\epsilon^2\right)$ $L_2$ $\epsilon$

우리는 구별 할 필요가 그래서 에서 양면 공정한 동전을 양면 -biased 동전. 나는이 하드로 적어도 이야기로해야한다고 생각 A로부터 양면 공정 동전 양면 필요 -biased 동전, 샘플입니다. 편집 : 이것은 올바르지 않습니다! 동전은 부가 적으로 바이어스되지만, 상수 인자에 의해 곱하여 바이어스됩니다. DW 지적한 바와 같이, 포인트 당 샘플의 수단 일정한 번호를 구분 으로부터 . $n$ $n$ $\Theta(\epsilon^2)$ $2$ $2$ $\Theta(\epsilon^2)$ $\Theta\left(\frac{1}{(\epsilon^2)^2}\right) = \Theta\left(\frac{1}{\epsilon^4}\right)$ $\epsilon^2$ $D_1$ $D_2$

공지 사항 것을 지금까지 우리는 인수의이 라인을 밀어 수 있습니다. 구체적으로, 우리가 을 으로 증가 시키려고했다고 가정하자 . 균일 분포에서 각 점의 확률은 입니다. 그러나 에서 각 포인트는 만큼 균일해야합니다 . 이후로는 불가능합니다 . $\frac{1}{\epsilon^4}$ $n$ $\frac{1}{\epsilon^3}$ $\epsilon^3$ $D_2$ $\epsilon^{2.5}$ $\epsilon^{2.5} \gg \epsilon^3$

보다 추상적으로, 각 포인트가 의해 uniform과 달라지기를 원한다고 가정하십시오 . 그런 다음 을 설정할 수있는 최대 값 은 입니다. 거리 을 얻으려면 거리 합의 제곱근이 이므로 이므로 이므로 이고 입니다. $\epsilon^k$ $n$ $\frac{1}{\epsilon^k}$ $L_2$ $\epsilon$ $\epsilon$ $\sqrt{n(\epsilon^k)^2} = \epsilon$ $\epsilon^{k/2} = \epsilon$ $k = 2$ $n = \frac{1}{\epsilon^2}$

또한 같은 주장에 따르면 인 거리에 관심이 이 필요하므로 이므로 샘플 수는 됩니다. 나는 이것이 독립적 인 경계로 의미가 있다고 생각합니다 . 로 무한대에 접근합니다 . 에서 거리 에 대한 경계가없는 두 분포를 구별하려고 하면 무한대로 크게하고 차이를 임의로 얇게 분산시켜 결코 구별 할 수 없습니다 ( $L_p$ $p > 1$ $k = \frac{p}{p-1}$ $n = 1/\epsilon^{\frac{p}{p-1}}$ $1 / \epsilon^{2\frac{p}{p-1}}$ $n$ $p \to 1$ $L_1$ $\epsilon$ $n$ $n$ 즉 , 고정 된 개수의 샘플이 모든 충분하지 않음 ). 또한 로 접근합니다 . 이것은 규범에 대해 설정할 수 있고 모든 점이 의해 다를 수 있기 때문에 바운드로 의미 가 있습니다 . 균일 한 점과 다른지 확인하려면 번 포인트를 샘플링해야합니다. 샘플이 필요합니다. $n$ $\frac{1}{\epsilon^3}$ $p \to \infty$ $L_{\infty}$ $n = \frac{1}{\epsilon}$ $\Theta(\epsilon)$ $\frac{1}{\epsilon^2}$ $\frac{1}{\epsilon^3}$

— usul
소스

1. 가 각 지점 에서 균일하게 만큼 다르다는 것을 의미 합니까? 나는 그것이 오타라고 생각하며 을 의미했습니다 .

D_{2}

$D_2$

\pm 1 / ϵ^{2}

$\pm 1/\epsilon^2$

\pm ϵ^{2}

$\pm \epsilon^2$

— DW

1

2. 나는 구별 것을 구입하지 않는 에서 필요 샘플을. 같은 나에게 외모 샘플은 충분합니다. 설명 (직관) : 샘플을 수집하고 가능한 각 값이 몇 번 발생하는지 계산 한다고 가정 합니다. 이들이 에서 온 경우 각각 100 번 발생해야합니다 (std dev 10 사용). 에서 온 경우 각각 절반 씩 200 번 (std dev 14), 나머지 절반은 0 번 (std dev 0) 발생해야합니다. 또는 다루는 것을 알고 있다면 두 가지를 쉽게 구별 할 수 있습니다 .

D_{1}

$D_1$

D_{2}

$D_2$

1 / ϵ^{4}

$1/\epsilon^4$

Θ (1 / ϵ^{2})

$\Theta(1/\epsilon^2)$

m = 100 / ϵ^{2}

$m=100/\epsilon^2$

D_{1}

$D_1$

D_{2}

$D_2$

D_{1}

$D_1$

D_{2}

$D_2$

— DW

@DW (1) 당신이 맞아요! 결정된. (2) 당신이 그것을 넣을 때, 나는 동의하지만, 다른 상수를 선택하면 더 어렵다고 생각합니다. :이 같은 떠올하고 , 그래서 풋 확률 각 지점에 있습니다. 그런 다음 는 각 포인트마다 씩 ( 거리가 확인) 각 포인트 에 확률 또는 둡니다.

n = 1 / 100 ϵ^{2}

$n = 1/100\epsilon^2$

D_{1}

$D_1$

100 ϵ^{2}

$100\epsilon^2$

D_{2}

$D_2$

10 ϵ^{2}

$10\epsilon^2$

L_{2}

$L_2$

ϵ

$\epsilon$

90 ϵ^{2}

$90\epsilon^2$

110 ϵ^{2}

$110\epsilon^2$

— usul

1

나는 샘플이 여전히 충분 하다고 생각 합니다. 샘플을 수집 하고 가능한 각 값이 몇 번 발생하는지 계산합니다. 들면 각각 1,000,000 회 (성병 DEV 발생한다 ). 들어 , 각각 90 시간 (표준 편차가 발생한다 ) 또는 110 만 시간 (표준 편차 ). 1,000,000과 1,100,000의 차이가 100 표준 편차, 즉 거대하기 때문에 또는 다루는 것을 알고 있다면 두 가지를 쉽게 구별 할 수 있습니다 .

O (1 / ϵ^{2})

$O(1/\epsilon^2)$

m = 10^{6} n

$m=10^6n$

D_{1}

$D_1$

1000

$1000$

D_{2}

$D_2$

\approx 1000

$\approx 1000$

\approx 1000

$\approx 1000$

D_{1}

$D_1$

D_{2}

$D_2$

— DW

@DW 나는 그것에 대해 더 많이 생각했습니다. 평균 곱셈 계수가 평균이 다르면 점당 일정한 수의 샘플이 구별됩니다. 중요한 것은 부가 적이 지 않은 부가적인 요소입니다. 이 방법은 의 하한 만 제공합니다 .

1 / ϵ^{2}

$1/\epsilon^2$

— usul