체제 에서 공과 빈 분석 : 간격

우리가 던지고있다 가정 에 공을 빈 (bin), . 하자 빈에서 끝나는 공의 숫자 , 무거운 빈, 수 수 가벼운 빈, 그리고 두 번째 무거운 빈합니다. 대략 이므로 임의의 두 고정 . 유니온 바운드를 사용하면 ; 아마도 를 고려하여 일치하는 하한을 얻을 수 있습니다. $m$ $n$ $m \gg n$ $X_i$ $i$ $X_\max$ $X_\min$ $X_{\mathrm{sec-max}}$ $X_i - X_j \sim N(0,2m/n)$ $|X_i - X_j| = \Theta(\sqrt{m/n})$ $i,j$ $X_{\max} - X_{\min} = O(\sqrt{m\log n/n})$ $n/2$ 분리 된 쓰레기통 쌍. 이 (완전히 공식적인 것은 아님) 논쟁으로 인해 $X_{\max}$ 와 사이의 간격 $X_{\min}$ 이 $\Theta(\sqrt{m\log n/n})$ 가능성이 높습니다.

$X_\max$ 와 사이의 간격에 관심이 $X_{\mathrm{sec-max}}$ 있습니다. 위에서 설명한 인수는 $X_\max - X_{\mathrm{sec-max}} = O(\sqrt{m\log n/n})$ 일 가능성이 높지만 $\sqrt{\log n}$ 요소가 불필요한 것으로 보입니다. . 의 분포에 대해 알려진 것이 $X_\max - X_{\mathrm{sec-max}}$ 있습니까?

보다 일반적으로, 각 공이 각 빈에 대해 음수가 아닌 점수 와 연관되어 있고 , 우리는 $m$ 공 을 던진 후 각 빈의 총 점수에 관심 이 있다고 가정하십시오 . 일반적인 시나리오는 형식의 점수에 해당합니다 $(0,\ldots,0,1,0,\ldots,0)$ . 빈의 순열에 따라 점수의 확률 분포가 변하지 않는다고 가정하십시오 (일반적인 시나리오에서는 모든 빈이 평등하다는 사실에 해당합니다). 점수 분포가 주어지면 첫 번째 단락의 방법을 사용하여 에 대한 좋은 경계를 얻을 수 $X_{\max} - X_{\min}$ 있습니다. 바운드에는 의 요소가 포함됩니다. $\sqrt{\log n}$ 그것은 노멀 바운드에서 나옵니다 (정규 변수의 꼬리 확률을 통해). 경계에 관심이 있다면이 요소를 줄일 수 있습니까 $X_{\max} - X_{\mathrm{sec-max}}$ ?

reference-request pr.probability

— 유발 필름 러스
소스

각 점수는 [0,1]에 있습니까?

— 닐 영

중요하지 않습니다. 항상

에 있도록 크기를 조정할 수 있습니다

[0, 1]

$[0,1]$ .

— 유발 Filmus

답변:

답 : $\Theta\left(\sqrt{\frac{m}{n\log n}}\right)$ .

중심 한계 정리의 다차원 버전을 적용하면 벡터 에 갖는 무 변량 다변량 가우스 분포가 있음을 알 수 있습니다 및 아래에서 는 가우스 벡터 라고 가정합니다 (거의 가우스 벡터뿐만 아니라). 모든 분산 가우스 랜덤 변수 를 추가합시다 ( 는 모든 독립적 임). 즉,하자 $(X_1,\dots, X_n)$

V a r [X_{i}] = m (\frac{1}{n} - \frac{1}{n^{2}}),

$\mathrm{Var}[X_i] = m\left(\frac{1}{n} - \frac{1}{n^2}\right),$

C o v (X_{i}, X_{j}) = - m / n^{2} .

$\mathrm{Cov}(X_i, X_j) = -m/n^2.$

X

$X$

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

Z

$Z$

X_{i}

$X_i$

(\begin{matrix} Y_{1} \\ Y_{2} \\ ⋮ \\ Y_{n} \end{matrix}) = (\begin{matrix} X_{1} + Z \\ X_{2} + Z \\ ⋮ \\ X_{n} + Z \end{matrix}) .

$\begin{pmatrix} Y_1\\Y_2\\ \vdots\\Y_n \end{pmatrix} = \begin{pmatrix} X_1+Z\\X_2+Z\\ \vdots\\X_n +Z \end{pmatrix}.$ 가우스 벡터 . 이제 각 에는 분산 . 이며 모든 는 독립적입니다.

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

V a r [Y_{i}] = V a r [X_{i}] + \underset{= 0}{\underset{⏟}{2 C o v (X_{i}, Z)}} + V a r [Z] = m / n,

$\mathrm{Var}[Y_i] = \mathrm{Var}[X_i] + \underbrace{2\mathrm{Cov}(X_i,Z)}_{=\, 0}+\mathrm{Var}[Z] = m/n,$

Y_{i}

$Y_i$

C o v (Y_{i}, Y_{j}) = C o v (X_{i}, X_{j}) + \underset{= 0}{\underset{⏟}{C o v (X_{i}, Z) + C o v (X_{j}, Z)}} + C o v (Z, Z) = 0.

$\mathrm{Cov}(Y_i, Y_j) = \mathrm{Cov}(X_i, X_j) + \underbrace{\mathrm{Cov}(X_i,Z) + \mathrm{Cov}(X_j,Z)}_{=\, 0} +\mathrm{Cov}(Z, Z) = 0.$

참고 . 따라서 원래 문제는 를 찾는 문제와 동일합니다 . 모든 가 분산 갖는 경우를 간단히 분석하기 위해 먼저 살펴 보겠습니다 . $Y_i - Y_j = X_i - X_j$ $Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}$ $Y_i$ $1$

문제. 우리는 독립적 인 가우스 rv 을 평균 와 분산 합니다. 의 예상치를 추정하십시오 . $n$ $\gamma_1,\dots, \gamma_n$ $\mu$ $1$ $\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}$

답변 : . $\Theta\left(\frac{1}{\sqrt{\log n}}\right)$

비공식 증거. 이 문제에 대한 비공식적 인 해결책은 다음과 같습니다 (정식으로 만드는 것은 어렵지 않습니다). 답은 평균에 의존하지 않기 때문에 이라고 가정합니다 . 하자 여기서 . 우리는 (약간 큰 ), $\mu = 0$ $\bar\Phi(t) = \Pr[\gamma > t]$ $\gamma\sim{\cal N}(0,1)$ $t$

\bar{Φ} (t) \approx \frac{1}{\sqrt{2 π} t} e^{- \frac{1}{2} t^{2}} .

$\bar\Phi(t)\approx \frac{1}{\sqrt{2\pi}t} e^{-\frac{1}{2}t^2}.$

참고

$\Phi(\gamma_i)$ 는 에 균일하고 독립적으로 분포되어 있습니다 . $[0,1]$
$\Phi(\gamma_{\mathrm{max}})$ 는 중에서 가장 작습니다 . $\Phi(\gamma_i)$
$\Phi(\gamma_{\mathrm{sec-max})}$ 는 중에서 가장 작은 것 입니다. $\Phi(\gamma_i)$

따라서 에 가까운 과 근접이고 (아무 농도 없지만 우리 걸치는 경우 ' 상수에 대한 관심 t 이러한 추정값은 충분하지만, 사실 상수에 관심이 있다면 꽤 좋은 편이지만 정당화가 필요합니다). 위한 수식을 사용하여 , 우리는 얻을 $\Phi(\gamma_{\mathrm{max}})$ $1/n$ $\Phi(\gamma_{\mathrm{max}})$ $2/n$ $\bar\Phi(t)$

2 \approx \bar{Φ} (γ_{s e c - m a x}) / \bar{Φ} (γ_{m a x}) \approx e^{\frac{1}{2} (γ_{m a x}^{2} - γ_{s e c - m a x}^{2})} .

$2\approx \bar\Phi(\gamma_{\mathrm{sec-max}})\left/\bar\Phi(\gamma_{\mathrm{max}})\right. \approx e^{\frac{1}{2}\left(\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2\right)}.$

따라서 는 whp입니다. 입니다. 우리는,이 $\gamma_{\mathrm{max}}^2 - \gamma_{\mathrm{sec-max}}^2$ $\Theta(1)$ $\gamma_{\mathrm{max}}\approx \gamma_{\mathrm{sec-max}} = \Theta(\sqrt{\log n})$

γ_{m a x} - γ_{s e c - m a x} \approx \frac{Θ (1)}{γ_{m a x} + γ_{s e c - m a x}} \approx \frac{Θ (1)}{\sqrt{\log n}} .

$\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}\approx \frac{\Theta(1)}{\gamma_{\mathrm{max}} + \gamma_{\mathrm{sec-max}}} \approx \frac{\Theta(1)}{\sqrt{\log n}}.$

QED

우리는 얻을

\begin{aligned} E [X_{m a x} - X_{s e c - m a x}] & = E [Y_{m a x} - Y_{s e c - m a x}] \\ = \sqrt{V a r [Y_{i}]} \times E [γ_{m a x} - γ_{s e c - m a x}] = Θ (\sqrt{\frac{m}{n \log n}}) . \end{aligned}

$\begin{align} \mathbb{E}[{X_{\mathrm{max}} - X_{\mathrm{sec-max}}}] &= \mathbb{E}[{Y_{\mathrm{max}} - Y_{\mathrm{sec-max}}}] \\ &= \sqrt{\mathrm{Var}[Y_i]} \times\mathbb{E}[{\gamma_{\mathrm{max}} - \gamma_{\mathrm{sec-max}}}] = \Theta\left(\sqrt{\frac{m}{n\log n}}\right). \end{align}$

우리가 임의의 점수를 가질 때도 같은 주장이 이루어집니다. 임을 나타냅니다
$E [X_{m a x} - X_{s e c - m a x}] = c E [X_{m a x} - X_{m i n}] / \log n .$ $\mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{sec-max}}] = c\, \left. \mathbb{E}[X_{\mathrm{max}}- X_{\mathrm{min}}]\right/\log n.$

— 유리
소스

감사! 다음에 다변량 가우시안 근사를 시도하는 것을 기억할 것입니다.

— 유발 Filmus

Yury, 당신은 " 모든 분산 가우시안 벡터 를 추가합시다 . 가우시안 벡터 . 이제 각 는 분산 을 갖고 모든 는 아닙니다 상관 관계 ... . " 이 부분을 확장 할 수 있습니까? 가 ? 경우] 의 의존, 그리고 의 독립된 (또는 균일 동일)이며, 어떻게 수 의 독립적 일? (단순한 트릭처럼 보이지만 이해가되지 않습니다.) 감사합니다.

Z

$Z$

m / n^{2}

$m/n^2$

X_{i}

$X_i$

(Y_{1}, \dots, Y_{n})

$(Y_1, \dots, Y_n)$

Y_{i}

$Y_i$

m / n

$m/n$

Y_{i}

$Y_i$

Y_{i} - Y_{j} = X_{i} - X_{j}

$Y_i - Y_j = X_i - X_j$

Z_{i} = Z_{j}

$Z_i = Z_j$

X_{i}

$X_i$

Z_{i}

$Z_i$

Y_{i}

$Y_i$

— 닐 영

@NealYoung, 그래, 우리는 변수가있는 경우 부정적인 페어의 상관 관계 등을 모두 공분산 이다 동일 , 우리는 추가 할 수있는 하나의 새로운 임의의 변수 모두 그러한 합계는 독립적입니다. 또한 변수가 양의 상관 관계를 가지고 있고 모든 공분산이 와 같으면 모든 차이에서 독립적 인 단일 rv 를 뺄 수 있습니다 . 그러나 이제 는 독립적이 아니라

X_{1}, \dots, X_{n}

$X_1,\dots,X_n$

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$

Z

$Z$

X_{i}

$X_i$

C o v (X_{i}, X_{j})

$\mathrm{Cov}(X_i,X_j)$

Z

$Z$

Z

$Z$

X_{i}

$X_i$

Z = α (X_{1} + \dots + X_{n})

$Z=\alpha (X_1 + \dots+X_n)$ 일부 스케일링 매개 변수 .

α

$\alpha$

— Yury

아 알 겠어요 적어도 대수적으로, 그것이 쉬는 것은 Z와 각 의 쌍별 독립입니다 . 매우 시원합니다.

X_{i}

$X_i$

— Suresh Venkat

이 인수는 이제 EC'14 종이에 (속성으로) 나타납니다 dl.acm.org/citation.cfm?id=2602829를 .

— 유발 Filmus

첫 번째 질문으로 가 이것은 입니다. $X_{\max}-X_{\textrm{sec-max}}$

o (\sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}}) .

$o\left(\sqrt{\frac{m}{n}\frac{\log^2\log n}{\log n}}\right).$

o (\sqrt{m / n})

$o(\sqrt{m/n})$

무작위 실험을 다음 대안과 비교하십시오. 첫 번째 버킷 중 최대로드로 설정하십시오 . 하자 마지막의 최대 부하 일 버킷. $X_1$ $n/2$ $X_2$ $n/2$

고려할 때, 의 상한 입니다. 또한 가능성이 적어도 절반 인 입니다. 따라서 대략적으로 말하면 는. $|X_1-X_2|$ $X_{\max}-X_{\mathrm{sec-max}}$ $|X_1-X_2| = X_{\max}-X_{\mathrm{sec-max}}$ $X_{\max}-X_{\mathrm{sec-max}}$ $|X_1-X_2|$

를 공부하려면 확률이 높은 볼은 첫 번째 빈에 던져지고 마지막 빈에 대해서도 마찬가지입니다 . 따라서 과 는 각각 볼을 빈에 넣을 때 기본적으로 최대 하중과 같이 분산됩니다 . $|X_1-X_2|$ $m/2\pm O(\sqrt m)$ $n/2$ $n/2$ $X_1$ $X_2$ $m' = m/2\pm o(m)$ $n' = n/2$

이 분포는 잘 연구되었고,이 주장에 대해 운 좋게도 그 평균에 집중되어 있습니다. 예를 들어, 인 경우 확률이 높은 은 최대이 답변의 맨 위에 표시되는 양만큼 예상과 다릅니다 [ Thm. 1 ]. (참고 : 유리의 대답을 고려할 때이 상한은 느슨합니다.) 따라서 높은 확률로 및 도 최대만큼 많이 다르므로 및 은 이만큼 많이 다릅니다. $m' \gg n\log^3 n$ $X_1$ $X_1$ $X_2$ $X_{\max}$ $X_{\mathrm{max-sec}}$

반대로, 어떤 에 대해 이면 이상 (순진한 연합으로) 적어도 나는 이것이 예를 들어 요인 내에서 의 기대치를 제공해야한다고 생각합니다 . $t$ $\Pr[|X_1-X_2| \ge t] \ge 3/4$ $\Pr[X_{\max}-X_{\textrm{sec-max}} \ge t]$

Pr [| X_{1} - X_{2} | \geq t \land X_{max} - X_{sec-max} = | X_{1} - X_{2} |]

$\Pr\big[|X_1-X_2| \ge t ~\wedge~ X_{\max}-X_{\textrm{sec-max}} = |X_1-X_2|\big]$

1 - (1 / 4) - (1 / 2) = 1 / 4.

$1 - (1/4) - (1/2) = 1/4.$

X_{max} - X_{sec-max}

$X_{\max}-X_{\textrm{sec-max}}$

— 닐 영
소스

Thm을 보면. 1, 기대치와의 차이점은 이며, 작성한 내용이 아닙니다. 그것은 여전히 보다 훨씬 낫습니다 .

O (\sqrt{(m / n) \log \log n})

$O(\sqrt{(m/n) \log \log n})$

O (\sqrt{(m / n) \log n})

$O(\sqrt{(m/n) \log n})$

— 유발 Filmus

Thm. 확률 대해 1 (제 3의 경우)의 경우, 확률 의 경우 최대 빈 (n 빈의 m 공)은 내 수학에 따르면 ( ) 항은 의 추가 절대 항으로 확장됩니다.내가 무엇을 잘못하고 있지?

ϵ > 0

$\epsilon>0$

1 - o (1)

$1-o(1)$

\frac{m}{n} + \sqrt{\frac{2 m \log n}{n}} \sqrt{1 - (1 \pm ϵ) \frac{\log \log n}{2 \log n}} .

$\frac{m}{n} +\sqrt{\frac{2m\log n}{n}}\sqrt{1-(1\pm\epsilon) \frac{\log\log n}{2\log n}}.$

\sqrt{1 - δ} = 1 - O (δ)

$\sqrt{1-\delta} = 1 - O(\delta)$

\pm ϵ

$\pm\epsilon$

O (ϵ) \sqrt{\frac{m \log n}{n}} \frac{\log \log n}{\log n} = O (ϵ) \sqrt{\frac{m}{n} \frac{\log^{2} \log n}{\log n}} .

$O(\epsilon) \sqrt{\frac{m\log n}{n}}~\frac{\log\log n}{\log n} ~=~O(\epsilon) \sqrt{\frac{m}{n}~\frac{\log^2\log n}{\log n}}.$

— 닐 영

아-네 말이 맞아 나는 제곱근 내부를 빼고 이것이 내 그림을 얻는 방법입니다.

— 유발 Filmus