Rademacher 랜덤 변수의 곱의 합

하자 값 복용 독립 확률 변수 일 수 또는 확률을 각각 0.5. 합계 . 확률 상한을 설정하고 싶습니다 . 내가 지금 가지고있는 가장 좋은 범위는 여기서 c 는 범용 상수입니다. 이것은 간단한 Chernoff 범위의 적용에 의해 확률 Pr (| x_1 + \ dots + x_n | <\ sqrt {t}) 및 Pr (| y_1 + \ dots + y_n | <\ sqrt {t})의 경계를 낮춤 으로써 달성됩니다. 이 범위보다 훨씬 더 나은 것을 얻을 수 있습니까? 우선은 적어도 얻을 수 있습니까$x_1 \ldots x_a,y_1 \ldots y_b$$+1$$-1$$S = \sum_{i,j} x_i\times y_j$$P(|S| > t)$$2e^{-\frac{ct}{\max(a,b)}}$$c$$Pr(|x_1 + \dots + x_n|<\sqrt{t})$$Pr(|y_1 + \dots + y_n|<\sqrt{t})$$e^{-c\frac{t}{\sqrt{ab}}}$ . 하위 가우시안 꼬리를 얻을 수 있다면 아마도 가장 좋을 것이지만 우리는 그것을 기대할 수 있습니다 (그렇지 않다고 생각할 수는 없습니다).

대수 관계

$$S = \sum_{i,j} x_i y_j = \sum_i x_i \sum_j y_j$$

전시회 $S$두 개의 독립적 인 합의 곱으로 때문에$(x_i+1)/2$ 과 $(y_j+1)/2$ 독립적 인 Bernoulli$(1/2)$ 변이 $X=\sum_{i=1}^a x_i$ 이항입니다$(a, 1/2)$배가되고 이동 된 변수. 따라서 그 평균은$0$ 그리고 그 차이는 $a$. 비슷하게$Y=\sum_{j=1}^b y_j$ 의 평균을 가지고 $0$ 그리고 분산 $b$. 다음을 정의하여 지금 표준화하십시오

$$X_a = \frac{1}{\sqrt a} \sum_{i=1}^a x_i,$$

어떻게

$$S = \sqrt{ab} X_a X_b = \sqrt{ab}Z_{ab}.$$

다음과 같이 높은 (및 정량화 가능한) 정확도 $a$ 커지다 $X_a$표준 정규 분포에 접근합니다. 그러므로 우리가 대략하자$S$ 같이 $\sqrt{ab}$ 두 표준 법선 곱의 곱입니다.

다음 단계는

$$Z_{ab} = X_aX_b = \frac{1}{2}\left(\left(\frac{X_a+X_b}{\sqrt 2}\right)^2 - \left(\frac{X_a-X_b}{\sqrt 2}\right)^2 \right) = \frac{1}{2}\left(U^2 - V^2\right).$$

독립 표준 정규 변수의 제곱의 차이의 배수입니다 $U$ 과 $V$. 분포$Z_{ab}$( 특성 함수 를 반전시켜) 분석적으로 계산할 수 있습니다 . pdf는 차수 0의 베셀 함수에 비례합니다.$K_0(|z|)/\pi$. 이 함수는 지수 꼬리를 가지고 있기 때문에, 우리는 즉시 그 결론 대형을 위해$a$ 과 $b$ 고정 $t$더 나은 근사값은 없습니다. ${\Pr}_{a,b}(S \gt t)$ 질문에 주어진 것보다.

다음 중 하나 이상이 개선 될 여지가 남아 있습니다. $a$ 과 $b$ 크거나 꼬리가 아닌 지점 $S$ 가까운 $\pm a b$. 분포의 직접 계산$S$ 보다 큰 지점에서 꼬리 확률의 곡선 테이퍼링 $\sqrt{ab}$대략 넘어 $\sqrt{ab\max(a,b)}$. CDF의이 로그 선형 도표$S$ 다양한 가치를 위해 $a$ (제목에 주어진) $b$ (거의 같은 값에 걸쳐 $a$, 각 플롯에서 색상으로 구분) 진행 상황을 보여줍니다. 참고로, 제한의 그래프$K_0$분포는 검은 색으로 표시됩니다. (때문에$S$ 대칭이다 $0$, $\Pr(S \gt t) = \Pr(-S \lt -t)$네거티브 테일을 보는 것으로 충분합니다.)

같이 $b$ CDF가 커지면 기준선에 가까워집니다.

이 곡률의 ​​특성을 규명하고 정량화하려면 이항 변량에 대한 정규 근사를보다 정밀하게 분석해야합니다.

베셀 함수 근사화의 품질은이 확대 된 부분 (각 플롯의 오른쪽 상단 모서리)에서 더 명확 해집니다. 우리는 이미 꼬리에 먼 곳에 있습니다. 대수 수직 스케일은 시간에 따라 실질적인 차이를 숨길 수 있지만$a$ 에 도달 $500$ 근사치가 좋습니다 $|S| \lt a\sqrt{b}$.

---

분포를 계산하는 R 코드 $S$

다음은 실행하는 데 몇 초가 걸립니다. (36 조합의 수백만 확률을 계산합니다.$a$ 과 $b$.) 느린 시스템에서는의 더 큰 하나 개 또는 두 개의 값을 생략 a하고 b로부터 하부 플로팅 제한을 늘릴$10^{-300}$ 주변에 $10^{-160}$.

s <- function(a, b) {
  # Returns the distribution of S as a vector indexed by its support.
  products <- factor(as.vector(outer(seq(-a, a, by=2), seq(-b, b, by=2))))
  probs <- as.vector(outer(dbinom(0:a, a, 1/2), dbinom(0:b, b, 1/2)))
  tapply(probs, products, sum)
}

par(mfrow=c(2,3))
b.vec <- c(51, 101, 149, 201, 299, 501)
cols <- terrain.colors(length(b.vec)+1)
for (a in c(50, 100, 150, 200, 300, 500)) {
  plot(c(-sqrt(a*max(b.vec)),0), c(10^(-300), 1), type="n", log="y", 
       xlab="S/sqrt(ab)", ylab="CDF", main=paste(a))
  curve(besselK(abs(x), 0)/pi, lwd=2, add=TRUE)
  for (j in 1:length(b.vec)) {
    b <- b.vec[j]
    x <- s(a,b)
    n <- as.numeric(names(x))
    k <- n <= 0
    y <- cumsum(x[k])
    lines(n[k]/sqrt(a*b), y, col=cols[j], lwd=2)
  }
}

논평 : 나는 질문에서 어떤 종류의 rv를 더 잘 반영하기 위해 제목을 편집했다. 누구나 자유롭게 다시 편집 할 수 있습니다.

동기 부여 : 우리가 분포를 도출 할 수 있다면 상한에 정착 할 필요가 없다고 생각합니다 .$|S_{ab}|$. ( 업데이트 : 우리는 Whuber의 의견과 답변을 볼 수 없습니다 ).

표시 $Z_k = X_iY_j,\;\; k=1,...,ab$. 확인하기 쉽다$Z$의 분포는 $X$와 $Y$'에스. 모멘트 생성 기능은

$$M_Z(t) = E[e^{zt}]=\frac 12e^{-t}+\frac 12e^t = \cosh(t)$$

또한 $Z$우선 쌍으로 독립되어 있습니다 : 변수 $W = Z_1+Z_2$ (물론 표시는 물론 가능) 지원 $\{-2,0,2\}$ 해당 확률로 $\{1/4,1/2,1/4\}$. 순간 생성 기능은

$$M_{W}(t) = E[e^{(z_1+z_2)t}] = \frac 14e^{-2t}+\frac 12 +\frac 14e^{2t}=\\ =\frac 14(e^{-2t}+1)+ \frac 14(e^{2t}+1) = \frac 14 2e^{-t}\cosh(t)+\frac 14 2e^{t}\cosh(t)\\ =\cosh(t)\cdot \cosh(t) = M_{Z_1}(t)M_{Z_2}(t)$$

나는 다음과 같이 완전한 독립성을 보유하고 있다고 의심하려고 노력할 것이다. $Z_{ij}=X_iY_j$. 그런 다음 체인 규칙에 따라

$$P[Z_{ab},...,Z_{11}] = P[Z_{ab}\mid Z_{a,b-1},...,Z_{11}]\cdot ...\cdot P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}]$$

쌍으로 독립함으로써 우리는 $P[Z_{12}\mid Z_{11}] = P[Z_{12}]$.
치다 $P[Z_{13},Z_{12}\mid Z_{11}]$. $Z_{13}$ 과 $Z_{12}$ 독립적 인 조건부 $Z_{11}$ 그래서 우리는

$$P[Z_{13}\mid Z_{12},Z_{11}] = P[Z_{13}\mid Z_{11}] = P[Z_{13}]$$ 쌍으로 독립하여 두 번째 평등. 그러나 이것은

$$P[Z_{13}\mid Z_{12},Z_{11}]\cdot P[Z_{12}\mid Z_{11}]\cdot P[Z_{11}] = P[Z_{13},\,Z_{12},\,Z_{11}] = P[Z_{13}]\cdot P[Z_{12}]\cdot P[Z_{11}]$$

기타 (제 생각에). ( 업데이트 : 나는 틀렸다고 생각한다 . 독립은 아마도 모든 삼중 항을 위해 보유하고 있지만 전체 무리를 위해 보유하지는 않을 것이다. 따라서 다음은 단순한 무작위 보행의 분포를 유도하는 것이지, 질문에 대한 정답은 아닙니다-Wolfies 'and Whuber의 답변).

완전한 독립성이 실제로 유지된다면, 우리는 iid 이분법 rv의 합의 분포를 도출하는 임무를 갖는다

$$S_{ab}=\sum_{k=1}^{ab}Z_k$$

후자를 시퀀스로 명확하게 해석하지는 않지만 간단한 랜덤 워크 처럼 보입니다 .

만약 $ab=even$ 의 지원 $S$ 짝수 정수입니다 $[-ab,...,ab]$ 0을 포함하여 $ab=odd$ 의 지원 $S$ 홀수 정수입니다 $[-ab,...,ab]$0이 없습니다.

우리는 $ab=odd$.
표시$m$ 의 수 $Z$가치를 지니고있다 $-1$. Then the support of $S$ can be written $S\in \{ab-2m;m\in \mathbb Z_+\cup\{0\};m\le ab\}$. For any given $m$, we obtain a unique value for $S$. Moreover, due to symmetric probabilities and independence (or just exchangeability?), all possible joint realizations of the $Z$-variables $\{Z_1=z_1,..., Z_{ab}=z_{ab}\}$ are equiprobable. So we count and we find that the probability mass function of $S$ is,

$$P(S=ab-2m)={ab \choose m}\cdot \frac 1{2^{ab}}, \qquad 0\le m\le ab$$

Defining $s\equiv ab-2m$, and odd number by construction, and the typical element of the support of $S$, we have

$$P(S=s)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab}}$$

Moving to $|S|$, since if $ab=odd$, the distribution of $S$ is symmetric around zero without allocating probability mass to zero, and so the distribution of $|S|$ is obtained by "folding" the density graph around the vertical axis, essentially doubling the probabilities for positive values,

$$P(|S|=|s|)={ab \choose \frac{ab-s}{2}}\cdot \frac 1{2^{ab-1}}$$

Then the distribution function is

$$P(|S|\le|s|)=\frac 1{2^{ab-1}}\sum_{1\le i\le s,\, i\,odd}{ab \choose \frac{ab-i}{2}}$$

Therefore, for any real $t$, $1\le t<ab$, we obtain the required probability

$$P(|S|> t) = 1- P(|S|\le t) = 1-\frac 1{2^{ab-1}}\sum_{1\le i\le t,\, i\,odd}{ab \choose {\frac{ab-i}{2}}}$$

Note that the indication $i=odd$ guarantees that the sum will run only up to values included in the support of $|S|$ - for example, if we set $t=10.5$, still $i$ will run up to $9$, since it is constrained to be odd, on top of being an integer.

Not an answer, but a comment on Alecos’s interesting answer that is too long to fit into a comment box.

Let $(X_1, ..., X_a)$ be independent Rademacher random variables, and let $(Y_1, ..., Y_b)$ be independent Rademacher random variables. Alecos notes that:

$$S_{ab}=\sum_{k=1}^{ab}Z_k \qquad \text{where} \qquad Z_k = X_i Y_j$$

"… looks like a simple random walk”. If it were like a simple random walk, then the distribution of $S$ would be symmetric 'bell-shaped unimodal' around 0.

To illustrate that it is not a simple random walk, here is a quick Monte Carlo comparison of:

• triangle dots: Monte Carlo simulation of the pmf of $S$ given $a = 5$ and $b = 7$
• round dots: Monte Carlo simulation of a simple random walk with $n = 35$ steps

Clearly, $S$ is not a simple random walk; also note that S is not distributed on all the even (or odd) integers.

Monte Carlo

Here is the code (in Mathematica) used to generate a single iteration of the sum $S$, given $a$ and $b$:

 SumAB[a_, b_] :=  Outer[Times, RandomChoice[{-1, 1}, a], RandomChoice[{-1, 1}, b]] 
                         // Flatten // Total 

Then, 500,000 such paths, say when $a = 5$ and $b = 7$, can be generated with:

 data57 = Table[SumAB[5, 7], {500000}];

The domain of support for this combination of $a$ and $b$ is:

{-35, -25, -21, -15, -9, -7, -5, -3, -1, 1, 3, 5, 7, 9, 15, 21, 25, 35}