하이퍼 큐브에 대한 컨볼 루션의 엔트로피

함수 있다고 가정하면 ( 따라서 을 분포로 생각할 수 있습니다 . 이러한 함수의 엔트로피를 다음과 같이 정의하는 것은 당연합니다. $f:\mathbb{Z}_2^n \to \mathbb{R}$ $\sum _{x\in \mathbb{Z}_2^n} f(x)^2 = 1$ $\{ f(x)^2\} _{x\in \mathbb{Z}_2^n}$

H (f) = - \sum_{x \in Z_{2}^{n}} f (x)^{2} \log (f (x)^{2}) .

$H(f) = -\sum _{x \in \mathbb{Z}_2^n} f(x)^2 \log \left( f(x)^2 \right) .$

이제 와 의 컨벌루션을 생각해보십시오 . (참고 우리 다루는 사람 후 ) $f$

[f * f] (x) = \sum_{y \in Z_{2}^{n}} f (y) f (x + y) .

$[ f*f] (x) = \sum_{y \in \mathbb{Z}_2^n}f(y)f(x+y) .$

Z_{2}^{n}

$\mathbb{Z}_2^n$

x + y = x - y

$x+y=x-y$

그 상부의 엔트로피 결합 할 수있다 (그 정규화 의 엔트로피가 분포 되려면, -norm)를 ? 공식적으로, 와 같은 상수 $f*f$ $L_2$ $f$ $C$

H (\frac{f * f}{‖ f * f ‖_{2}}) \leq C \cdot H (f)

$H \left( \frac{f*f}{\|f*f\|_2} \right) \le C \cdot H(f)$

it.information-theory boolean-functions fourier-analysis

이 질문은 8 월 1 일에 mathoverflow에 게시되었습니다 : mathoverflow.net/questions/103668/… (일반적으로 이와 같은 지연으로 교차로 를 작성하는 것이 좋지만 현재하고있는 것을 말해야합니다).

— Colin McQuillan

죄송합니다.이 정책을 알지 못했습니다.

엔트로피 파워 불평등은 당신에게 유용 할 것입니다 : en.wikipedia.org/wiki/Entropy_power_inequality

— 또는 Meir

그런 는 없습니다 . 정의 에 의해 $C$ $g\colon\mathbb{Z}_2^n\to\mathbb{R}$

g (x_{1}, \dots, x_{n}) = {\begin{cases} 2^{2 n / 3} & if x_{1} = \dots = x_{n} = 0 \\ 1 & otherwise. \end{cases}

$g(x_1,\dots,x_n)=\begin{cases} 2^{2n/3}&\text{ if $x_1=\dots=x_n=0$}\\ 1&\text{ otherwise.}\end{cases}$

그런 다음 는 $g*g$

(g * g) (x_{1}, \dots, x_{n}) = {\begin{cases} 2^{4 n / 3} + 2^{n} - 1 & if x_{1} = \dots = x_{n} = 0 \\ 2^{2 n / 3} \cdot 2 + 2^{n} - 2 & otherwise. \end{cases}

$(g*g)(x_1,\dots,x_n)=\begin{cases} 2^{4n/3}+2^n-1&\text{ if $x_1=\dots=x_n=0$}\\ 2^{2n/3}\cdot 2+2^n-2&\text{ otherwise.}\end{cases}$

이라고하자 . 그러면 는 이고 (실제로 에서는 기하 급수적으로 작음 ) 는 . $f=g/\|g\|_2$ $H(f)=H(g/\|g\|_2)$ $o(1)$ $n$ $H(g*g/\|g*g\|_2)$ $n$

— 콜린 맥퀸
소스