여러 번의 시도에서 낮은 엔트로피 값 추측

Alice에게 분포가 있다고 가정 $\mu$ 유한 한 (그러나 아마도 매우 큰) 도메인을 통해 (Shannon) 엔트로피 $\mu$ 임의로 작은 상수에 의해 상한 $\varepsilon$. 앨리스는 가치를 그립니다$x$ ...에서 $\mu$그런 다음 Bob에게 묻습니다. $\mu$) 추측합니다 $x$.

Bob의 성공 확률은 무엇입니까? 그가 한 번의 추측 만 허용한다면, 다음과 같이이 확률을 하한으로 낮출 수 있습니다.$2^{-\varepsilon}$. Bob이이 요소를 추측으로 선택하면 성공 확률은 다음과 같습니다.$2^{-\varepsilon}$.

Bob이 여러 번 추측 할 수 있다고 가정 해 봅시다. $t$그의 추측 중 하나가 맞으면 Bob이 이깁니다. Bob의 성공 확률을 향상시키는 추측 체계가 있습니까? 특히 Bob의 실패 확률이 다음과 같이 기하 급수적으로 감소 함 을 보여줄 수 있습니까?$t$?

밥의 최선의 방법은 $t$ 확률이 가장 큰 값.

Rényi 엔트로피를 대신 사용하려는 경우 Boztaş의 Entropies, Guessing 및 Cryptography 에서 발의안 17 은 오류 확률이$t$ 추측은 최대

$$1 - 2^{-H_2(\mu)\left(1-\frac{\log t}{\log n}\right)} \approx \ln 2 \left(1-\frac{\log t}{\log n}\right) H_2(\mu),$$ 어디 $n$도메인의 크기입니다. 물론, 의존성$t$ 보즈 타스는 엔트로피의 다른 체제에 초점을 맞췄을 것입니다.

Shannon 엔트로피의 경우 고정 확률 확률이 주어지면 이중 최적화 문제를 해결할 수 있습니다. $\delta$그런 분포의 최대 엔트로피를 찾으십시오. 볼록 함을 사용하여$-x\log x$우리는 분포가 $\mu$ 형태가있다 $a,b,\ldots,b;b,\ldots,b,c$, 어디 $a\geq b\geq c$, $a+(t-1)b = 1-\delta$, $c = \delta-\lfloor\frac{\delta}{b}\rfloor b$. 우리는$t-1+\lfloor\frac{\delta}{b}\rfloor$ 확률을 얻는 값 $b$. 컨디셔닝$s = \lfloor\frac{\delta}{b}\rfloor$, 우리는 찾을 수 있습니다 $b$엔트로피를 최소화합니다. 올바른 값$s$, 이것은 내부 포인트 (파생 상품이 사라지는 지점)가됩니다. 이 방법을 사용하여 점근 적 추정치를 얻는 방법을 잘 모르겠습니다.

불행히도 귀하의 질문에 대한 좋은 답변이 없습니다. John Pliam [PhD 논문, LNCS 시리즈의 논문 2 편]은 Shannon 엔트로피와 예상되는 추측 횟수의 차이를 관찰 한 최초의 사람입니다. 그의 논문은 온라인에서 쉽게 찾을 수 있습니다. 4.3 절에서 적절한 확률 분포를 선택하여$X$ (임의의 양의 정수에 따라 다름 $N$)는 자기 비슷한 허프만 나무에서 비롯된 것으로, 확률의 내림차순으로 추측하여 $N+H(X)$ 성공 확률에 도달하기 전에 추측 $1/2$.

이것이 사람들이 Renyi 엔트로피를 조사한 이유의 일부입니다.