잘린 분포에 대한 최대 가능성 추정기

알려진 최소값 및 최대 값 및 있지만 알 수없는 매개 변수 및 의 잘린 분포 (예 : 잘린 정규 분포 ) 를 따르는 것으로 가정 되는 랜덤 변수 에서 얻은 독립 샘플 고려하십시오 . 경우 비 절단 분포를 따라 최대 우도 추정기 와 대 와 에서 샘플 평균 것이다 $N$ $S$ $X$ $a$ $b$ $\mu$ $\sigma^2$ $X$ $\widehat\mu$ $\widehat\sigma^2$ $\mu$ $\sigma^2$ $S$ 시료가 분산 $\widehat\mu = \frac{1}{N} \sum_i S_i$ . 그러나 잘린 분포의 경우 이러한 방식으로 정의 된 표본 분산은묶이므로 항상 일관된 추정량은 아닙니다.경우에 확률로 수렴 할 수 없습니다.와 같은무한대. 그것은 보인다 그래서 하고의하지 최대 우도 추정량이다 $\widehat\sigma^2 = \frac{1}{N} \sum_i (S_i - \widehat\mu)^2$ $(b-a)^2$ $\sigma^2 > (b-a)^2$ $\sigma^2$ $N$ $\widehat\mu$ $\widehat\sigma^2$ $\mu$ 및 잘린 배포. 물론, 이것은 잘린 정규 분포 의 및 모수가 평균과 분산이 아니기 때문에 예상 됩니다. $\sigma^2$ $\mu$ $\sigma^2$

그렇다면 알려진 최소값과 최대 값의 잘린 분포에 대한 및 모수의 최대 우도 추정치는 무엇입니까? $\mu$ $\sigma$

— a3nm
소스

분석이 확실합니까? 잘린 상황의 경우,

의 MLE 는 더 이상 표본 분산이 아니며 일반적으로

의 MLE 은 더 이상 표본 평균이 아닙니다!

σ^{2}

$\sigma^2$

μ

$\mu$

— whuber

whuber : 잘 알고 있습니다. 잘린 질문에서

와

의 MLE은 무엇 입니까? 이를 주장하는 문장을 추가하십시오.

σ^{2}

$\sigma^2$

μ

$\mu$

— a3nm

닫힌 양식 솔루션이 없습니다. 로그 가능성을 숫자로 최소화하기 만하면됩니다. 그러나 이것은 로지스틱 회귀와 같은 폐쇄 형 솔루션이없는 다른 많은 모델과 질적으로 다르지 않습니다.

— whuber

whuber : 이것이 사실이라면 이것은 매우 실망스러운 일입니다. 폐쇄 형 솔루션의 부족에 대한 언급이 있습니까? 최대 가능성은 아니지만 최소한 일관된 (및 선택적으로 편향되지 않은) 폐쇄 형 추정값이 있습니까?

— a3nm

@ whuber : 최소한의 샘플을 충분한 통계로 단순화하여 최소화가 빠를 수 있습니까?

— Neil G

고려 어떤 위치 규모의 가족이 "표준"분포에 의해 결정 , $F$

Ω_{F} = {F_{(μ, σ)} : x \to F (\frac{x - μ}{σ}) ∣ σ > 0} .

$\Omega_F = \left\{F_{(\mu, \sigma)}: x \to F\left(\frac{x-\mu}{\sigma}\right) \mid \sigma \gt 0\right\}.$

차별화 할 수 있다고 가정하면 PDF가 임을 쉽게 알 수 있습니다. $F$ . $\frac{1}{\sigma}f\left((x-\mu)/\sigma\right)dx$

간지지 제한이 분포 절단 및 , 수단이 PDF 파일이 교체된다는 $a$ $b$ $a \lt b$

f_{(μ, σ; a, b)} (x) = \frac{f (\frac{x - μ}{σ}) d x}{σ C (μ, σ, a, b)}, a \leq x \leq b

$f_{(\mu, \sigma; a,b)}(x) = \frac{f\left(\frac{x-\mu}{\sigma}\right)dx}{\sigma C(\mu, \sigma, a, b)}, a \le x \le b$

$x$ $C(\mu, \sigma, a, b) = F_{(\mu,\sigma)}(b) - F_{(\mu,\sigma)}(a)$ $f_{(\mu, \sigma; a, b)}$ $C$ $1$ $x_i$

Λ (μ, σ) = \sum_{i} [\log f (\frac{x_{i} - μ}{σ}) - \log σ - \log C (μ, σ, a, b)] .

$\Lambda(\mu, \sigma) = \sum_i \left[\log{f\left(\frac{x_i-\mu}{\sigma}\right)} - \log{\sigma}-\log{C(\mu, \sigma, a, b)}\right].$

$\sigma=0$

\begin{aligned} 0 & = \frac{\partial Λ}{\partial μ} & = \sum_{i} [\frac{- f_{μ} (\frac{x_{i} - μ}{σ})}{f (\frac{x_{i} - μ}{σ})} - \frac{C_{μ} (μ, σ, a, b)}{C (μ, σ, a, b)}] \\ 0 & = \frac{\partial Λ}{\partial σ} & = \sum_{i} [\frac{- f_{σ} (\frac{x_{i} - μ}{σ})}{σ^{2} f (\frac{x_{i} - μ}{σ})} - \frac{1}{σ} - \frac{C_{σ} (μ, σ, a, b)}{C (μ, σ, a, b)}] \end{aligned}

$\eqalign{ 0 &= \frac{\partial\Lambda}{\partial\mu} &= \sum_i \left[\frac{-f_\mu\left(\frac{x_i-\mu}{\sigma}\right)}{f\left(\frac{x_i-\mu}{\sigma}\right)} -\frac{C_\mu(\mu,\sigma,a,b)}{C(\mu,\sigma,a,b)}\right] \\ 0 &= \frac{\partial\Lambda}{\partial\sigma} &= \sum_i \left[\frac{-f_\sigma\left(\frac{x_i-\mu}{\sigma}\right)}{\sigma^2f\left(\frac{x_i-\mu}{\sigma}\right)} -\frac{1}{\sigma}-\frac{C_\sigma(\mu,\sigma,a,b)}{C(\mu,\sigma,a,b)}\right] }$

$a$ $b$ $nC_\mu(\mu, \sigma, a, b)/C(\mu, \sigma,a,b)$ $A(\mu,\sigma)$ $nC_\sigma(\mu, \sigma, a, b)/C(\mu, \sigma,a,b)$ $B(\mu, \sigma)$

\begin{aligned} - A (μ, σ) & = \sum_{i} \frac{f_{μ} (\frac{x_{i} - μ}{σ})}{f (\frac{x_{i} - μ}{σ})} \\ - σ^{2} B (μ, σ) - n σ & = \sum_{i} \frac{f_{σ} (\frac{x_{i} - μ}{σ})}{f (\frac{x_{i} - μ}{σ})} \end{aligned}

$\eqalign{ -A(\mu,\sigma) &= \sum_i \frac{f_\mu\left(\frac{x_i-\mu}{\sigma}\right)}{f\left(\frac{x_i-\mu}{\sigma}\right)} \\ -\sigma^2 B(\mu,\sigma) - n\sigma &= \sum_i \frac{f_\sigma\left(\frac{x_i-\mu}{\sigma}\right)}{f\left(\frac{x_i-\mu}{\sigma}\right)} }$

이를 절단하지 않는 상황과 비교하면 다음과 같습니다.

원래 문제에 대한 충분한 통계는 잘린 문제에 충분합니다 (오른쪽이 변경되지 않았기 때문에).
$A$ $B$ $\mu$ $\sigma$

$C(\mu,\sigma,a,b)$

— 우버
소스

f_{μ}

$f_\mu$

f_{σ}

$f_\sigma$

C_{μ}

$C_\mu$

C_{σ}

$C_\sigma$

x \in [a, b]

$x \in [a, b]$

C_{μ} = \frac{\partial}{\partial μ} C (μ, σ, a, b)

$C_\mu = \frac{\partial}{\partial\mu}C(\mu,\sigma,a,b)$

또한 귀하의 답변이 예상했던 것보다 더 일반적이기 때문에 정규 분포의 경우보다 덜 주장하도록 내 질문을 편집했습니다. 귀하의 노력에 다시 한번 감사드립니다.

— a3nm

정규 분포에 중점을 두는 것과 비교하여이 일반 수준에서 설명하기가 더 쉬웠습니다! 미분을 계산하고 정확한 형태의 CDF를 보여주는 것은 불필요한 방해 요소입니다 (실제로 수치 솔루션을 코딩 할 때 유용하지만).

— whuber

수정 해 주셔서 감사합니다! 당신은 그들 중 하나를 놓쳤다; 내 편집 내용을 검토 할 수 있습니까?

— a3nm