모집단 에서 UMVUE의 존재 및

하자 로부터 인출 랜덤 샘플 수 인구 여기서 . $(X_1,X_2,\cdots,X_n)$ $\mathcal N(\theta,\theta^2)$ $\theta\in\mathbb R$

의 UMVUE를 찾고 있습니다. $\theta$

의 결합 밀도 는 $(X_1,X_2,\cdots,X_n)$

\begin{aligned} {에프}_{θ} ({엑스}_{1}, {엑스}_{2}, \dots, {엑스}_{엔}) & = \prod_{나는 = 1}^{엔} \frac{1}{θ \sqrt{2 π}} 특급 [- \frac{1}{2 θ^{2}} ({엑스}_{나는} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{엔}} 특급 [- \frac{1}{2 θ^{2}} \sum_{나는 = 1}^{엔} ({엑스}_{나는} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{엔}} 특급 [\frac{1}{θ} \sum_{나는 = 1}^{엔} {엑스}_{나는} - \frac{1}{2 θ^{2}} \sum_{나는 = 1}^{엔} {엑스}_{나는}^{2} - \frac{엔}{2}] \\ = 지 (θ, 티 (엑스)) h (엑스) \forall ({엑스}_{1}, \dots, {엑스}_{엔}) \in {아르 자형}^{엔}, \forall θ \in 아르 자형 \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\cdots,x_n)&=\prod_{i=1}^n\frac{1}{\theta\sqrt{2\pi}}\exp\left[-\frac{1}{2\theta^2}(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[-\frac{1}{2\theta^2}\sum_{i=1}^n(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right] \\&=g(\theta,T(\mathbf x))h(\mathbf x)\qquad\forall\,(x_1,\cdots,x_n)\in\mathbb R^n\,,\forall\,\theta\in\mathbb R \end{align}$

여기서 및 . $g(\theta, T(\mathbf x))=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right]$ $h(\mathbf x)=1$

여기서 는 와 에서 는 와 무관 합니다. 따라서 Fisher-Neyman 인수 분해 정리에 따르면 2 차원 통계량 는 충분합니다. . $g$ $\theta$ $x_1,\cdots,x_n$ $T(\mathbf x)=\left(\sum_{i=1}^nx_i,\sum_{i=1}^nx_i^2\right)$ $h$ $\theta$ $T(\mathbf X)=\left(\sum_{i=1}^nX_i,\sum_{i=1}^nX_i^2\right)$ $\theta$

그러나 는 완전한 통계가 아닙니다. 이 때문에 $T$

E_{θ} [2 {(\sum_{i = 1}^{n} X_{i})}^{2} - (n + 1) \sum_{i = 1}^{n} X_{i}^{2}] = 2 n (1 + n) θ^{2} - (n + 1) 2 n θ^{2} = 0 \forall θ

$E_{\theta}\left[2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2\right]=2n(1+n)\theta^2-(n+1)2n\theta^2=0\qquad\forall\,\theta$

그리고 함수 는 동일하게 0이 아닙니다. $g^*(T(\mathbf X))=2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2$

그러나 나는 가 최소한의 통계량 이라는 것을 알고 있습니다. $T$

확실하지는 않지만이 곡선 형 지수 군에 대해 완전한 통계가 없을 수 있습니다. 그렇다면 어떻게 UMVUE를 받아야합니까? 완전한 통계가 존재하지 않는 경우, 통계가 최소 인 통계량의 함수 인 바이어스되지 않은 추정기 ( 이 경우 )가 UMVUE가 될 수 있습니까? (관련 스레드 : 바이어스되지 않은 추정기가 UMVUE가되기 위해 필요한 조건은 무엇입니까? ) $\bar X$

의 최고의 선형 편향 추정량 (BLUE)을 고려하면 어떻게됩니까? BLUE가 UMVUE가 될 수 있습니까? $\theta$

I 선형 비 편향 추정기 고려 가정 의 및 . 우리는 입니다. 내 생각은 을 최소화 하여 가 의 BLUE가되도록하는 것 입니다. 그러면 가 의 UMVUE 입니까? $T^*(\mathbf X)=a\bar X+(1-a)cS$ $\theta$ $c(n)=\sqrt{\frac{n-1}{2}}\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}$ $S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2$ $E_{\theta}(cS)=\theta$ $\text{Var}(T^*)$ $T^*$ $\theta$ $T^*$ $\theta$

및 를 기반으로 선형 편향 추정량을 취했습니다. 도 충분합니다 . $\bar X$ $S$ $(\bar X,S^2)$ $\theta$

편집하다:

이 알려진 보다 일반적인 패밀리에서 를 추정하는 데 실제로 많은 연구가 이루어졌다 . 다음은 가장 관련성이 높은 참고 자료입니다. $\theta$ $\mathcal N(\theta,a\theta^2)$ $a>0$

Gleser / Healy에 의해 알려진 변동 계수를 갖는 정규 분포의 평균을 추정합니다 .
RA Khan에 의해 알려진 변동 계수로 정규 분포의 평균을 추정하는 것에 대한 참고 사항 .
RA 칸에 의한 알려진 변동 계수를 갖는 정규 분포의 평균 추정에 대한 언급 .
이 장은 추출합니다.

이 연습에서 Casella / Berger의 통계적 추론 에서 이러한 참조 중 첫 번째를 찾았습니다 .

내 질문은이 운동에 관한 것이 아닙니다.

마지막 메모 (장 추출)에서는 최소한의 통계가 완료 되지 않아서 의 UMVUE가 존재하지 않는다고 $\theta$ 말합니다 . 충분한 통계를 찾을 수 없기 때문에 UMVUE 가 존재하지 않는다는 결론을 내릴 수있는 것이 무엇인지 알고 싶습니다 . 이것과 관련된 결과가 있습니까? 연결된 스레드에 충분한 통계가없는 경우에도 UMVUE가 존재합니다.

이제 균일 한 최소 편차 편향 추정량이 존재하지 않는다고 가정하면 '최상의'추정기를 선택하기위한 다음 기준은 무엇입니까? 최소 MSE, 최소 분산 또는 MLE를 찾습니까? 아니면 기준의 선택이 우리의 추정 목적에 달려 있습니까?

예를 들어, 나는 편향 추정기 과 또 다른 편향 추정기 가 합니다. 의 MSE (분산)가 의 MSE 보다 크다고 합니다. MSE의 최소화는 편차와 편차를 동시에 최소화하는 것을 의미하기 때문에 는 보다 '더 나은'추정기의 선택이어야한다고 생각합니다 . $T_1$ $T_2$ $\theta$ $T_1$ $T_2$ $T_2$ $T_1$

추정기의 선택 가능한 항목은 마지막 쪽의 4 페이지에 나와 있습니다. $\theta$

다음 발췌는 Lehmann / Casella (87-88 페이지, 2 판) 의 포인트 추정 이론 에서 발췌 한 것입니다 .

내가 모든 것을 잘못 이해했을 가능성이 높지만, 특정 조건 하에서 UMVUE의 존재를 위해서는 완전한 통계의 존재가 필요하다는 마지막 문장입니까? 그렇다면이 결과를 살펴 봐야합니까?

마지막에 언급 된 RR Bahadur로 인한 마지막 결과는 이 메모를 참조합니다 .

추가 검색을 통해 최소의 통계가 완료되지 않은 경우 완전한 통계가 존재하지 않는다는 결과를 찾았습니다. 적어도 나는 완전한 통계가 여기에 존재하지 않는다는 것을 확신합니다.

내가 고려하지 않은 또 다른 결과는 바이어스되지 않은 추정기가 UMVUE가되기 위해 필요하고 충분한 조건은 대략적인 모든 바이어스되지 않은 추정기 0과 상관되지 않아야한다는 것입니다. 이 정리를 사용하여 UMVUE가 존재하지 않으며 와 같은 바이어스되지 않은 추정기가 UMVUE가 아니라는 사실을 보여주었습니다. 그러나 이것은 최종 그림에서 예를 들어 here 과 같이 간단하게 작동하지 않습니다 . $\bar X$

— 완고한 원자
소스

또 다른 업데이트 :

여기서부터 논증은 건설적입니다. 적어도 하나의 대해 가되도록 편향되지 않은 다른 추정기 가 존재해야합니다 . $\tilde\theta$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta \in \Theta$

증거가 : 하자가 있다고 가정 , 과 (일부 값 ). 새로운 추정값을 고려하십시오 이 추정값은 분산 하자 . $E(\hat\theta) = \theta$ $E(\hat 0) = 0$ $Cov(\hat\theta, \hat 0) < 0$ $\theta$

\tilde{θ} = \hat{θ} + 비 \hat{0}

$\tilde\theta = \hat\theta + b\hat0$

V ㅏ 아르 자형 (\tilde{θ}) = V ㅏ 아르 자형 (\hat{θ}) + 비^{2} V ㅏ 아르 자형 (\hat{0}) + 2 비 씨 영형 V (\hat{θ}, \hat{0})

$Var(\tilde\theta) = Var(\hat\theta) + b^2Var(\hat0) + 2bCov(\hat\theta,\hat0)$

M (θ) = \frac{- 2 C o v (\hat{θ}, \hat{0})}{V a r (\hat{0})}

$M(\theta) = \frac{-2Cov(\hat\theta, \hat0)}{Var(\hat0)}$

되도록 이 있어야합니다 . 우리가 선택하는 경우 , 다음 에서 . 따라서 는 UMVUE가 될 수 없습니다. $\theta_0$ $M(\theta_0) > 0$ $b \in (0, M(\theta_0))$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta_0$ $\hat\theta$ $\quad \square$

요약 : 사실 그 IS 상관 관계와 (의 선택을 위해 ) 우리가보다 더 새로운 추정 구축 할 수 있음을 의미한다 적어도 하나 개의 지점에 대한 의 균일 성을 위반 최고의 unbiasedness에 대한 주장. $\hat\theta$ $\hat0$ $a$ $\hat\theta$ $\theta_0$ $\hat\theta$

선형 조합에 대한 아이디어를보다 자세히 살펴 보겠습니다.

\hat{θ} = ㅏ \bar{엑스} + (1 - ㅏ) 씨 에스

$\hat\theta = a \bar X + (1-a)cS$

알다시피, 는 충분한 (완전하지는 않지만) 통계를 기반으로하기 때문에 합리적인 견적입니다. 분명히,이 추정기는 편견이 없으므로 MSE를 계산하려면 분산 만 계산하면됩니다. $\hat\theta$

\begin{aligned} 미디엄 에스 이자형 (\hat{θ}) & = ㅏ^{2} V ㅏ 아르 자형 (\bar{엑스}) + (1 - ㅏ)^{2} 씨^{2} V ㅏ 아르 자형 (에스) \\ = \frac{ㅏ^{2} θ^{2}}{엔} + (1 - ㅏ)^{2} 씨^{2} [이자형 ({에스}^{2}) - 이자형 (에스)^{2}] \\ = \frac{ㅏ^{2} θ^{2}}{엔} + (1 - ㅏ)^{2} 씨^{2} [θ^{2} - θ^{2} / 씨^{2}] \\ = θ^{2} [\frac{ㅏ^{2}}{엔} + (1 - ㅏ)^{2} (씨^{2} - 1)] \end{aligned}

$\begin{align*} MSE(\hat\theta) &= a^2 Var(\bar{X}) + (1-a)^2 c^2 Var(S) \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[E(S^2) - E(S)^2\right] \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[\theta^2 - \theta^2/c^2\right] \\ &= \theta^2\left[\frac{a^2}{n} + (1-a)^2(c^2 - 1)\right] \end{align*}$

미분 하면 주어진 표본 크기 대해 "최적 "를 찾을 수 있습니다 . $a$ $n$

ㅏ_{영형 피 티} (엔) = \frac{씨^{2} - 1}{1 / 엔 + 씨^{2} - 1}

$a_{opt}(n) = \frac{c^2 - 1}{1/n + c^2 - 1}$ 여기서

씨^{2} = \frac{엔 - 1}{2} {(\frac{Γ ((엔 - 1) / 2)}{Γ (엔 / 2)})}^{2}

$c^2 = \frac{n-1}{2}\left(\frac{\Gamma((n-1)/2)}{\Gamma(n/2)}\right)^2$

이 최적의 선택에 도표 는 다음과 같습니다. $a$

로서 (Wolframalpha를 통해 확인 됨)이 있다는 점은 다소 흥미 롭습니다 . $n\rightarrow \infty$ $a_{opt}\rightarrow \frac{1}{3}$

이것이 UMVUE라는 보장은 없지만,이 추정기는 충분한 통계량의 모든 편향되지 않은 선형 조합의 최소 분산 추정기입니다.

— 놈럼
소스

업데이트 해 주셔서 감사합니다. 나는 교과서로 C & B를 따르지 않고 연습 만 보았습니다.

— StubbornAtom

@StubbornAtom 가 UMVUE가 될 수없는 이유를 증명하는 증거를 추가했습니다 (C & B 페이지 344에서 많이 차용). 한 번 살펴보고 이것이 도움이되는지 알려주십시오.

\hat{θ}

$\hat\theta$

— knrumsey

모집단 에서 UMVUE의 존재 및

최신 정보:

또 다른 업데이트 :