편견없는 최대 우도 추정기는 항상 최고의 편견없는 추정기입니까?

22

정규 문제에 대해 알고 있는데, 만약 우리가 가장 규칙적인 편견이없는 추정기가 있다면, 그것은 최대 우도 추정기 (MLE) 여야합니다. 그러나 일반적으로 우리가 편견없는 MLE를 가지고 있다면, 이것이 최선의 편견없는 추정기일까요?

mathematical-statistics maximum-likelihood unbiased-estimator

— 게리 Cheng
소스

3

흥미로운 질문입니다. MLE는 충분한 통계량의 함수이며 완전하고 충분한 통계를 조정하여 UMVUE를 얻을 수 있습니다. 따라서 MLE이 편향되어 있지 않고 (그리고 충분한 통계량의 함수), 최소한의 분산을 갖지 않는 유일한 방법은 충분한 통계량이 완료되지 않은 경우입니다. 예를 찾으려고했지만 실패했습니다.

— Greenparker

2

그리고 여기 충분하고 완전한 통계에 대한 몇 가지 간단한 정보입니다.

— Richard Hardy

10

진짜 문제는 MLE가 거의 공평 더 있다는 것입니다 : 경우

의 불편 추정이다

와의 MLE

,

의 MLE입니다

하지만 대부분의 전단 사 변환에 대한 바이어스

.

θ

$\theta$

θ

$\theta$

θ

$\theta$

f (\hat{θ})

$f(\hat\theta)$

f (θ)

$f(\theta)$

f

$f$

— Xi'an

1

관련이 있습니까? "거의 편견없는 인구 평균 추정량"Vyas Dubey Pt. Ravishankar Shukla University, Raipur, India

2

시안 의견 +1 최상의 추정량은 최소한의 분산을 의미하고, 편향되지 않은 것은 다른 것을 의미합니다. 하나는 다른 것과 거의 관련이 없기 때문에 당신이 그것을 증명하려고 시작할 수 있는지 확신 할 수 없습니다. 그러나 나 자신의 파생을 시작하기 전에 (a 시도) 증명에 진지한 노력을 기울이고 싶습니다. 첫 번째 진술의 증거조차도 (MLE은 특정 경우에 최적 임) 사소한 것이 아니라고 말하고 싶습니다.

— cherub

13

내 의견으로는, 최대 가능성 추정치가 등변 하기 때문에 , 즉 추정기의 변환이 모수의 변환의 추정 기인 경우에만 가능성과 편견의 최대화가 이루어지지 않는다는 점에서 문제는 진정으로 일관성이 없다. 편견은 비선형 변환에 있지 않습니다. 따라서 "거의"가 모든 가능한 매개 변수의 범위에서 고려되는 경우 최대 가능성 추정값은 거의 편향되지 않습니다.

그러나, 문제에보다 직접적으로 응답이 다음 표준 편차의 추정을 고려하면, 의 UMVUE 인 $\sigma^2$ $\sigma^2$ 의 MLE 동안인

{\hat{σ}}_{엔}^{2} = \frac{1}{엔 - 1} \sum_{나는 = 1}^{엔} {{엑스}_{나는} - {\bar{엑스}}_{엔}}^{2}

$\hat{\sigma}^2_n = \frac{1}{n-1} \sum_{i=1}^n \{x_i-\bar{x}_n\}^2$

σ^{2}

$\sigma^2$

Ergo, 다릅니다. 이것은

{\overset{ˇ}{σ}}_{엔}^{2} = \frac{1}{엔} \sum_{나는 = 1}^{엔} {{엑스}_{나는} - {\bar{엑스}}_{엔}}^{2}

$\check{\sigma}^2_n = \frac{1}{n} \sum_{i=1}^n \{x_i-\bar{x}_n\}^2$

최상의 정규 편견 추정량이있는 경우 최대 가능성 추정기 (MLE) 여야합니다.

일반적으로 보유하지 않습니다.

또한, 파라미터 ( 의 바이어스되지 않은 추정기가 존재하더라도 , 반드시 최상의 바이어스되지 않은 최소 분산 추정기 (UNMVUE)가 존재하지 않는다는 것을 주목한다. $\theta$

— 시안
소스

따라서 편견없는 MLE는 (U) MVUE이지만 모든 (U) MVUE가 MLE이 아니라고 말할 수 있습니까?

— Sextus Empiricus

2

아닙니다. 우리는 이것이 사실이라고 믿을 이유가 없습니다.

— 시안

13

그러나 일반적으로 우리가 편견없는 MLE를 가지고 있다면, 이것이 최선의 편견없는 추정기일까요?

충분한 통계가 있으면 yes 입니다.

증명:

Lehmann–Scheffé 정리 : 충분한 통계의 함수 인 편견없는 추정량이 가장 좋습니다 (UMVUE).
MLE는 충분한 통계 기능입니다. 여기 4.2.3 참조 ;

따라서, 충분한 통계가 존재하는 한, 편견없는 MLE가 필연적으로 최고입니다.

그러나 실제로는 충분한 통계가 거의 없기 때문에이 결과는 거의 적용되지 않습니다. MLE가 가장 편향되어있는 지수 패밀리 (가우시안의 위치 매개 변수 제외)에 대해서만 완전한 통계가 필수적으로 존재하기 때문입니다.

따라서 실제 답변은 실제로 아니요 입니다.

$p_\theta(x)=p(x-\theta$ $p$ $\forall t\in\mathbb{R} \quad p(-t)=p(t)$ $n$

MLE는 편견이 없다
그것은 Pitman의 등변 량 추정기로 알려진 다른 편견없는 추정기에 의해 지배됩니다.

$p$

— 베누아 산체스
소스

왜 이것이 가장 높은 투표율을 갖지 않습니까? 나는이 답변이 시안보다 낫다고 느꼈다.

— 레드 플로이드

0

MLE의 점근 적 분산은 UMVUE입니다. 즉, 크 래머 rao 하한을 얻지 만 유한 분산은 추정기가 UMVUE인지 확인하기 위해 UMVUE가 아닐 수 있습니다. 충분하고 완전한 통계 또는 해당 통계의 기능이어야합니다.

— Serhat Simsek
소스

0

간단히 말해서, 추정기는 편향적이지 않고 완전하고 충분한 통계의 기능인 경우 UMVUE입니다. (라오-블랙웰 및 셰프 참조)

— creutzml
소스

이는 지수 가족으로 제한됨을 의미합니다.

— 시안