M- 추정기가 실제 평균으로 수렴하기위한 조건

10

가우스 분포 및 M- 추정기의 iid 샘플이 주어지면 , 어떤 특성 이 확률 을 보장하기에 충분 합니까? 가요 엄격 볼록되는 엄격 충분한 증가? $X_1,...,X_n \sim N(\mu,\sigma)$ $\mu_m = \underset{a}{\operatorname{argmin}} \sum\rho(|X_i-a|)$ $\rho$ $\mu_m \rightarrow \mu$ $\rho$

estimation

— 무한 궤도
소스

당신이 걸릴 수 있기 때문에 다음 때문에, 예 증가 엄격 샘플조차 엄격하게 볼록 할 수있는 수단을 의미,하지만를 ... 나는 엄격하게 볼록 또는 엄격 모두 증가 하나 둘 것 여전히 이것을 증명해야하지만 충분합니다. 직관적으로 엄격한 볼록성은 고유 한 전 세계 최소값을 보장합니다. 중요한 가우스 시안 가정을 엄격하게 증가시키기 때문입니다.

ρ (x) = x

$\rho(x) = x$

μ_{m}

$\mu_m$

— Dmitrij Celov

1

용지 볼록 프로세스 minimisers위한 근성 은 가우시안 분포에 전문하지는 않지만 Hjort 및 폴라드 의해 여기시킬 수있는, 그리고보다 일반적인 즉 콘트라스트 함수의 형태로 간주 그 표기법이 있지만, . in 볼록 함 외에도 데이터 분포와 관련된 특정 의미에서 주위 에서 in 의 확장이 필요합니다 . 따라서 가 볼록하거나 증가 한다고 말하는 것만 큼 간단 하지는 않지만 정리를 가우스 분포와 로 제한하는 경우 $\rho(x,a)$ $g(y,t)$ $g$ $t$ $g$ $t$ $\theta_0$ $\rho$ $g$ 지정한 양식을 갖기 위해 더 깔끔한 조건을 얻을 수 있습니다. 나는 여기에 그들의 정리를 다시 말해서 완성도를 위해 약간 바꾸었다.

우리가 가지고 있다고 가정

$Y,Y_{1},Y_{2},\ldots$ 분포 $F$
관심있는 매개 변수 $\theta_{0}=\theta(F)\in\cal{R}^{p}$
$\theta_{0}\in\arg\min_{t\in\cal{R}^{p}}\mathbb{E} g(Y,t)$ 여기서, 볼록에있는 . $g(y,t)$ $t$
주위 에 에 의 "약한 확장"이 있습니다 : 및 에서 평균 0 을 갖는 양 한정 행렬 . $g(y,t)$ $t$ $\theta_{0}$ $g (y, θ_{0} + t) - g (y, θ_{0}) = D (y)^{T} t + R (y, t),$ $g(y,\theta_{0}+t)-g(y,\theta_{0})=D(y)^{T}t+R(y,t),$ $D(y)$ $F$ $E R (Y, t) = \frac{1}{2} t^{T} J t + o ({| t |}^{2}), as t \to 0$ $\mathbb{E} R(Y,t)=\frac{1}{2}t^{T}Jt+o(\left|t\right|^{2}),\mbox{ as }t\to0$ $J$
$\mbox{Var}[ R(Y,t) ]=o(\left|t\right|^{2})$ as . $t\to0$
$D(Y)$ 에는 유한 공분산 행렬 있습니다. $K=\int D(y)D(y)^{T}\, dF(y)$

그런 다음 모든 추정량 는 - 되며 $\hat{\theta}_{n}\in\arg\min_{\theta\in\cal{R}^{p}}\sum_{i=1}^{n}g(Y_{i},t)$ $\sqrt{n}$ $\theta_{0}$

\sqrt{n} ({\hat{θ}}_{n} - θ_{0}) \overset{d}{\to} N_{p} (0, J^{- 1} K J^{- 1}) .

$\sqrt{n}\left(\hat{\theta}_{n}-\theta_{0}\right)\stackrel{d}{\rightarrow}\mathcal{N}_{p}(0,J^{-1} K J^{-1}).$

— DavidR
소스

0

이것은 귀하의 문제를 다른 문제로 줄일 수 있기 때문에 답이 될 수는 없지만 유용 할 것이라고 생각합니다. 귀하의 질문은 기본적으로 M-estimator의 일관성에 관한 것입니다. 먼저 일반적인 결과를 볼 수 있습니다. 다음은 van der Vaart 책 의 결과 입니다 (45 페이지 정리 5.7).

정리 하자 랜덤하게 기능하고 고정 함수일 되도록마다 $M_n$ $M$ $\theta$ $\varepsilon>0$

sup_{θ \in Θ} | M_{n} (θ) - M (θ) | \overset{P}{\to} 0,

$\sup_{\theta\in\Theta}|M_n(\theta)-M(\theta)|\xrightarrow{P}0,$

sup_{θ : d (θ, θ_{0}) \geq ε} M (θ) < M (θ_{0}) .

$\sup_{\theta:d(\theta,\theta_0)\ge\varepsilon} M(\theta)<M(\theta_0).$

이어서 추정기의 모든 시퀀스 와 확률에 수렴 $\hat\theta_n$ $M_n(\hat\theta_n)\ge M_n(\theta_0)-o_P(1)$ $\theta_0$

귀하의 경우 , 및 $\theta_0=\mu$ $M(\theta)=E\rho(|X-\theta|)$ $M_n(\theta)=\frac{1}{n}\sum \rho(|X_i-\theta|)$

여기서 핵심 조건은 균일 한 수렴입니다. 46 페이지에서 van der Vaart는 말합니다

귀하의 경우 평균 인 경우이 조건은 (여기서 ) 함수 세트와 동일합니다. -Canteli . 충분한 조건의 간단한 한 세트는 는 소형이고 의 함수 는 모든 대해 연속적이며 > 통합 가능한 함수에 의해 지배된다는 것입니다. $\{m_\theta, \theta\in\Theta\}$ $m_\theta=\rho(|x-\theta|)$ $\Theta$ $\theta\to m_\theta(x)$ $x$

에서는 Wooldridge 정리 많은 수의 페이지 (347) (제 1 판), 정리 12.1 균일 약한 법으로 불리는이 결과는 제형. 반 데르 파르트 (Van der Vaart)가 말한 것에 만 측정 요건이 추가됩니다.

귀하의 경우 일부 대해 를 안전하게 선택할 수 있으므로 함수 가 존재 함을 보여 주어야 합니다. $\Theta=[\mu-C,\mu+C]$ $C$ $b$

| ρ (| x - θ |) | \leq b (x)

$|\rho(|x-\theta|)|\le b(x)$

모든 같은 것을 . 볼록 함수 이론은 여기에 도움이 될 수 있습니다. $\theta\in\Theta$ $Eb(X)<\infty$

b (x) = sup_{θ \in Θ} | ρ (| x - θ |) | .

$b(x)=\sup_{\theta\in\Theta}|\rho(|x-\theta|)|.$

이 함수에 멋진 속성이 있으면 계속 사용하는 것이 좋습니다.

— mpiktas
소스