왜

추정기의 시퀀스 $U_n$ 파라미터에 대한 $\theta$ 경우 점근 정상 $\sqrt{n}(U_n - \theta) \to N(0,v)$ . (소스) 우리는 다음 통화 $v$ 의 점근 분산 $U_n$ . 이 분산이Cramer-Rao bound와같으면추정기 / 시퀀스가 점진적으로 효율적이라고합니다.

질문 : 왜 우리는 를 사용합니까 $\sqrt{n}$ 특히 ?

표본 평균의 경우 $Var(\bar{X}) = \frac{\sigma^2}{n}$ 이 선택은 그것을 정규화합니다. 그러나 위의 정의가 표본 평균보다 더 많이 적용되므로 왜 우리는 여전히로 정규화하기로 선택합니까? $\sqrt{n}$ .

estimation asymptotics efficiency

— 우 둔
소스

좋은 추정량의 경우

U_{n}

$U_n$ 은 평균

θ

$\theta$ , 추정되는 모수 및

의 분산은

U_{n}

$U_n$ 수렴해야합니다 . 즉,

의 분포는

의 단일 원자를 갖는 축퇴 분포로 수렴해야합니다 . 그러나 이러한 수렴이 발생할 수있는 여러 가지 방법이 있습니다. 예 :

또는

0

$0$

U_{n}

$U_n$

θ

$\theta$

U_{n} \sim U (θ - 1 / n, θ + 1 / n)

$U_n \sim U(\theta-1/n,\theta+1/n)$

U_{n} \sim N (θ, v / n)

$U_n\sim N(\theta,v/n)$ 등. 우리는 후자의 경우에는 무조건정상적인soubriquet를 적용하고 싶지만전자의 경우에는적용하지 않기를 원합니다.

— Dilip Sarwate

효율적인 추정량은 무증상입니다. en.wikipedia.org/wiki/…

— Khashaa

이 질문이 "점근 효율"보다는 "점근 정규성"이라는 제목을 갖는 것이 더 좋을까요? "효율성"이 단지 "점근 적 정상 성"에 직면 한 상황이 아니라 질문의 실질적인 측면이되는 곳이 나에게는 분명하지 않다.

— Silverfish

MLE의 점근 적 정상성에 대한 증거 만 확인하면됩니다! 제곱근

은 중심 한계 정리를 표본 평균에 적용 할 수 있도록하는 것입니다!

n

$n$

— Megadeth

답변:

우리는 여기서 선택할 수 없습니다 . "정규화"요소는 본질적으로 "무한한 것에 대한 분산 안정화"요소입니다. 따라서 표본 크기가 무한대로 갈 때식이 0이되거나 무한대로되지 않고 한계에서 분포를 유지합니다.

따라서 각 경우에 무엇이든지 있어야합니다. 물론 많은 경우에 그것이 것을 나온다 것은 흥미 롭다 가 될 . (하지만 아래 @whuber의 의견도 참조하십시오). $\sqrt n$

정규화 계수가 아닌 이어야하는 표준 예 $n$ 은 모델이있을 때입니다 $\sqrt n$

{와이}_{티} = β {와이}_{티 - 1} + 유_{티}, {와이}_{0} = 0, 티 = 1, . . ., 티

$y_t = \beta y_{t-1} + u_t, \;\; y_0 = 0,\; t=1,...,T$

와 백색 잡음을 우리는 알 수없는 추정 정규 방정식에 의해. $u_t$ $\beta$

그런 경우 계수의 실제 값은 후 일치하여 OLS입니다 추정하고 평소에 수렴 $|\beta|<1$ 비율. $\sqrt n$

그러나 그 대신에 실제 값이 (즉, 실제로 순수한 랜덤 보행을 가짐) OLS 추정기는 일관되지만 속도가 빠르면서 "빠르게"수렴됩니다. $\beta=1$ (이는 "초 일관성"추정기라고도 함). 많은 견적자가 속도 수렴합니다. $n$ ). 이 경우, 그 (수직이 아닌)의 점근 분포를 얻기 위해, 우리는이눈금에 의해 $\sqrt n$
$(\hat \beta - \beta)$ $n$ 우리 만 확장하는 경우 ( $\sqrt n$ 표현식이 0이됩니다). 해밀턴 ch 17 에 자세한 내용이 있습니다.

— 알레 코스 파파도풀로스
소스

Alecos, 당신은 명확하게 할 수 무엇을 모델로 추정되는

(나는 가정 위치를 의미

과 관찰 첨자되는

등). 모델에 그것이 인

OLS 추정기

레이트 수렴을

y_{t} = y_{t - 1} + u_{t}, u_{0} = 0

$y_t = y_{t-1}+u_t, u_0=0$

y_{0} = 0

$y_0=0$

1, 2,

$1, 2,$

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$

\hat{β}

$\hat{\beta}$

대한

이지만

수렴이 속도

에 있거나 모델

에서 수렴이 항상 속도

입니까? 간단히 말해서, "및

, 즉 순수한 무작위 보행"의 진술의 중요성은 무엇입니까?

\sqrt{n}

$\sqrt{n}$

| β | < 1

$|\beta| < 1$

β = 1

$\beta=1$

n

$n$

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$

n

$n$

β = 1

$\beta=1$

— Dilip Sarwate

@DilipSarwate 감사합니다. 업데이트되었습니다. 나는 지금 분명하다고 생각합니다.

— Alecos Papadopoulos

(+1)

의 선택에 주목하는 것이 가치 있고 유익 할 수 있습니다

(또는

또는 적절할 수있는 것)은 고유하지 않습니다. 그 대신에

의 제한 값이있는모든함수

을사용할 수 있습니다.

\sqrt{n}

$\sqrt{n}$

n

$n$

f (n)

$f(n)$

은 단일성과 같습니다. 그것은 단지 것을이 넓은 의미에서

"이되어야한다 무엇이어야합니다."

f (n) / \sqrt{n}

$f(n)/\sqrt{n}$

f

$f$

— whuber

@Khashaa OP는 점근 효율에 대해 물었지만, 그 과정에서 OP가 "정규화"요소에 대해 잘못된 인상을 줄 수 있다는 것이 밝혀졌습니다. 이것은 더 근본적인 문제이므로 답변에서이 문제를 다루기로 선택했습니다. 효율성에 대한 대답에는 아무것도 없습니다 .

— Alecos Papadopoulos

아마도 당신의 대답에서

아닌

의 경우를 언급 할 가치 가 있습니다.

n

$n$

"초 일관성"이라고합니까? 현재 사이트의 검색 기능을 사용할 수있는 CV에서 "초일관성"에 대한 다른 언급은Alecos의 또 다른 내용입니다! 질문과 검색을보다 친숙하게 만드는 것이 좋습니다.

\sqrt{n}

$\sqrt{n}$

— Silverfish

표본 평균 분산 직감으로 올바른 길을 가고 있습니다. 조건을 다시 정렬하십시오.

\sqrt{엔} (유_{엔} - θ) \to 엔 (0, V)

$\sqrt{n}(U_n - \theta) \to N(0,v)$

(유_{엔} - θ) \to \frac{엔 (0, V)}{\sqrt{엔}}

$(U_n - \theta) \to \frac{N(0,v)}{\sqrt{n}}$

유_{엔} \to 엔 (θ, \frac{V}{엔})

$U_n \to N(\theta,\frac{v}{n})$

마지막 방정식은 비공식적 입니다. 그러나, 어떤 방법으로 더 직관적 : 당신의 편차 말할 에서 더 정규 분포처럼되고 증가한다. 분산이 줄어들지 만 모양이 정규 분포에 가까워집니다. $U_n$ $\theta$ $n$

수학에서는 오른쪽으로 변화하는 수렴을 정의하지 않습니다 ( 은 변합니다 ). 그렇기 때문에 동일한 아이디어가 원래 조건과 동일하게 표현됩니다. 오른쪽이 고정되고 왼쪽이 수렴합니다. $n$

— 악사 칼
소스

"재정렬"방법을 설명 할 수 있습니다. 적용 할 속성과 같습니다.

— mavavilj