이차 형태의 점근 적 정규성

하자 에서 가져온 임의의 벡터가 될 . 샘플 . 정의 및 . 하자 와 . $\mathbf{x}$ $P$ $\{ \mathbf{x}_i \}_{i=1}^n \stackrel{i.i.d.}{\sim} P$ $\bar{\mathbf{x}}_n := \frac{1}{n} \sum_{i=1}^n \mathbf{x}_i$ $\hat{C} := \frac{1}{n} \sum_{i=1}^n (\mathbf{x}_i - \bar{\mathbf{x}}_n) (\mathbf{x}_i - \bar{\mathbf{x}}_n)^\top$ $\boldsymbol{\mu} := \mathbb{E}_{\mathbf{x}\sim P}[\mathbf{x}]$ $C:=\mathrm{cov}_{\mathbf{x} \sim P}[\mathbf{x}, \mathbf{x}]$

중심 한계 정리에 따르면

\sqrt{n} ({\bar{x}}_{n} - μ) \overset{d}{\to} N (0, C),

$\sqrt{n} \big( \bar{\mathbf{x}}_n - \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(\boldsymbol{0}, C),$

여기서 $C$ 는 전체 순위 공분산 행렬입니다.

질문 : 그 사실을 어떻게 증명 (또는 반증)합니까

\sqrt{n} ({\bar{x}}_{n}^{⊤} (\hat{C} + γ_{n} I)^{- 1} {\bar{x}}_{n} - μ^{⊤} C^{- 1} μ) \overset{d}{\to} N (0, v^{2}),

$\sqrt{n} \big( \bar{\mathbf{x}}_n^\top (\hat{C} + \gamma_n I)^{-1} \bar{\mathbf{x}}_n - \boldsymbol{\mu}^\top C^{-1} \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(0, v^2),$

일부 $v>0$ 및 일부 $\gamma_n \ge 0$ 경우 $\lim_{n\to \infty} \gamma_n =0$ ? 이것은 간단 해 보인다. 그러나 이것을 정확히 보여주는 방법을 알 수 없었습니다. 이것은 숙제 질문이 아닙니다.

내 이해는 델타 방법으로 쉽게 결론을 내릴 수 있다는 것입니다.

\sqrt{n} ({\bar{x}}_{n}^{⊤} C^{- 1} {\bar{x}}_{n} - μ^{⊤} C^{- 1} μ) \overset{d}{\to} N (0, v^{2}),

$\sqrt{n} \big( \bar{\mathbf{x}}_n^\top C^{-1} \bar{\mathbf{x}}_n - \boldsymbol{\mu}^\top C^{-1} \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(0, v^2),$

또는

\sqrt{n} ({\bar{x}}_{n}^{⊤} (\hat{C} + γ_{n} I)^{- 1} {\bar{x}}_{n} - μ^{⊤} (\hat{C} + γ_{n} I)^{- 1} μ) \overset{d}{\to} N (0, v^{2}) .

$\sqrt{n} \big( \bar{\mathbf{x}}_n^\top (\hat{C} + \gamma_n I)^{-1} \bar{\mathbf{x}}_n - \boldsymbol{\mu}^\top (\hat{C} + \gamma_n I)^{-1} \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(0, v^2).$

이것들은 내가 원하는 것과 조금 다릅니다. 두 항에서 공분산 행렬에 주목하십시오. 나는 여기서 아주 사소한 것을 놓친다고 생각합니다. 또는 더 간단하게 만들 무시할 수도 있습니다. 즉, 설정 하고 가 없다고 가정 할 수도 있습니다 . 감사. $\gamma_n$ $\gamma_n =0$ $\hat{C}$

— wij
소스

이 0으로가는 방법에 대해 알아야합니다. 상수 시퀀스입니까? 먼저 Slutsky의 결과라고 생각되는 을 표시해야한다고 생각합니다. 그런 다음 를 합니다. 에는 방법 으로 찾을 수있는 제한 분포가 있습니다 . 마지막으로 이 0이 될 확률 을 보여줄 수 있습니다 . 그것이 있는지 확실하지 않지만 ...

γ_{n}

$\gamma_n$

{\bar{x}}_{n}^{T} γ_{n} I {\bar{x}}_{n} \to_{p} 0

$\bar{x}_n^T \gamma_n I \bar{x}_n \rightarrow_p 0$

\hat{C}

$\hat{C}$

C + bias (\hat{C})

$C + \text{bias}(\hat{C})$

{\bar{x}}_{n}^{T} C {\bar{x}}_{n}

$\bar{x}_n^T C \bar{x}_n$

δ

$\delta$

{\bar{x}}_{n}^{T} bias (\hat{C}) {\bar{x}}_{n}

$\bar{x}_n^T \text{bias}(\hat{C}) \bar{x}_n$

— AdamO

γ_{n}

$\gamma_n$ 은 임의의 상수가 아닌 일련의 상수입니다. 시퀀스는 수렴 작업을 수행하는 것으로 설정 될 수 있습니다 (이러한 시퀀스가 존재하는 경우). 나는 생각 사실이다. 나는 왜 우리가 이것을 먼저 필요로하는지 따라 가지 않았다. 그러나 그것에 대해 생각하고 나머지를 더 생각해 보자. :)

{\bar{x}}_{n}^{⊤} I {\bar{x}}_{n} \overset{p}{\to} 0

$\bar{x}_n^\top I \bar{x}_n \stackrel{p}{\to} 0$

— wij

언급하지 못했습니다 : -method 를 직접 적용 하고 호출하는 주저 는 잘 보증됩니다. 나는 이것을 조심스럽게 쓸 수 있다고 생각합니다. 이러한 종류의 증명에 유용한 이론은 슬 루츠 키 (Slutsky), 맨 월드 연속 매핑 정리 (Mann-Wald Continuous Mapping Theorem) 및 Cramer-Wold 정리입니다.

δ

$\delta$

— AdamO

언급 한 결과가 유용 할 수 있음에 동의합니다. 나는 아직도 어떻게 보지 못한다. 실제로 나는 점근 분포가 정규 분포가 아닐 수도 있다고 생각하기 시작합니다.

— wij

더 복잡한 것 같습니다. arXiv 용지는 여기에 높은 차원에서 무슨 일을 설명합니다. 고정 치수 아날로그를 찾을 수 없지만 섹션 3에서 finitie-dimensional 인수가 있습니다.

— Greenparker

델타 방법을 사용할 때 약간의 어려움이 있습니다. 손으로 파생하는 것이 더 편리합니다.

많은 수의 법률에 따라 입니다. 따라서 입니다. Slutsky의 정리를 적용하면 연속 매핑 정리를 통해 따라서 Slutsky의 정리에 따르면 위의 두 항등 항복을 결합 $\hat{C}\xrightarrow{P} C$ $\hat{C} +\gamma_n I\xrightarrow{P} C$

\sqrt{n} (\hat{C} + γ_{n} I)^{- 1 / 2} (\bar{X} - μ) \overset{d}{\to} N (0, C^{- 1}) .

$\sqrt{n}(\hat{C} +\gamma_n I)^{-1/2}(\bar{X}-\mu)\xrightarrow{d}\mathcal{N} (0,C^{-1}).$

n (\bar{X} - μ)^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) \overset{d}{\to} \sum_{i = 1}^{p} λ_{i}^{- 1} (C) χ_{1}^{2} .

${n}(\bar{X}-\mu)^T (\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\xrightarrow{d}\sum_{i=1}^p \lambda_i^{-1}(C)\chi^2_1.$

\sqrt{n} (\bar{X} - μ)^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) \overset{P}{\to} 0.

$\sqrt{n}(\bar{X}-\mu)^T (\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\xrightarrow{P}0.$

\sqrt{n} μ^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) \overset{d}{\to} N (0, μ^{T} C^{- 2} μ) .

$\sqrt{n}\mu^T(\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\xrightarrow{d}\mathcal{N} (0,\mu^T C^{-2}\mu).$

\begin{aligned} \sqrt{n} ({\bar{X}}^{T} (\hat{C} + γ_{n} I)^{- 1} \bar{X} - μ^{T} (\hat{C} + γ_{n} I)^{- 1} μ) \\ = & \sqrt{n} ((\bar{X} - μ)^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) - 2 μ^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ)) \\ = & - 2 \sqrt{n} μ^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) + o_{P} (1) \\ \overset{d}{\to} & N (0, 4 μ^{T} C^{- 2} μ) . \end{aligned}

$\begin{align} &\sqrt{n}\big(\bar{X}^T (\hat{C} +\gamma_n I)^{-1}\bar{X}-\mu^T (\hat{C} +\gamma_n I)^{-1}\mu\big) \\ = &\sqrt{n}\Big((\bar{X}-\mu)^T (\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)-2\mu^T(\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\Big) \\ =&-2\sqrt{n}\mu^T(\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)+o_P(1) \\ \xrightarrow{d}&\mathcal{N} (0,4\mu^T C^{-2}\mu). \end{align}$ 나머지 작업은 불행하게도,이 기간 선량은 수렴하지 않습니다 . 행동은 복잡해지고 세 번째와 네 번째 순간에 달려 있습니다.

\sqrt{n} (μ^{T} (\hat{C} + γ_{n} I)^{- 1} μ - μ^{T} (C)^{- 1} μ) .

$\sqrt{n} \Big( \mu^T (\hat{C} +\gamma_n I)^{-1}\mu-\mu^T (C)^{-1}\mu \Big).$

0

$0$

간단하게, 아래에서는 가 정규 분포이고 합니다. 의 표준 결과입니다 여기서 는 대각선 요소가 다음과 같은 대칭 임의 행렬입니다. 및 off 대각선 요소는 입니다. 따라서 행렬 테일러 확장 , 우리는 $X_i$ $\gamma_n=o(n^{-1/2})$

\sqrt{n} (\hat{C} - C) \overset{d}{\to} C^{1 / 2} W C^{1 / 2},

$\sqrt{n}(\hat{C}-C)\xrightarrow{d}C^{1/2} W C^{1/2},$

W

$W$

N (0, 2)

$\mathcal{N}(0,2)$

N (0, 1)

$\mathcal{N}(0,1)$

\sqrt{n} (\hat{C} + γ_{n} I - C) \overset{d}{\to} C^{1 / 2} W C^{1 / 2},

$\sqrt{n}(\hat{C}+\gamma_n I-C)\xrightarrow{d}C^{1/2} W C^{1/2},$

(I + A)^{- 1} \sim I - A + A^{2}

$(I+A)^{-1}\sim I-A+A^2$

\begin{aligned} \sqrt{n} ((\hat{C} + γ_{n} I)^{- 1} - C^{- 1}) = \sqrt{n} C^{- 1 / 2} ((C^{- 1 / 2} (\hat{C} + γ_{n} I) C^{- 1 / 2})^{- 1} - I) C^{- 1 / 2} \\ = & \sqrt{n} C^{- 1} (\hat{C} + γ_{n} I - C) C^{- 1} + O_{P} (n^{- 1 / 2}) \overset{d}{\to} C^{- 1 / 2} W C^{- 1 / 2} . \end{aligned}

$\begin{align} &\sqrt{n}\Big((\hat{C} +\gamma_n I)^{-1}- C^{-1}\Big)= \sqrt{n}C^{-1/2}\Big(\big(C^{-1/2}(\hat{C} +\gamma_n I)C^{-1/2}\big)^{-1}-I\Big)C^{-1/2}\\ =&\sqrt{n}C^{-1}\Big(\hat{C} +\gamma_n I-C\Big)C^{-1}+O_P(n^{-1/2}) \xrightarrow{d}C^{-1/2} W C^{-1/2}. \end{align}$ 따라서

\sqrt{n} (μ^{T} (\hat{C} + γ_{n} I)^{- 1} μ - μ^{T} (C)^{- 1} μ) \overset{d}{\to} μ^{T} C^{- 1 / 2} W C^{- 1 / 2} μ \sim N (0, (μ^{T} C^{- 1} μ)^{2}) .

$\sqrt{n} \Big( \mu^T (\hat{C} +\gamma_n I)^{-1}\mu-\mu^T (C)^{-1}\mu \Big)\xrightarrow{d}\mu^T C^{-1/2} W C^{-1/2}\mu \sim N(0,(\mu^T C^{-1}\mu)^2).$

따라서

\begin{aligned} \sqrt{n} ({\bar{X}}^{T} (\hat{C} + γ_{n} I)^{- 1} \bar{X} - μ^{T} C^{- 1} μ) \overset{d}{\to} N (0, 4 μ^{T} C^{- 2} μ + (μ^{T} C^{- 1} μ)^{2}) . \end{aligned}

$\begin{align} \sqrt{n}\big(\bar{X}^T (\hat{C} +\gamma_n I)^{-1}\bar{X}-\mu^T C^{-1}\mu\big) \xrightarrow{d}\mathcal{N} (0,4\mu^T C^{-2}\mu+(\mu^T C^{-1}\mu)^2). \end{align}$

— kfeng123
소스

답변 주셔서 감사합니다. 모든 것을 어렵게 만드는 것은 0으로 수렴하지 않는 용어입니다. 불행히도 가 정규 분포되어 있다고 가정 할 수 없습니다 . 그러나 나는 여전히 그 대답에 감사합니다. 세 번째와 네 번째 순간 (아마도 참고 자료가있는 경우)에 어떻게 의존하는지에 대해 언급 할 수 있다면 도움이 될 것입니다. 또한 나는 지금 설명 할 수 없다. 그러나 은 보다 느리게 감쇠 해야 생각합니다 . 이유를 더 신중하게 생각해야합니다.

X_{i}

$X_i$

g a m m a_{n}

$gamma_n$

o (n^{- 1 / 2})

$o(n^{-1/2})$

— wij

필자의 경우 가 컴팩트 한 세트 (필요한 경우)에 있다고 가정 할 수 있다는 것을 추가하는 것을 잊었습니다 . 이것은 모멘트 조건에 도움이 될 수 있습니다.

X_{i}

$X_i$

— wij