MLE 변환에 대한 표준 오차는 어떻게 계산합니까?

양의 매개 변수 에 대해 추론해야합니다 . 긍정적 인 것을 나누기 위해 다시 매개 변수화했습니다 . MLE 루틴을 사용하여 대한 점 추정값과 se를 계산했습니다 . MLE의 불변의 속성은 직접 나에게 대한 점 추정치 제공 , 그러나 나는 확실히 그 자체 계산하는 방법을 모르겠습니다 . 어떤 제안이나 참조에 대해 미리 감사드립니다. $p$ $p=\exp(q)$ $q$ $p$ $p$

maximum-likelihood standard-error delta-method

— 마르셀
소스

동일한 MLE 루틴을 사용하여 점 추정치를 계산하고 대한 se를 직접 계산할 수 없습니까?

p

$p$

— whuber

답변:

이 방법 에는 델타 방법 이 사용됩니다. 일부 표준에 따라 규칙 가정 , 우리는 MLE, 알고 에 대한 약 (예 : 점근)로 분산을 $\hat{\theta}$ $\theta$

\hat{θ} \sim N (θ, I^{- 1} (θ))

$\hat{\theta} \sim N(\theta, \mathcal{I}^{-1}(\theta))$

여기서 의 역인 피셔 정보 에서 평가 전체 샘플, 및 의 평균을 가진 정규 분포를 나타낸다 및 분산 . MLE 의 기능적 불일치는 의 MLE 여기서 는 알려진 함수 는 (지시 한대로)이며 근사 분포를 나타냅니다. $\mathcal{I}^{-1}(\theta)$ $\theta$ $N(\mu,\sigma^{2})$ $\mu$ $\sigma^{2}$ $g(\theta)$ $g$ $g(\hat{\theta})$

g (\hat{θ}) \sim N (g (θ), I^{- 1} (θ) [g^{'} (θ)]^{2})

$g(\hat{\theta}) \sim N( g(\theta), \mathcal{I}^{-1}(\theta) [g'(\theta)]^{2} )$

알 수없는 수량에 대해 일관된 추정량을 연결할 수 있습니다 (예 : 가 분산에 나타나는 에 연결 ). 표준 오류가 Fisher 정보를 기반으로한다고 가정합니다 (MLE가 있기 때문에). 표준 오차는 합니다. 다음의 표준 오차 , 당신의 예에서와 같이,이다 $\hat{\theta}$ $\theta$ $s$ $e^{\hat{\theta} }$

\sqrt{s^{2} e^{2 \hat{θ}}}

$\sqrt{s^{2}e^{2 \hat{\theta}}}$

나는 당신을 거꾸로 해석 할 수 있습니다. 실제로 당신은 의 MLE의 분산을 가지고 있으며 의 MLE의 분산을 원합니다. 이 경우 표준은 $\theta$ $\log(\theta)$

\sqrt{{에스}^{2} / {\hat{θ}}^{2}}

$\sqrt{ s^{2}/\hat{\theta}^{2} }$

— 매크로
소스

참고 사항 : 파생물이 그라디언트로 대체되는 적절한 다변량 확장이 있으며 곱셈은 행렬 곱셈이어야하므로 조옮김의 위치를 알아내는 데 약간의 두통이 있습니다.

— StasK

StasK를 지적 해 주셔서 감사합니다. 다변량 사례에서 의 점근 공분산 은

g (\hat{θ})

$g(\hat{\theta})$

\nabla g (θ)^{'} I (θ)^{- 1} \nabla g (θ)

$\nabla g(\theta)' \mathcal{I}(\theta)^{-1} \nabla g(\theta)$

— Macro

(+1) 나는 OP의 문제에서 이것이 만족되는지 명확하지 않기 때문에 규칙 성 가정 (및 다른 것들)에 대한 링크를 추가했습니다. 수렴 속도가 때때로 느려질 수 있기 때문에 는 증상이 정상이며 거의 정상 이 아니라고 말할 수 있습니다.

\hat{θ}

$\hat{\theta}$

— MånsT

@ MånsT 감사합니다, 나는 또한 내가 대략 말했을 때 무증상을 의미한다는 것을 분명히했습니다 :)

— Macro

매크로는 델타 방법을 통해 표준 오류를 변환하는 방법에 대한 정답을 제공했습니다. OP가 구체적으로 표준 오류를 요구했지만 목표는 대한 신뢰 구간을 생성하는 것입니다 . 의 추정 표준 오차를 계산 게다가 직접 신뢰 구간을 변환 할 수 있습니다, 에서, 신뢰 구간에 -parametrization 에 매개 변수화. 이것은 완벽하게 유효하며, 모수화 대 에서 표준 오차가 작용하는 표준 오차에 근거하여 신뢰 구간을 정당화하는 데 사용되는 정규 근사치에 따라 더 나은 아이디어 일 수 있습니다. $p$ $\hat{p}$ $[q_1, q_2]$ $q$ $[\exp(q_1), \exp(q_2)]$ $p$ $q$ $p$ 매개 변수화. 또한 직접 변환 된 신뢰 구간은 양성 제한 조건을 충족합니다.

— NRH
소스