개별 표본의 확률이 0 일 때 MLE가 왜 의미가 있습니까?

이것은 오래된 통계를 검토하는 동안의 이상한 생각이며 어떤 이유로 든 대답을 생각할 수없는 것 같습니다.

연속 PDF는 주어진 범위 내에서 관찰 값의 밀도를 알려줍니다. 즉, 예를 들어, $X \sim N(\mu,\sigma^2)$ 이면, 실현이 $a$ 와 $b$ 사이에있을 확률 은 간단히 $\int_a^{b}\phi(x)dx$ 여기서 $\phi$ 는 표준 법선의 밀도입니다.

우리는 매개 변수의 MLE 추정을하고 생각할 때, 말할 $\mu$ , 우리는 말의 공동 밀도 쓰기 $N$ , 확률 변수 $X_1 .. X_N$ 로그 우도 wrt를 $\mu$ 분화하고 , 0으로 설정하고 $\mu$ 풉니 다 . 종종 주어진 해석은 "데이터가 주어졌으며,이 파라미터는이 밀도 기능을 가장 그럴듯하게 만든다"고한다.

나를 괴롭히는 부분은 이것입니다. 우리는 $N$ rv 의 밀도를 가지고 있으며 , 샘플과 같이 특정 실현을 얻을 확률은 정확히 0입니다. 데이터가 주어지면 관절 밀도를 최대화하는 것이 왜 합리적입니까? 다시 실제 샘플을 관찰 할 확률은 정확히 0)입니까?

내가 올릴 수있는 유일한 합리화는 우리가 관찰 한 샘플 주변 에서 PDF를 가능한 한 최고점으로 하여 지역의 적분 (따라서이 지역에서 물건을 관찰 할 확률)을 높이고 자한다는 것 입니다.

임의의 샘플 $\mathbb{P}_\theta(X=x)$ 의 확률은 0과 같지만 확률 분포를 이용하여 하나의 샘플이 실현됩니다. 그러므로 확률은 샘플과 그 가능성을 평가하기위한 잘못된 도구입니다. Fisher (1912)에 의해 정의 된 통계적 우도는 δ 가 0이 될 때 길이 δ 간격 내 에서 샘플 $x$ 를 관찰 할 확률의 제한 인수에 근거 합니다 ( Aldrich, 1997 에서 인용 ) .$\delta$$\delta$

$\qquad\qquad\qquad$

이 확률을 $\delta$ 재 정규화 할 때 . 우도 함수의 용어는 Fisher (1921) 및 Fisher (1922)의 최대 우도에만 도입되었습니다.

비록 "가장 가능성이 높은 값"이라는 명칭을 받았고, 평평한 사전 확률로 역 확률 (Bayesian 추론) 원리를 사용했지만 Carl Friedrich Gauß는 1809 년에 정규 분포의 분산 모수에 대한 최대 우도 추정치를 이미 도출했습니다. Hald (1999) 는 Fisher의 1912 년 논문 이전에 몇 가지 다른 최대 가능성 추정치에 대해 언급했는데, 이는 일반적인 원칙을 설정했다.

$(x_1,\ldots,x_n)$