내가 읽은 여러 논문, 서적 및 기사를 기반으로 얻은 인상은 일련의 데이터에 확률 분포를 맞추는 권장 방법은 최대 가능성 추정 (MLE)을 사용하는 것입니다. 그러나 물리학 자로서보다 직관적 인 방법은 모형의 pdf를 최소 제곱을 사용하여 경험적 pdf에 맞추는 것입니다. 그렇다면 왜 확률 분포를 피팅 할 때 MLE이 최소 제곱보다 낫습니까? 누군가이 질문에 대답하는 과학 논문 / 책을 알려주시겠습니까?
나의 직감은 MLE이 노이즈 모델을 가정하지 않고 경험적 pdf의 "노이즈"는 이분법적이고 정상이 아니기 때문입니다.
답변:
이것에 대해 생각하는 한 가지 유용한 방법은 최소 제곱과 MLE이 동일한 경우, 예를 들어 랜덤 요소가 정규 분포를 갖는 매개 변수를 추정하는 경우입니다. 사실, MLE가 노이즈 모델을 가정하지 않는다고 생각하기보다는, 랜덤 노이즈가 있다고 가정하지만, 그것이 어떻게 가정되는지보다는 그것이 어떻게 형성되는지에 대한보다 복잡한 관점을 취합니다. 정규 분포가 있습니다.
통계적 추론에 관한 모든 교과서는 효율성과 일관성과 관련하여 MLE의 훌륭한 특성을 다루지 만 반드시 바이어스는 아닙니다. MLE는 또한 합리적인 조건 하에서 무증상으로 정상이라는 좋은 특성을 가지고 있습니다.