어떤 파라미터 추정 방법을 선택해야하는지 어떻게 알 수 있습니까?

12

거기에는 파라미터 추정을위한 방법이 꽤 있습니다. MLE, UMVUE, MoM, 의사 결정 이론 및 기타 사항은 모두 매개 변수 추정에 유용한 이유에 대해 상당히 논리적 인 것처럼 보입니다. 어떤 방법이 다른 방법보다 낫습니까, 아니면 "최적의 적합"추정기가 무엇인지 정의하는 방법의 문제입니까 (직교 오차를 최소화하는 것이 일반적인 최소 제곱 접근법과 다른 추정치를 생성하는 것과 유사합니까)?

— 크리스토퍼 아덴
소스

1

빠른 설명 : 직교 오차가 아닌 직교 오차를 최소화하는 것은 실제로 추정 전략 결정이 아니라 추정이 필요한 모델에 대한 결정입니다. 일반적으로 X에 측정 오차가 존재하지 않는 것으로 추정합니다. (그리고 당신은 추정 할 수 는 너무 매개 변수를 다양한 방법.)

— conjugateprior

1

나는 '최적의 적합'추정 전략에 대한 당신의 아이디어를 좋아하지만 무엇이 가장 적합합니까? 일반적으로 문제는 자신이 만들고자하는 다양한 파라 메트릭 가정에 대한 지식과 그에 대한 불안 수준에 대한 연구원의 신뢰 상태에 대한 전략의 적합성에 관한 것입니다. 계량 경제학 문학 등, 강력한 대 GMM 대 동기 부여 ML로 이것에 대해 매우 명시 적이다

— conjugateprior

12

여기에는 추정기 도출 방법 과 추정기 평가 기준 의 두 가지가 약간 혼동 됩니다. ML (Maximum Likelihood) 및 MoM (Mod-of-Moments)은 추정값을 도출하는 방법입니다. 균일 한 최소 편차 편향 (UMVU)과 의사 결정 이론은 일단 다른 추정기를 평가 한 기준이지만이를 도출하는 방법은 알려주지 않습니다.

추정기 도출 방법 중에서 ML은 일반적으로 데이터가 파생 된 모델 (전문 용어의 '데이터 생성 프로세스'(DGP))을 알고있는 경우 MoM보다 더 효율적인 (예 : 분산) 추정기를 생성합니다. 그러나 MoM은 모델에 대한 가정을 거의하지 않습니다. 이름에서 알 수 있듯이 일반적으로 평균 또는 평균과 분산 만 하나 이상의 순간 만 사용하므로 DGP에 대해 잘 모르면 때로는 더 강력합니다. 동일한 문제에 대해 둘 이상의 MoM 추정기가있을 수 있지만 DGP를 알고있는 경우 ML 추정기가 하나만 있습니다.

추정기 평가 방법 중 의사 결정 이론은 추정기를 판단하는 데 사용할 손실 함수가 있어야하지만 결과는 다양한 '합리적인'손실 함수에 상당히 견실 할 수 있습니다. UMVU 추정기는 종종 존재하지도 않습니다. 대부분의 경우 항상 최소 분산을 갖는 편견 추정기 가 없습니다. 그리고 편견에 대한 기준은 변형에 변하지 않기 때문에 의심의 여지가 있습니다. 예를 들어, 배당률 또는 로그 배당률에 대한 편견없는 추정값을 선호합니까? 둘은 다를 것입니다.

— 한 정거장
소스

원 스톱 : 이것은 확실히 내가 목표로 한 질문의 정신입니다. 평가자 평가 기준과 도출 방법 사이의 설명에 감사드립니다!

— Christopher Aden

감사. 나는 다른 사람이 아무도 없어서 놀랐습니다-그것은 내 머리 꼭대기에서 거의 쓰여졌습니다. 그리고 나는 추정 이론 전문가가 아닙니다.

— onestop

2

견적 자의 유형은 몇 가지 사항에 달려 있다고 제안합니다.

추정치가 잘못되면 어떤 결과가 발생합니까? (예 : 추정값이 너무 높거나 너무 낮은 경우에 비해 나쁘거나 오류의 방향에 대해 무관심합니까? 오류가 두 배나 크면 두 배가됩니까? 백분율 오류 또는 절대 오류입니까? 예측에 필요한 중간 단계 만 추정합니까? 큰 샘플 동작이 작은 샘플 동작보다 다소 중요합니까?)
추정 수량에 대한 사전 정보는 무엇입니까? (예 : 데이터가 기능적으로 수량과 어떻게 관련되어 있습니까? 수량이 양수인지, 불연속입니까? 전에이 수량을 추정 했습니까? 얼마나 많은 데이터를 가지고 있습니까? 데이터에 "그룹 불일치"구조가 있습니까?
어떤 소프트웨어가 있습니까? (예 : MCMC에 소프트웨어가없는 경우 MCMC를 제안하거나 사용 방법을 모르는 경우 GLMM을 사용하는 것은 좋지 않습니다.)

처음 두 지점은 상황에 따라 다르며 특정 응용 프로그램 에 대해 생각 하면 일반적으로 견적 담당자 가 원하는 특정 속성 을 정의 할 수 있습니다. 그런 다음 실제로 계산할 수있는 견적 도구를 선택합니다.이 견적 도구에는 원하는 속성이 많이 있습니다.

교수 과정에 추정에 대한 맥락이 부족하다는 것은 이전 정보와 마찬가지로 "기본"기준이 종종 사용된다는 것을 의미한다고 생각합니다 (가장 명백한 "기본"은 데이터의 샘플링 분포를 알고 있다는 것입니다). 그러나 기본 컨텍스트 중 일부는 특히 컨텍스트에 대해 잘 모르는 경우에 좋습니다. 하지만이 경우 어떻게 상황을 알고, 당신이 도구를 가지고 그 맥락을 통합, 당신은에 대한 그렇지 않으면 (때문에 무시 무엇) 반 직관적 인 결과를 얻을 수 있습니다.

나는 일반적으로 편견을 갖기 위해 너무 많은 분산을 희생해야하기 때문에 MVUE의 열렬한 팬이 아닙니다. 예를 들어, 다트 판에서 다트를 던지고 불스 아이를 치고 싶다고 상상해보십시오. 특정 투척 전략에서 황소 눈의 최대 편차가 6cm라고 가정하지만 다트 포인트의 중심은 황소 눈의 1cm 위에 있습니다. 중심이 불즈 아이에 있어야하기 때문에 이것은 MVUE가 아닙니다. 그러나 분포를 1cm (평균)로 낮추려면 반경을 10cm 이상으로 늘려야한다고 가정하십시오 (최대 오류는 6cm가 아니라 10cm 임). 분산이 이미 작지 않은 한 MVUE에서 발생할 수있는 종류입니다.. 내가 훨씬 더 정확하게 던져서 내 오차를 0.1cm로 좁힐 수 있다고 가정하십시오. 이제는 절대로 불즈 아이를 치지 않기 때문에 편견이 정말로 중요합니다!

요컨대, 편차는 분산에 비해 작을 때만 중요합니다. 표본이 많을 때는 일반적으로 작은 분산 만 얻을 수 있습니다.

— 확률 론적
소스