«maximum-likelihood» 태그된 질문

편향된 평균에 대한 MLE 추정기의 예를 제공 할 수 있습니까? 규칙적 조건을 위반하여 일반적으로 MLE 추정기를 위반하는 예를 찾고 있지 않습니다. 인터넷에서 볼 수있는 모든 예제는 분산을 참조하며 평균과 관련된 것을 찾을 수없는 것 같습니다. 편집하다 @MichaelHardy는 특정 제안 모델에서 MLE를 사용하여 균일 분포 평균의 편향 추정값을 얻는 예제를 제공했습니다. …

17 maximum-likelihood  mean  bias 

고정 합을 갖는 조건부 샘플을 시뮬레이션하는 질문에 대한이 Cross Validated 질문 은 George Casella 가 저에게 설정 한 문제를 상기 시켰습니다 . 파라 메트릭 모델 와이 모델의 iid 샘플 인 이 주어지면 의 MLE은 주어진 값에 대해 iid 샘플을 시뮬레이션하는 일반적인 방법이 있습니까 (X_1, \ ldots, X_n) MLE \ hat …

17 maximum-likelihood  conditional-probability  random-variable  simulation  t-distribution 

질문 음 이항 분포 (NB)의 분산은 항상 평균보다 큽니다. 표본의 평균이 분산보다 큰 경우 최대 가능성 또는 모멘트 추정으로 NB의 모수를 맞추려고하면 실패합니다 (유한 모수를 가진 해는 없습니다). 그러나 NB 분포에서 추출한 표본의 평균이 분산보다 큽니다. 다음은 R의 재현 가능한 예입니다. set.seed(167) x = rnbinom(100, size=3.2, prob=.8); mean(x) # 0.82 …

17 estimation  maximum-likelihood  negative-binomial 

이것은 부분적으로 다음 질문 과 그에 따른 토론에 의해 동기가 부여됩니다 . iid 샘플 X i ~ F ( x , θ ) 가 관찰되었다고 가정합니다 Xi∼F(x,θ)X_i\sim F(x,\theta). 목표는 θ 를 추정하는 것입니다 θ\theta. 그러나 원본 샘플은 사용할 수 없습니다. 우리가 대신해야하는 샘플의 통계입니다 T 1 , . . . …

17 estimation  maximum-likelihood 

우리는 로지스틱 회귀 분석을 진행하고 있으며 평균 추정 확률은 항상 표본의 확률과 같다는 것을 깨달았습니다. 즉, 적합치의 평균은 샘플의 평균과 같습니다. 아무도 나에게 이유를 설명 하거나이 데모를 찾을 수있는 참조를 줄 수 있습니까?

17 regression  logistic  modeling  generalized-linear-model  maximum-likelihood 

질문 : 유사 최대 가능성 추정 (QMLE; 의사 최대 가능성 추정, PMLE이라고도 함)의 아이디어와 직관은 무엇입니까? 실제 오차 분포가 가정 된 오차 분포와 일치하지 않을 때 추정기가 작동하는 이유는 무엇입니까? QMLE 의 Wikipedia 사이트 는 훌륭하지만 (간결하고 직관적이며 요점까지는) 좀 더 직관과 세부 사항, 아마도 그림을 사용할 수 있습니다. 다른 …

17 maximum-likelihood  references  intuition  quasi-likelihood 

표준 최대 우도 설정 (iid 샘플 은 밀도 f y ( y | θ)Y1,…,YnY1,…,YnY_{1}, \ldots, Y_{n} 과 정확하게 지정된 모델의 경우에 피셔 정보가 주어진다))fy(y|θ0fy(y|θ0f_{y}(y|\theta_{0} I(θ)=−Eθ0[∂2θ2lnfy(θ)]I(θ)=−Eθ0[∂2θ2ln⁡fy(θ)]I(\theta) = -\mathbb{E}_{\theta_{0}}\left[\frac{\partial^{2}}{\theta^{2}}\ln f_{y}(\theta) \right] 데이터를 생성 한 실제 밀도와 관련하여 기대되는 부분. 관찰 된 Fisher 정보를 읽었습니다. J^(θ)=−∂2θ2lnfy(θ)J^(θ)=−∂2θ2ln⁡fy(θ)\hat{J}(\theta) = -\frac{\partial^{2}}{\theta^{2}}\ln f_{y}(\theta) (예상) 피셔 정보 계산에 …

17 maximum-likelihood  fisher-information 

t- 분포의 모수, 즉 정규 분포의 '평균'및 '표준 편차'에 해당하는 모수를 어떻게 적합합니까? 나는 그것들을 t- 분포에 대해 '평균'과 '확장 / 자유도'라고 부릅니다. 다음 코드는 종종 '최적화 실패'오류를 발생시킵니다. library(MASS) fitdistr(x, "t") x를 먼저 스케일하거나 확률로 변환해야합니까? 최선을 다하는 방법?

17 r  distributions  maximum-likelihood  fitting  robust 

나는 함께 재현 해 봅니다 optim장착 된 단순 회귀 분석의 결과 glm또는 nlsR 기능을 제공합니다. 모수 추정치는 동일하지만 잔차 분산 추정과 다른 모수의 표준 오차는 특히 표본 크기가 작을 때 동일하지 않습니다. 이것이 최대 가능성과 최소 제곱 접근법 사이에서 잔차 표준 오차가 계산되는 방식에 차이가 있다고 가정합니다 (n으로 나 n-k …

16 r  maximum-likelihood  optimization 

최대 우도 추정 (MLE)을 사용하여 모수를 추정하려면 우도 함수를 평가해야합니다. 우도 함수는 분포 패밀리 (P (X = x | θ)가 주어지면 모수 공간 (θ)의 값 (x)에 표본 (X)이 발생할 확률을 매핑합니다. )의 가능한 값을 초과하여 (주 : 이것에 맞습니까?) 내가 본 모든 예는 F (X)의 곱을 취하여 P (X = …

16 maximum-likelihood 

단 변량 지수 혹 프로세스는 다음과 같은 이벤트 도달률을 갖는 자체 자극 포인트 프로세스입니다. λ(t)=μ+∑ti&lt;tαe−β(t−ti)λ(t)=μ+∑ti&lt;tαe−β(t−ti) \lambda(t) = \mu + \sum\limits_{t_i<t}{\alpha e^{-\beta(t-t_i)}} 여기서, 은 이벤트 도착 시간입니다.t1,..tnt1,..tn t_1,..t_n 로그 우도 함수는 −tnμ+αβ∑(e−β(tn−ti)−1)+∑i&lt;jln(μ+αe−β(tj−ti))−tnμ+αβ∑(e−β(tn−ti)−1)+∑i&lt;jln⁡(μ+αe−β(tj−ti)) - t_n \mu + \frac{\alpha}{\beta} \sum{( e^{-\beta(t_n-t_i)}-1 )} + \sum\limits_{i<j}{\ln(\mu+\alpha e^{-\beta(t_j-t_i)})} 재귀 적으로 계산할 수 있습니다. −tnμ+αβ∑(e−β(tn−ti)−1)+∑ln(μ+αR(i))−tnμ+αβ∑(e−β(tn−ti)−1)+∑ln⁡(μ+αR(i)) - t_n …

16 maximum-likelihood  stochastic-processes  likelihood 

나는 약하게 일관된 최대 가능성 추정기 (MLE)에서 평가 된 관측 된 정보 매트릭스가 기대되는 정보 매트릭스의 약하게 일관된 추정기임을 증명하려고 노력하고있다. 이것은 널리 인용 된 결과이지만 아무도 참조 또는 증거를 제공하지 않습니다 (Google 결과의 첫 20 페이지와 통계 교과서가 소진되었다고 생각합니다)! 약하게 일관된 MLE 시퀀스를 사용하면 약한 수의 법칙 (WLLN)과 …

16 maximum-likelihood  expected-value  asymptotics  information  fisher-information 

예를 들어 산술 평균 계산과 비교할 때 최대 우도 방법에 대해 혼란 스럽습니다. 최대 가능성이 언제 그리고 왜 산술 평균보다 "더 나은"추정치를 생성합니까? 어떻게 확인할 수 있습니까?

16 maximum-likelihood 

두 방법의 장단점은 무엇입니까?

16 maximum-likelihood  predictive-models  optimization  gradient-descent 

선형 혼합 모형의 임의 효과에 대한 모형 선택에 대한 다양한 설명은 REML을 사용하도록 지시합니다. 일부 수준에서 REML과 ML의 차이점을 알고 있지만 ML이 바이어스되어 REML을 사용해야하는 이유를 이해하지 못합니다. 예를 들어 ML을 사용하여 정규 분포 모형의 분산 모수에 대해 LRT를 수행하는 것이 잘못 되었습니까 (아래 코드 참조)? 모델 선택에서 ML보다 편견이 …

16 mixed-model  maximum-likelihood  unbiased-estimator  likelihood-ratio  reml