R에서 hessian 행렬을 사용한 optim의 출력에서 ​​hessian 행렬을 사용하여 매개 변수 신뢰 구간을 계산하는 방법은 무엇입니까?


22

hessian 행렬을 사용한 optim의 출력이 주어지면 hessian 행렬을 사용하여 매개 변수 신뢰 구간을 계산하는 방법은 무엇입니까?

fit<-optim(..., hessian=T)

hessian<-fit$hessian

최대 가능성 분석의 맥락에 주로 관심이 있지만 방법을 넘어 확장 할 수 있는지 궁금합니다.


2
이 질문은 너무 모호합니다. 어떤 종류의 신뢰 구간? 어떤 종류의 모델에 관심이 있습니까? 3 개의 질문을 연속으로 게시하기 전에 문헌을 살펴보십시오.

방법은 구간 및 모델과 독립적이어야합니다.
Etienne Low-Décarie

어떤 기능을 최적화합니까?
Stéphane Laurent

나는 내가 사용하는 모델과 독립적으로 이것을 할 수 있어야한다고 들었습니다.
Etienne Low-Décarie

Corey Chivers가 답을 제공했습니다.
Etienne Low-Décarie

답변:


32

가능성을 극대화하는 경우 추정값의 공분산 행렬은 (무증상) 헤 시안의 음수의 역수입니다. 표준 오차는 공분산의 대각선 요소의 제곱근입니다 ( 웹의 다른 곳에서! , Thomas Lumley 교수 및 Spencer Graves, Eng.).

95 % 신뢰 구간

fit<-optim(pars,li_func,control=list("fnscale"=-1),hessian=TRUE,...)
fisher_info<-solve(-fit$hessian)
prop_sigma<-sqrt(diag(fisher_info))
prop_sigma<-diag(prop_sigma)
upper<-fit$par+1.96*prop_sigma
lower<-fit$par-1.96*prop_sigma
interval<-data.frame(value=fit$par, upper=upper, lower=lower)

참고 :

  • 로그 (우도)를 최대화하는 경우 hessian의 부정은 "관측 된 정보"(예 : 여기)입니다.
  • "deviance"= (-2) * log (likelihood)를 최소화하면 hessian의 HALF가 관측 된 정보입니다.
  • 가능성을 극대화 할 가능성이없는 경우 관측 된 정보를 얻을 수있는 가능성으로 헤센의 부정을 나눌 필요가 있습니다.

사용 된 최적화 루틴으로 인한 추가 제한 사항 은 를 참조하십시오 .


Corey Chivers가 답을 제공했습니다.
Etienne Low-Décarie

2
(+1) 음의 헤 시안 의 역수 는 점근 공분산 행렬의 추정값입니다-이것이 코드에 나타나는 것을 알고 있지만 지적하는 것이 중요하다고 생각합니다.
매크로

1
훌륭한 답변, 상한과 하한을 읽어야 upper<-fit$par+1.96*(prop_sigma/sqrt(n)) lower<-fit$par-1.96*(prop_sigma/sqrt(n))합니까? 감사
예측 자

3
4 행을 삭제하지 않으시겠습니까?
Jason

2
회선을 포함시키는 prop_sigma<-diag(prop_sigma)것이 오류입니까?
Mark Miller
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.