경험적 우도의 예시적인 적용은 무엇입니까?

나는 Owen의 경험적 가능성에 대해 들었지만, 최근까지는 관심있는 논문에서 그것을 발견 할 때까지주의를 기울이지 않았습니다 ( Mengersen et al. 2012 ).

그것을 이해하려는 노력에서 관찰 된 데이터의 가능성이 여기서 이고 입니다.

엘 = \prod_{나는} 피_{나는} = \prod_{나는} 피 ({엑스}_{나는} = 엑스) = \prod_{나는} 피 ({엑스}_{나는} \leq 엑스) - 피 ({엑스}_{나는} < 엑스)

$L = \prod_i p_i = \prod_i P(X_i=x) = \prod_i P(X_i \le x) - P(X_i \lt x)$

\sum_{i} p_{i} = 1

$\sum_i p_i = 1$

p_{i} > 0

$p_i > 0$

그러나 나는이 표현과 그것이 관찰에 대한 추론을하는 데 사용될 수있는 방법과 관련하여 정신적으로 도약 할 수 없었습니다. 아마도 나는 모델의 가능성 매개 변수를 생각하는 데 너무 뿌리를두고 있습니까?

어쨌든, 나는 개념을 내면화하는 데 도움이 될 경험적 가능성을 사용하는 논문을 찾기 위해 Google Scholar를 검색했습니다. 분명히 Empirical Likelihood 에 관한 Art Owen의 책이 있지만 Google 도서는 모든 맛있는 부분을 제외하고 여전히 라이브러리 간 대출을받는 느린 과정에 있습니다.

한편, 누군가가 경험적 가능성의 전제와 그것이 어떻게 사용되는지를 분명히 보여주는 논문과 문서를 친절하게 알려줄 수 있습니까? EL 자체에 대한 설명도 환영합니다!

— Sameer
소스

계량 경제학자들은 특히 EL과 사랑에 빠졌다. 응용 프로그램을 찾고 있다면 해당 문헌이 더보기 좋은 곳 중 하나 일 수 있습니다.

— 추기경

답변:

나는 경험적 가능성에 대해 배우는 오웬의 책보다 더 좋은 곳은 없다고 생각합니다.

을 생각하는 한 가지 실용적인 방법 은 관측 된 데이터 포인트 에 대한 다항 분포의 가능성과 같습니다 . 따라서 가능성은 확률 벡터 의 함수이고, 모수 공간은 실제로 확률 벡터 의 차원 심플 렉스이며 MLE은 가중치 $L = L(p_1, \ldots, p_n)$ $x_1, \ldots, x_n$ $(p_1, \ldots, p_n)$ $n$ $1/n$ 각 관측치에 대해 (모두 다르다는 가정하에) 모수 공간의 차원은 관측치 수에 따라 증가합니다.

핵심 포인트는 경험적 가능성은 파라 메트릭 모델을 지정하지 않고 프로파일 링하여 신뢰 구간을 계산하는 방법을 제공한다는 것입니다. 경우] 관심 파라미터가 평균이다 다음 임의의 확률 벡터에 대해 우리는 평균 인 것을 우리 로 프로파일 가능성을 계산할 수 있습니다 $\mu$ $p = (p_1, \ldots, p_n)$

μ (p) = \sum_{i = 1}^{n} x_{i} p_{i},

$\mu(p) = \sum_{i=1}^n x_i p_i,$

L_{prof} (μ) = max {L (p) ∣ μ (p) = μ} .

$L_{\text{prof}}(\mu) = \max \{ L(p) \mid \mu(p) = \mu \}.$ 다음 우리는 폼의 신뢰 구간을 산출 할 수 와 . 여기서 는 실험적인 평균이며 입니다. 적용 범위에 대한 진술이 선행되지 않기 때문에 구간 은 아마도 (프로필) 가능성 구간이라고 부릅니다. 줄이면 구간 (예 : 구간)이 중첩되어 신뢰 구간이 증가합니다. 예를 들어 점근 이론 또는 부트 스트랩을 사용하여 을 교정 하여 95 % 적용 범위를 달성 할 수 있습니다 .

I_{r} = {μ ∣ L_{prof} (μ) \geq r L_{prof} (\bar{x})}

$I_r = \{ \mu \mid L_{\text{prof}}(\mu) \geq r L_{\text{prof}}(\bar{x}) \}$

r \in (0, 1)

$r \in (0,1)$

\bar{x}

$\bar{x}$

L_{prof} (\bar{x}) = n^{- n}

$L_{\text{prof}}(\bar{x}) = n^{-n}$

I_{r}

$I_r$

r

$r$

I_{r}

$I_r$

r

$r$

Owen의 책은이를 자세히 설명하고보다 복잡한 통계 문제 및 기타 관심있는 매개 변수에 대한 확장을 제공합니다.

— NRH
소스

(+1) 책에 대한 접근이 부족하여 항상 이론의 기초를 얻기 위해 원본 논문으로 시작할 수 있습니다. 책과 마찬가지로 논문도 매우 명확하게 작성되었습니다.

— 추기경

일부 링크 : ( 1 ) A. Owen (1988), 단일 기능에 대한 경험적 우도 비 신뢰 구간 , Biometrika , vol. 75, No. 2, 237-249, ( 2 ) A. Owen (1990), 실험적 우도 비 신뢰 영역 , Ann. 통계 학자. , vol. 18 번 1, pp. 90-120 ( 개방형 액세스 ) 및 ( 3 ) A. Owen (1991) 선형 모델에 대한 경험적 가능성 , Ann. 통계 학자. , vol. 19 번 4, pp. 1725-1747 ( 공개 액세스 ).

— 추기경

@ 추기경 Fantastic! 저 자신을 생각했을 것입니다.

— Sameer

@NHS 설명해 주셔서 감사합니다! 그냥 명확하게하는 것입니다 WRT 의? 또한 왜 을 설명 할 수 있습니까? 아마도 ?

L_{p r o f} (μ)

$L_{prof}(\mu)$

a r g m a x

$argmax$

p

$p$

L_{p r o f} (\bar{x}) = n^{n}

$L_{prof}(\bar{x})=n^n$

\prod_{i} n^{- 1} = n^{- n}

$\prod_i n^{-1} = n^{-n}$

— Sameer

@Sameer, 오타가 수정되었습니다. 그러나 이는 argmax 가 아닙니다 . 주어진 값이 모든 모수 벡터에 대한 우도를 최대화하여 얻은 프로파일 우도 입니다. 적절한 대학 접근이 가능한 Btw 나는 Owen 's book의 개별 장의 CRC에서 전자 버전을 얻었습니다.

μ

$\mu$

— NRH

계량 경제학에서 많은 응용 논문은 여기서 는 데이터의 벡터, 는 알려진 방정식 시스템 , 는 알 수없는 매개 변수 입니다. 함수 는 경제 모델에서 비롯됩니다. 목표는 를 추정하는 것입니다 .

E [g (X, θ)] = 0

$E[g(X,\theta)] = 0$

X

$X$

g

$g$

q

$q$

θ \in Θ \subseteq R^{p}

$\theta \in \Theta \subseteq \mathbb{R}^p$

q \geq p

$q \geq p$

g

$g$

θ

$\theta$

계량 경제학에서 에 대한 추정과 추론에 대한 전통적인 접근법 은 다음과 같은 일반화 된 방법을 사용하는 것입니다 : 여기서 는 양의 한정 가중치 행렬이고 경험적 가능성은 GMM에 대한 대안 견적을 제공합니다. 비모수 적 가능성을 최대화 할 때 모멘트 조건을 구속 조건으로 적용하는 것이 좋습니다. 먼저 수정하십시오 . 그런 다음 대상 $\theta$

{\hat{θ}}_{GMM} = {아르 민}_{θ \in Θ} {\bar{지}}_{엔} (θ)^{'} 여 {\bar{지}}_{엔} (θ)

$\hat{\theta}_\text{GMM} = \text{argmin}_{\theta \in \Theta} \; \bar{g}_n(\theta) 'W \bar{g}_n(\theta)$

W

$W$

{\bar{지}}_{엔} (θ) : = \frac{1}{엔} \sum_{나는 = 1}^{엔} 지 ({엑스}_{나는}, θ) .

$\bar{g}_n(\theta) := \frac{1}{n} \sum_{i=1}^n g(X_i,\theta).$

θ

$\theta$

엘 (θ) = \underset{피_{1}, \dots, 피_{엔}}{최대} \prod_{나는 = 1}^{엔} 피_{나는}

$L(\theta) = \max_{p_1,\ldots,p_n} \; \prod_{i=1}^n p_i$

\sum_{나는 = 1}^{엔} 피_{나는} = 1, 피_{나는} \geq 0, \sum_{나는 = 1}^{엔} 피_{나는} \cdot 지 ({엑스}_{나는}, θ) = 0.

$\sum_{i=1}^n p_i=1, \qquad p_i \geq 0, \qquad \sum_{i=1}^n p_i \cdot g(X_i,\theta) = 0.$ 이것은`내부 루프입니다. '. 그런 다음 최대화하십시오 . 이 접근법은 GMM보다 더 높은 차수 특성을 갖는 것으로 나타 났으며 ( Newey and Smith 2004, Econometrica 참조 ), 이것이 GMM보다 선호되는 이유 중 하나입니다. 자세한 내용은 여기 Imbens and Wooldridge의 메모와 강의를 참조 하십시오 (강의 15).

θ

$\theta$

{\hat{θ}}_{엘자} = {argmax}_{θ \in Θ} 로그 엘 (θ) .

$\hat{\theta}_\text{EL} = \text{argmax}_{\theta \in \Theta} \; \log L(\theta).$

물론 EL이 계량 경제학에서 주목을받는 다른 많은 이유가 있지만, 이것이 유용한 출발점이되기를 바랍니다. 순간 평등 모델은 경험적 경제학에서 매우 일반적입니다.

— 엘모어
소스

명확하고 잘 언급 된 답변을 작성해 주셔서 감사합니다. 우리 커뮤니티에 오신 것을 환영합니다!

— whuber

생존 분석에서 Kaplan-Meier 곡선은 생존 함수 의 가장 유명한 비모수 추정값이며 , 여기서 는 이벤트 시간 임의 변수를 나타냅니다. 기본적으로 는 검열을 허용 하는 경험적 분포 함수 의 일반화입니다 . 그것은 대부분의 실제 교과서에 주어진 것처럼 발견 적으로 파생 될 수 있습니다. 그러나 공식적으로 최대 (임시) 우도 추정값으로 도출 할 수도 있습니다. 자세한 내용은 다음과 같습니다 . $S(t) = Pr(T > t)$ $T$ $\hat{S}$

— 옥람
소스