모델 식별 기능이란 무엇입니까?

식별 할 수없는 모델의 경우 모델 매개 변수에 대한 여러 가지 다른 할당에 의해 데이터가 생성 될 수 있음을 알고 있습니다. Cassella & Berger 2nd ed, 섹션 11.2의 예에서와 같이 매개 변수를 제한하여 모든 것을 식별 할 수 있음을 알고 있습니다.

특정 모델이 주어지면 식별 가능한지 여부를 어떻게 평가할 수 있습니까?

identifiability

— 잭 태너
소스

대한 식별 가능성 우리는 매개 변수에 대해 얘기 매개 변수 공간을 통해 범위 (벡터가 될 수있는) 에 의해 색인 (PDF를 생각 단순성), 및 분포의 가족을 하는 우리 같은 보통 쓰기 뭔가 $\theta$ $\Theta$ $\theta$ . 예를 들어, 될 수 하고 될 수있다 $\{ f_{\theta}|\, \theta \in \Theta\}$ $\theta$ $\theta = \beta$ $f$

이는의미합니다. 모델을 식별 할 수 있으려면를매핑하는 변환은일대일이어야합니다. 무릎에서 모델을 감안할 때,이를 확인하는 가장 간단한 방법은 시작하는 것입니다 방정식 (이 평등 (거의) 모든 보유해야에서

f_{θ} (x) = \frac{1}{β} e^{- x / β}, x > 0, β > 0,

$f_{\theta}(x) = \frac{1}{\beta}\mathrm{e}^{-x/\beta}, \ x>0,\ \beta >0,$

Θ = (0, \infty)

$\Theta = (0,\infty)$

θ

$\theta$

f_{θ}

$f_{\theta}$

f_{θ_{1}} = f_{θ_{2}}

$f_{\theta_{1}} = f_{\theta_{2}}$

x

$x$ 지원 ) 및 대수 (또는 다른 인수)이 바로 그러한 방정식을 보여주기 위해 사용하려고하는 그런 의미 사실,

θ_{1} = θ_{2}

$\theta_{1} = \theta_{2}$

이 계획에 성공하면 모델을 식별 할 수 있습니다. 당신의 사업을 계속하십시오. 그렇지 않은 경우 모델을 식별 할 수 없거나 다른 인수를 찾아야합니다. 식별 가능한 모델에서는 두 개의 고유 한 매개 변수 (벡터 일 수 있음)가 동일한 우도 함수를 발생시키는 것이 불가능합니다.

고정 데이터의 경우 두 개의 고유 한 매개 변수가 동일한 가능성을 갖게되면 데이터 만 기반으로 두 개의 후보 매개 변수를 구별하는 것이 불가능하기 때문에 이는 의미가 있습니다. 이 경우 실제 매개 변수 를 식별 하는 것은 불가능합니다 .

$f_{\theta_{1}} = f_{\theta_{2}}$

\frac{1}{β_{1}} e^{- x / β_{1}} = \frac{1}{β_{2}} e^{- x / β_{2}},

$\frac{1}{\beta_{1}}\mathrm{e}^{-x/\beta_{1}} = \frac{1}{\beta_{2}}\mathrm{e}^{-x/\beta_{2}},$

x > 0

$x > 0$

- \ln β_{1} - \frac{x}{β_{1}} = - \ln β_{2} - \frac{x}{β_{2}}

$-\ln\,\beta_{1} - \frac{x}{\beta_{1}} = -\ln\,\beta_{2} - \frac{x}{\beta_{2}}$

x > 0

$x > 0$

- (\frac{1}{β_{1}} - \frac{1}{β_{2}}) x - (\ln β_{1} - \ln β_{2})

$-\left(\frac{1}{\beta_{1}} - \frac{1}{\beta_{2}}\right)x - (\ln\,\beta_{1} - \ln\,\beta_{2})$

$f(y) = y^{2}$ $y$ $[-1,1]$ $y$ $[0,1]$

(+1) 훌륭하고 포괄적이며 철저한 설명. 당신이 그린 비유는 개념을 명확하게 만듭니다.

— 추기경

당신은 내가 물었던 질문에 확실히 대답했지만, 나는 당신의 대답을 정말로 이해하기에는 너무 많은 초보자입니다. 초보자에게 더 좋은 설명을 알고 있다면 알려주십시오.

— 잭 태너

@ 추기경 감사합니다. 잭에게 알 겠어요. 어쩌면 위의 내용이 아직 명확하지 않고 나에게 지적하면 더 육체로 만들 수 있습니다. 또는 원하는 경우 "레이맨의"설명 또는 이러한 아이디어의 예를 요청하는 다른 질문을 작성할 수 있습니다. 나는 신원 확인이 일반적으로 전형적인 학습 기간 후에 나오는 주제라고 말하는 것이 공정하다고 생각합니다 . 따라서 왜 이런 문제가 발생했는지에 대한 컨텍스트를 제공하려면 잠재적 인 답변자에게 도움이 될 수 있습니다.

y_{i j} = μ + α_{1} + α_{2} + \dots + α_{k} + ε_{i}

$y_{ij}=\mu+\alpha_1+\alpha_2+\ldots+\alpha_k+\varepsilon_i$

$\Sigma$ $\Sigma$ $\Sigma$

$\Sigma$

최대 우도 문제를 겪고 있다면 추정치의 점근 공분산 행렬이 MLE에서 평가 된 피셔 정보의 역수와 같다는 것을 알고 있습니다. 따라서 피셔 정보 매트릭스에서 (대략) 특이점을 확인하는 것도 식별 가능성을 평가하는 합리적인 방법입니다. 이는 예를 들어 관측 된 평균 외부 제품에 의해 점수 함수의 예상 외부 제품을 추정함으로써 어업 정보 매트릭스의 일관된 추정량을 매우 정확하게 수치 적으로 근사화 할 수 있기 때문에 이론적 인 피셔 정보를 계산하기 어려운 경우에도 작동합니다. .

$\Sigma$

— 매크로
소스

(+1) 잘하셨습니다. 나는 그 방향 에서이 질문에 접근조차 생각하지 못했습니다.

시뮬레이션 된 데이터를 기반으로 공분산 행렬을 계산하는 아이디어가 특히 깔끔한 이유 중 하나는 Cook-Gelman-Rubin 검사 를 수행하기 위해 데이터를 시뮬레이션해야하기 때문 입니다.

— 잭 태너