정보가없는 것과 부적절한 것의 차이점

이 두 종류의 이전의 차이점이 무엇인지 궁금합니다.

비 정보
부적절한

bayesian prior improper-prior

— 브람
소스

여기에 컨텍스트를 제공하면 도움이 될 수 있습니다. 이것에 대해 이미 이해하고 있습니까? 특정 혼란 지점이 있습니까?

— gung-Monica Monica 복원

관련 링크 stats.stackexchange.com/questions/175792/… 및 stats.stackexchange.com/questions/133707/… 및 stats.stackexchange.com/questions/73490/…

— Tim

@Tim 감사합니다. 나는 약한 정보 대신 정보가 아닌 정보 를 찾고있었습니다 .

— Bram

의 가능한 중복 무엇은 "가치가없는 이전"인가? 진정으로 정보가없는 것을 가질 수 있습니까?

— Xi'an

답변:

부적절한 전과는 -finite 음수 대책 파라미터 공간에서 되도록 들은 파라미터 공간상의 확률 분포이며 종래 분포의 개념을 일반화 이와 같이 그런 그 그들은 특징을 여러 가지 방법으로 유용 $\sigma$ $\text{d}\pi$ $\Theta$

\int_{Θ} 디 π (θ) = + \infty

$\int_\Theta \text{d}\pi(\theta) = +\infty$

Θ

$\Theta$

\int_{Θ} 디 π (θ) = 1

$\int_\Theta \text{d}\pi(\theta) =1$

모든 베이지안 절차가 아닌 적절한 베이지안 절차의 한도;
Wald와 같은 (허용 가능성) 완전한 계급 정리에서와 같은 빈번한 최적 절차;
잦은 최고의 불변량 추정량 (해당 오른쪽 Haar 측정 값에 따라 베이 즈 추정치로 표현 될 수 있으므로)
비 정보 적 사전 (예 : Jeffreys)과 같은 우도 함수의 형태에서 도출 된 사전.

그들은 한정된 수에 통합되지 않기 때문에 한계 가능성이 유한 한 경우, 그들은 확률 적 해석을 허용하지 않지만 그럼에도 불구하고 통계적 추론에서 사용할 수있는 이후 사후 분포

\int_{Θ} ℓ (θ | 엑스) 디 π (θ) < + \infty

$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$

가 잘 정의되어 있습니다. 이는 사후 평균 또는 사후 신뢰할 수있는 구간과 같은 추정을 위해 사후 수량을 도출하기 위해 적절한 사전에서 파생 된 사후 분포가 사용되는 것과 정확히 동일한 방식으로 사용될 수 있음을 의미합니다.

\frac{ℓ (θ | 엑스) 디 π (θ)}{\int_{Θ} ℓ (θ | 엑스) 디 π (θ)}

$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$

경고 : 베이지안 추론의 한 가지 분기는 예리한 가설을 테스트 할 때 부적절한 사전에 잘 대처하지 못합니다. 실제로 이러한 가설은 직교하는 두 개의 이전 분포 (하나는 null 아래, 다른 하나는 대안 아래)를 구성해야합니다. 이러한 선행 사항 중 하나가 부적절하면 정규화 할 수 없으며 결과 베이 즈 계수가 결정되지 않습니다.

$\delta$ $L(d,\theta)$ $\text{d}\pi$

인수 \underset{디}{분} \int_{Θ} 엘 (디, θ) ℓ (θ | 엑스) 디 π (θ)

$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$

L (d, θ) d π (θ)

$L(d,\theta)\text{d}\pi(\theta)$

ϖ (θ)

$\varpi(\theta)$

ϖ (θ)

$\varpi(\theta)$

엘 (디, θ) 디 π (θ) = \frac{엘 (디, θ)}{ϖ (θ)} \times ϖ (θ) 디 π (θ)

$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$

비 정보 적 선행은 다음과 같이 가능성 함수와 관련된 특정 정보 기준으로 결정되는 (적절하거나 부적절한) 사전 분포의 클래스입니다.

라플라스의 이유가 불충분하다.
Jeffreys (1939) 변하지 않는 이전;
최대 엔트로피 (또는 MaxEnt) 이전 (Jaynes, 1957);
최소 설명 길이 이전 (Rissanen, 1987; Grünwald, 2005);
참조 이전 (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
확률 일치 선행 (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

추가 클래스는 Kass & Wasserman (1995)에 설명되어 있습니다. 정보가없는 이름은 이전의 정보가 전혀 없다는 점에서 잘못된 이름입니다. 이 포럼에 대한 나의 토론 을 보십시오 . 또는 Larry Wasserman의 diatribe . 정보가없는 사전은 대부분 부적절합니다.

— 시안
소스

$95\%$ $95\%$

유익하지 않은 선행은 종종 "부적절하다". 분포는 잘 알려진 특성을 가지고 있습니다. 정보가없는 선행은 그 적분이 무한 할 때 부적절하다고한다 (따라서 분배가 아니라는 것이 분명하다).

— 스테판 로랑
소스

나는 "비 정보"에 대한이 정의가 초 제한적이라고 생각합니다!

— Xi'an

@ Xi'an OP의 부족을 감안할 때,이 짧은 대답이 다소 적절하다고 생각합니다.

— Stéphane Laurent

@ Xi'an Bernardo의 인용문입니다. 동의합니다 ^^

— Stéphane Laurent

시안 @ 집에서 아니에요 아직하지만 예 여기 참조 포스 테리어는 참조 사전 기능을 가진 베이 즈 정리의 공식을 사용하여 얻을 수있다 . Benardo는 분배가 아니라 참조 이전 기능을 말합니다 .

— Stéphane Laurent

더 진심으로 @ Xi'an, 당신은 Bernardian 비 정보 이전에 제한적이라는 것을 의미합니까? 그렇습니다. 나는 당신이이 주제에서 나보다 더 많은 지식을 가지고 있다는 것을 알고 있습니다. 그러나 나는 Bernardo 지향적입니다 (그리고 일치하는 선행 사항).

— Stéphane Laurent