Jeffreys 이전의 정보가 왜 정보가없는 것으로 간주됩니까?


27

에서 Jeffreys를 고려하십시오. 여기서 는 Fisher 정보입니다.p(θ)|i(θ)|i

나는이 사전이 정보가없는 이전으로 언급되는 것을 계속 보았지만 왜 그것이 정보가 아닌지에 대한 논쟁을 보지 못했습니다. 결국, 그것은 일정한 사전이 아니므로 다른 주장이 있어야합니다.

나는 그것이 reparametrization에 의존하지 않는다는 것을 이해합니다. Fisher 정보의 결정 요인이 매개 변수화에 의존하지 않습니까? Fisher 정보는 문제의 매개 변수화에 따라 달라지기 때문입니다.

감사.


Wikipedia 기사를 읽었습니까? en.wikipedia.org/wiki/Jeffreys_prior
whuber

2
예, 나는 거기를 보았다. 어쩌면 나는 무언가를 놓치고 있지만 Wikipedia 기사가 내 질문에 대한 적절한 답변을 제공한다고 생각하지 않습니다.
bayesian


Jeffreys 이전의 모형은 동등한 모형과 관련하여 변하지 않습니다. 예를 들어 이항 또는 음의 이항 샘플링 분포를 사용할 때 모수 에 대한 유추 가 다릅니다. 이것은 우도 함수가 비례하고 두 모수에서 동일한 의미를 갖는 모수에도 불구하고 있습니다. p
확률

답변:


12

모수화 불변으로 인해 정보 가없는 것으로 간주됩니다 . 당신은 일정한 (일관된) 이전의 정보가 유익하지 않다는 인상을 가지고있는 것 같습니다. 때때로, 때로는 그렇지 않습니다.

변환 중에 Jeffreys가 이전에 수행하는 작업은 변환의 Jacobian이 원래 Fisher 정보로 빨려 들어가 새로운 매개 변수화에서 Fisher 정보를 제공하게됩니다. 마법은없고 (적어도 역학에는) 미적분학과 선형 대수학 만 있습니다.


6
이 답변에 동의하지 않습니다. 주관적인 사전을 사용하는 것도 매개 변수화 불변 절차입니다!
Stéphane Laurent

29

Jeffreys 사전은 1 차원 매개 변수 공간 (및 "일반"모델)에 대한 Bernardo 참조와 일치합니다. 대략적으로 말하면, 이것은 이전과 후부 사이의 Kullback-Leibler 분기가 최대가되는 이전입니다. 이 수량은 데이터가 가져온 정보의 양을 나타냅니다. 이것이 이전의 정보가 유익하지 않은 것으로 간주되는 이유입니다. 이는 데이터가 최대량의 정보를 가져 오는 정보입니다.

그건 그렇고 나는 Jeffreys가 그의 이전 특성에 대해 알고 있었는지 알지 못합니까?


2
"대략적으로 말하면, 이것은 이전과 후방 사이의 Kullback-Leibler 발산이 최대가되는 이전의 것입니다." 흥미 롭습니다.
Cam.Davidson.Pilon

1
(+1) 정답입니다. 일부 포인트 ( 예 : 1 , 2 )에 대한 참조가 있으면 좋을 것 입니다.

1
@Procrastinator 나는 현재 정보가없는 사전에 관한 새로운 글을 쓰고 있습니다;) 아마 며칠 기다려주십시오.
Stéphane Laurent

6

나는 그것이 아니다라고 말하고 싶지만 절대적 이 아닌 정보 만 최소한의 정보. 이전 지식 상태가 매개 변수화 (예 : 측정 단위)에 의존하지 않는다는 것을 알고있는 (약한) 사전 지식을 인코딩합니다. 당신의 이전 지식 상태가 정확히 0이라면, 당신은 당신의 이전 지식이 그러한 변화에 변하지 않았다는 것을 알 수 없을 것입니다.


혼란 스러워요. 어떤 경우에 모델 매개 변수화에 의존해야하는지 알고 있습니까?
John Lawrence Aspden

2
GLM을 사용하여 체중의 함수로 수명을 예측하려면 kg 또는 lb 단위로 체중을 측정하든 결론에 영향을 미치지 않아야합니다. 중량보다 간단한 유니폼을 사용하는 경우 측정 단위에 따라 다른 결과를 얻을 수 있습니다.
Dikran Marsupial

1
영향을받지 않아야한다는 것을 알고있는 경우입니다. 필요한 경우는 무엇입니까?
John Lawrence Aspden

1
내 요점이 빠져 있다고 생각합니다. 속성이 분석에 영향을 미치지 않는 측정 단위를 가지고 있다고해도 속성에 대해 전혀 모른다고 가정하십시오. 이 경우 귀하의 사전은 Jeffrey의 이전보다 문제에 대한 정보를 인코딩 하므로 Jeffrey의 이전은 완전히 정보가 없습니다. 분석이 일부 변환에 영향을 미치지 않아야하는 상황 일 수도 있고 아닐 수도 있지만 그 점이 바로 옆에 있습니다.
Dikran Marsupial

2
NB는 버그 책 (P83)에 따르면 제프리는 자신이 그가 인코딩으로 그들을보고 있음을 의미하는 "최소한의 정보"로서 같은 변환 불변의 전과 언급의 몇 가지 문제에 대한 정보를.
Dikran Marsupial
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.