잦은 통계에서 암시 적 우선 순위는 무엇입니까?


19

나는 Jaynes가 잦은 주의자들이 "암시 적 이전"으로 작동한다고 주장하는 것을 들었다.

이러한 암시 적 선행은 무엇입니까? 이것은 잦은 모델이 베이지안 모델의 모든 특수 사례가 발견되기를 기다리는 것을 의미합니까?


암시 적 선행은 베이지안 잦은 운동가가 추정하려고하는 매개 변수 인 전체 확률 질량을 두는 퇴행성 분포입니다 θ.
Dilip Sarwate

3
내가 아는 한, 잦은 모델이나 베이지안 모델은 없으며 모델과 다른 접근법이 있습니다.
Andrey Kolyadin

3
@DilipSarwate :이 진술에 동의하지 않습니다. Dirac 질량을 사전에 사용한다고해서 빈번한 절차를 유도하지는 않습니다. 그리고 베이지안 패러다임은 매개 변수에 다른 사전을 설정할 때를 제외하고는 알려지지 않은 매개 변수를 가진 선행을 허용하지 않습니다.
시안

2
어쨌든 항상 선행이 있습니다. 불행히도 모든 통계 절차는 임의의 시작점을 필요로하므로 매우 임의적입니다. 좋은 점은 목적지에 가까워 질만큼 충분한 데이터와 올바른 방법론이 제공됩니다. 나쁜 점은 목적지에서 얼마나 멀리 떨어져 있는지는 시작 위치와 데이터 양에 달려 있다는 것입니다.
Cagdas Ozgenc

2
@Cagdas Ozgenc : 아니요, 항상 가정 이 있지만 사전 배포의 형태를 취할 필요는 없습니다.
kjetil b halvorsen

답변:


17

잦은 의사 결정 이론에는 허용 가능한 절차를 Bayes 절차 또는 Bayes 절차의 한계로 특징 짓는 완전한 수업 결과가 있습니다. 예를 들어, Stein 필요하고 충분한 조건 (Stein. 1955; Farrell, 1968b)은 다음과 같은 가정하에 다음과 같이 가정합니다.

  1. 샘플링 밀도 에서 연속 θ 및 엄격히 긍정적 Θ ; 과f(x|θ)θΘ
  2. LEΘ
    limδ+infθEL(θ,δ)=+.

추정기 는 존재하는 경우에만 허용됩니다.δ

  • 시퀀스 되도록 콤팩트 세트 증가 ,Θ = N F N(Fn)Θ=nFn
  • 시퀀스 지원 유한 대책 및F n(πn)Fn
  • 과 관련된 Bayes 추정기 의 시퀀스π의 N(δn)πn

    1. 콤팩트 세트가 존재 되도록inf n π n ( E 0 ) 1E0Θinfnπn(E0)1
    2. 만약 컴팩트EΘsupnπn(E)<+
    3. limnr(πn,δ)r(πn)=0
    4. limnR(θ,δn)=R(θ,δ) .

[나의 저서, 베이지안 초이스 , 정리 8.3.0, p.407에서 재현 됨]

이러한 제한된 의미에서, 허용의 빈번한 특성은 베이지안 배경을 부여받으며, 따라서 암시 적 사전 (또는 그 순서)을 각각의 허용 가능한 추정기와 연관시킨다.

Sidenote : 슬픈 우연의 일치로 Charles Stein은 11 월 25 일 캘리포니아 팔로 알토에서 세상을 떠났습니다. 그는 96 살이었다.

불변 또는 equivariant 추정 유사한 (수학적으로 관련된 경우) 결과가 있고, 즉 가장 equivariant 추정기 오른쪽 하르 측도와 연관된 통계 모델에 작용하는 모든 전이 기위한 베이 즈 추정이라고 , 유도 에 이 그룹에 의해 대응 불변 손실. 자세한 내용은 Pitman (1939), Stein (1964) 또는 Zidek (1969)를 참조하십시오. Jaynes불변성 원칙에 의한 주 변화 역설 의 해결에 대해 강력하게 주장하면서 이것이 아마도 염두에 두었을 입니다.πΘ

또한 Civilstat 답변에 자세히 설명 된 것처럼 , 또 다른 빈번한 최적 성 개념, 즉 최소도는 베이지안 절차와 연결되어 있습니다 (매개 변수 공간에서) 최대 오차를 최소화하는 최소 최대 절차는 종종 최소 오차를 최대화하는 최대 절차입니다 ( 모든 이전 분포에 대해) 따라서 베이 즈 또는 베이 제한 절차입니다.

Q .: 베이지안 직관을 빈번한 모델로 옮기는 데 사용할 수있는 거대한 테이크 아웃이 있습니까?

먼저 샘플링 모델 (데이터 는 매개 변수 값 대한 의 실현 )xXf(x|θ)θ 과 빈번한 절차 (최선의 편견없는 추정량, 최소값 ) 가 있으므로 "자주주의 모델"이라는 용어를 사용하지 않는 것이 좋습니다. 분산 신뢰 구간 등)둘째, 잦은 방법을 경계선으로 고려하거나 베이지안 방법을 제한하는 강력한 방법 론적 또는 이론적 이유는 없습니다. 잦은 절차에 대한 정당화는 존재하는 경우 샘플링 공간에서, 즉 관측을 반복 할 때 일부 최적 특성을 만족시키는 것입니다. 베이지안 절차에 대한 일차적 인 정당화는 사전 분포와 샘플링 모델로부터의 한 가지 실현이 주어지면 [특정 기준 또는 손실 함수 하에서] 최적이어야한다. 결과적으로 생성 된 프로시 저는 일부 빈번한 특성을 만족하지만 ( % 신뢰할 수있는 영역은 % 신뢰 영역 임)9595 ,이 최적 성이 베이 시안 모델과 관련된 모든 프로 시저로 이전되지는 않습니다.


1
매우 감사합니다. 초보자로서, 베이지안 직관을 빈번한 모델로 옮기는 데 사용할 수있는 화려한 테이크 아웃이 있습니까? 즉 (이 GLM은 x와 y와 유사하거나이 올가미는 베이지안 xyz와 같습니다).
Bayesquest

1
또한 stats.stackexchange.com/questions/247850 / ... 내 다른 질문을 살펴보고 싶습니까 ? 베이지안 취성 문제에 대한 해결책을 제안한 것을 알고 있지만 해결책이 강력하지 않다고 생각합니다. 또는 사회 과학자를 위해 휘두르기 쉽다.
Bayesquest

1
- : 첫 번째 코멘트를 들어, 여기에 내가 얘기 있었는지의 몇 가지 예입니다 신경 그물 및 GPS를 - stats.stackexchange.com/questions/71782/... - sumsar.net/blog/2015/04/... - [A 비모수 베이지안 (npB) point-view는 숲보다 나무 뒤에서 샘플로 해석 할 수 있습니다] ( arxiv.org/pdf/1502.02312.pdf )
Bayesquest

우리는 임의의 숲을 가진 대략적인 베이지안 추론 에 대해 연구했으며 그 도구의 결과는 원래의 후부와 관련이 없다는 것을 알았습니다. 물론, 이것이 베이지안 해석을 허용하지는 않지만 그럼에도 불구하고 ...
Xi'an

12

@ Xi'an의 답변이 더 완벽합니다. 그러나 당신은 또한 화려한 테이크 아웃을 요청했기 때문에 여기에 있습니다. (내가 언급 한 개념은 위의 허용 설정과 정확히 동일하지 않습니다.)

θθ^

ππ

이런 의미에서, 당신은 다음과 같이 말할 수 있습니다. : (최소 사용) 빈번한 주자 는 가장 선호하는 사전을 선택한 베이지안과 같습니다.

아마도 당신은 이것을 말하기 위해 이것을 늘릴 수 있습니다 : 그러한 Frequentist는 보수적 인 베이지안이며, 주관적인 사전이나 정보가없는 사전을 선택하지 않지만 (이 특정 의미에서) 최악의 경우를 선택합니다.

마지막으로, 다른 사람들이 말했듯이,이 방법으로 상용 주의자와 베이지안을 비교하는 것은 스트레칭입니다. 상용 주의자가된다고해서 반드시 특정 견적서 를 사용 한다는 것을 의미하지는 않습니다 . 당신이 것을 그냥 수단 질문에 질문 이 질문은 베이지안의 최우선없는 반면에, 당신의 추정의 샘플링 속성에 대한합니다. (그래서는 베이지안 예를 들어 좋은 샘플링 특성, 희망 누가 어떤 ", 교정 베이 즈" 입니다 또한 빈도주의.)
당신은 누구의 추정량 항상이 하나의 같은 빈도주의를 정의하는 경우에도 최적의 샘플링 특성을 같은 많은 특성이 있습니다 당신은 항상 할 수 없습니다 한 번에 그들을 만나십시오. 따라서 일반적으로 "모든 Frequentist 모델"에 대해 말하기는 어렵습니다.


3
잦은 분석에 대한 암시 적 선행은 이전에 어느 정도 균일 할 것이라고 생각했습니다.
Michael R. Chernick

4
때로는 그럴 수도 있습니다. 균일 한 사전을 사용하여 MLE을 MAP 추정치로 생각할 수 있습니다. 그러나 MLE가 상용 주의자가 사용하는 유일한 도구는 아닙니다.
civilstat

1α1α
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.