“Fully Bayesian”대“Bayesian”

20

나는 베이지안 통계에 대해 배우고 있으며 종종 기사를 읽었습니다.

"우리는 베이지안 접근 방식을 채택합니다"

또는 비슷한 것. 나는 또한 덜 자주 알아 차렸다.

"우리는 완전히 베이지안 접근 방식을 채택합니다 "

(내 강조). 실용적 또는 이론적 의미에서 이러한 접근 방식간에 차이점이 있습니까? FWIW, MCMCglmm관련이있는 경우 R에서 패키지 를 사용하고 있습니다.

bayesian

— 조 킹
소스

6

나는 "완전히 베이지안"이 엄격한 의미를 가지고 있다고 생각하지 않습니다.

— Stéphane Laurent

4

@Stephane 나는 완전히 베이지안이 베이지안과 동일하다고 확신하지만 형용사는 완전히 경험적인 베이 즈가 아니라는 것을 강조하기 위해 사용됩니다.

— Michael R. Chernick

1

@Michael 이것은 의미가 있지만 여전히 그 의미가 보편적이지 않다고 생각하며 질문에 대한 몇 가지 다른 대답으로 확인되는 것 같습니다. 나는 어떤 사람들이 "완전히 베이지안"이라고 말하면서 그들이 비 정보적인 것이 아닌 주관적인 사전을 사용한다고 말하는 것에 놀라지 않을 것이다. 또 다른 가능한 상황은 사람들이 "바이에른-빈번주의 예측 분포"를 사용하고 순전히 베이지안 접근법으로 이동하는 경우입니다.

— Stéphane Laurent

@ 스테판 나는 당신의 판단을 받아들입니다. 나는 당신이 베이지안 통계에서 일하는 것보다 더 많이 일한다고 생각하며 사람들이이 용어를 다양한 방식으로 사용한다고 들었을 것입니다. 적어도 내 대답은 교묘하고 부분적으로 옳습니다.

— Michael R. Chernick

예 @MichaelChernick, 당신의 대답은 진정한 베이지안 접근법 대 의사 베이지안 방법의 예입니다, 그러나 다른 사람은 그런 상황이있다

— 스테판 로랑

19

용어 "완전 베이지안 접근법" 은 문맥에 따라 "부분적으로"베이지안 접근법에서 "진정한"베이지안 접근법으로 이동 함을 나타내는 방법 일 뿐이다. 또는 "의사-베이지안 (Pseudo-Bayesian)"접근 방식을 "엄격한"베이지안 접근 방식과 구별하기 위해.

예를 들어 한 저자는 다음 과 같이 썼다. "일반적으로 RVM에 경험적 베이 즈 접근 방식을 사용했던 관심있는 다른 저자들 대부분과 달리, 우리 는 경험적 베이 즈 접근 방식이"의사-베이지안 "접근 방식이기 때문에 완전히 베이지안 접근 방식을 채택합니다 . 베이지안-빈번 예측 분포 (빈도 예측 간격의 경계와 Quantile이 일치하는 분포)와 같은 다른 의사-베이지 접근 방식이 있습니다.

이 페이지 에는 베이지안 추론을위한 몇 가지 R 패키지가 제시되어 있습니다. 사용자가 다른 패키지와 달리 사전 배포를 선택해야하기 때문에 MCMCglmm은 "완전 베이지안 방식"으로 표시됩니다.

"완전히 베이지안" 의 또 다른 의미는 베이지안 결정 이론이 베이지안 추론에 대한 견고한 기초 프레임 워크이기 때문에 베이지안 결정 이론 프레임 워크, 즉 손실 함수에서 파생 된 베이지안 추론을 수행 할 때이다.

— 스테판 로랑
소스

감사합니다. 감사합니다. MCMCglmm"Fully Bayesian" 패키지 는 추정치를 도출하기 위해 MCMC를 사용하는 것과 아무 관련이 없으며, 사후를 분석적으로 찾을 수있는 사전을 지정해야한다면 여전히 Bayesian이 될 것입니까? 내 질문이 이해가되지 않으면 죄송합니다. 아직 초보자이지만 배우려고 노력하고 있습니다!

— Joe King

1

MCMC는 베이지안 통계의 사후 분포를 시뮬레이션하는 데 유용한 기술입니다. 그러나 베이지안 접근 자체와는 아무런 관련이 없습니다.

— Stéphane Laurent

13

나는이 용어가 베이지안 접근법과 경험적 베이 즈 접근법을 구별하는데 사용된다고 생각한다. 풀 베이는 지정된 사전을 사용하지만 경험적인 베이는 데이터를 사용하여 사전을 추정 할 수 있습니다.

— 마이클 R. 체 르닉
소스

고맙습니다 ! 나는 또한 여기 저기 언급 된 "경험적 베이"를 보았지만, 내가 읽은 것에서 그것이 의미하는 바에 대해 진지하게 생각해야 할 시점까지 결코 자라지 않았습니다. 방금 "최대 한계 확률"및 "계층 적 베이 즈 모델의 완전한 베이지안 처리에 대한 근사치"라고 하는 위키 백과 페이지 를 보았습니다 . 흠, 솔직히 말하면 나는 그 페이지에있는 내용을 많이 이해하지 못합니다 :(

— Joe King

@JoeKing 경험적 Bayes 방법에는 많은 흥미롭고 중요한 용도가 있습니다. 이 아이디어는 1960 년대 허버트 로빈스에게로 돌아갑니다. 1970 년대에 Efron과 Morris는 다변량 정규 평균 및 다른 유사한 수축 추정량의 James-Stein 추정값이 실험적인 Bayes임을 보여 주었다. 브래드 에프론 (Brad Efron)의 그의 대규모 저서에서 브래드 에프론 (Brad Efron)은 실험적으로 베이 즈 방법이 작은 n 큰 p라고 불리는 문제에 어떻게 사용될 수 있는지 보여줍니다. ). 이것은 마이크로 어레이와 함께 나온다.

— Michael R. Chernick

1

다시 감사합니다. 방금 작성한 내용을 모두 이해하지 못하지만이 문제에 대한 추가 연구의 출발점으로 사용할 것임을 인정해야합니다.

— Joe King

9

"베이지안"은 "대략 베이지안"을 의미합니다.

"Fully Bayesian"은 "대략 Bayesian"을 의미하지만 근사값은 적습니다.

편집 : 설명.

베이 즈 규칙 사용하여 주어진 모델과 데이터에 대해 완전 베이지안 접근법은 사후 확률을 계산하는 것입니다.

p (θ ∣ Data) \propto p (Data ∣ θ) p (θ) .

$p(\theta \mid \text{Data}) \propto p(\text{Data} \mid \theta)p(\theta) \>.$

θ

$\theta$

— 아 레크 파테 렉
소스

고맙습니다. 여기서MCMCglmm 사용중인 패키지가 Fully Bayesian 이라는 것을 읽었습니다 . MCMC를 이전 매개 변수와 함께 사용하기 때문입니까?

— Joe King

@Arek 정말 확신하지 않습니다. 따라서 표준 콘쥬 게이트를 사용하기 전에 "완전히"이상 베이지안입니까? 그리고 왜 포인트 추정치가 후방 시뮬레이션보다 "정확하지 않다"고 주장합니까?

— Stéphane Laurent

1

@ StéphaneLaurent 포인트 추정이 항상 정확하지 않다고 주장하지는 않습니다. 내 답변에 대한 어제의 의견은 어디에 있습니까?

— Arek Paterek

1

@ArekPaterek 짧은 답변은 농담처럼 보였으므로 수정 된 답변에 적용되지 않는 의견은 수정 된 답변에 적용되지 않습니다. 그래서 제 생각 엔 중재자가 그것들을 제거했을 것입니다. 여전히 베이지안을 완전히 호출하는 것은 당황 스럽습니다.

— Michael R. Chernick

1

삭제되지 않은 첫 번째 댓글이 명확하지 않을 수 있습니다. Arek의 대답이 옳다면, 정확한 사후 분포 (예를 들어, 단순한 공액 사전 상황)를 가질 수있을 때 상황을 어떻게 불러야합니까? "완전히"베이지안 접근법?

— Stéphane Laurent

8

필자는 "완전히 베이지안"을 사용하여 모든 방해 요인이 최적화 된 것이 아니라 분석에서 소외되었다는 것을 의미합니다 (예 : MAP 추정치). 예를 들어, 한계 우도를 최대화하기 위해 조정 된 하이퍼-파라미터가있는 가우시안 프로세스 모델은 베이지안이지만, 부분적으로 그렇습니다. 반면에 공분산 함수를 정의하는 하이퍼-파라미터가 하이퍼-사전을 사용하여 통합 된 경우에는 완전히 베이지안입니다. .

— 디크 란 유대류
소스

4

이것은 약간 더 일반적인 대답 인 것 같습니다. 최적화 된 것보다 소량의 수량이 많을수록 솔루션은 '완전히 베이지안'입니다. 경험적 베이는 특별한 경우입니다.

— 공역 사전

그렇습니다. Michaels의 대답은 약간만 확장 된 것입니다. 본질적으로 최적화는 기본적으로 비 베이 안입니다.

— Dikran Marsupial

3

실제적인 예로서 :

스플라인을 사용하여 일부 베이지안 모델링을 수행합니다. 스플라인의 일반적인 문제는 매듭 선택입니다. 하나의 인기있는 가능성은 RJMCMC (Reversible Jump Markov Chain Monte Carlo) 체계를 사용하여 각 반복 중에 매듭을 추가, 삭제 또는 이동할 것을 제안하는 것입니다. 스플라인 계수는 최소 제곱 추정치입니다.

무료 매듭 스플라인

내 의견으로는 이것은 '완전히 베이지안'접근법에 대해 사전에 이러한 계수 (및 각 반복 중에 제안 된 새로운 계수)를 배치해야하기 때문에 '부분적으로 베이지안'만 만들지 만 RJMCMC에는 최소 제곱 추정이 작동하지 않습니다. 계획과 일이 훨씬 더 어려워집니다.

— 글렌
소스

(+1) 나는 당신의 상황을 이해하지 못하지만 그것은 의사-바이에른 접근의 상황 인 것 같습니다

— Stéphane Laurent

1

지금까지 언급되지 않은 특성을 추가하겠습니다. 완전히 베이지안 접근법은 "완전히"베이 즈 정리를 통해 알려지지 않은 모든 수량의 불확실성을 전파합니다. 다른 한편으로, 경험적 베이와 같은 유사 베이 즈 접근법은 모든 불확실성을 전파하지는 않습니다. 예를 들어, 사후 예측량을 추정 할 때, 완전 베이지안 접근법은 미지의 모형 모수의 사후 밀도를 사용하여 목표 모수에 대한 예측 분포를 얻습니다. EB 접근법은 모든 미지의 불확실성을 설명하지는 않습니다. 예를 들어, 일부 하이퍼 파라미터는 특정 값으로 설정되어 전체 불확실성을 과소 평가할 수 있습니다.

— 사용자 67724
소스