선형 회귀 분석을 수행 할 때 기울기에 대해 유익하지 않은 사전 정보는 무엇입니까?


10

베이지안 선형 회귀를 수행 할 때 기울기 와 절편 대해 사전을 할당해야합니다 . 이후 위치 파라미터는 그것이 균일 사전 할당하는 것이 합리적이다; 그러나 는 스케일 매개 변수와 유사하며 이전에 유니폼을 할당하는 것은 부자연 스럽습니다.b b aabba

반면 에 선형 회귀의 기울기에 대해 일반적인 정보가없는 Jeffrey를 ( ) 이전에 할당하는 것은 옳지 않은 것 같습니다 . 하나는 부정적 일 수 있습니다. 그러나 나는 그것이 무엇인지 알 수 없습니다.1/a

그렇다면 베이지안 선형 회귀의 기울기에 대한 "적절한"정보가 무엇입니까? (모든 참고 문헌을 주시면 감사하겠습니다.)


슬로프는 실제로 스케일 매개 변수와 다릅니다. 예를 들어 음수 일 수 있습니다. 이전에는 "적절한"정보가없는 ( "낮은 정보"가 더 나은 용어 일 수 있음) 없습니다. 다른 사람이나 다른 상황에 적합한 몇 가지 일반적인 선택이 있습니다.
Glen_b-복지 주 모니카

답변:


10

에서 베이지안 데이터 분석 3 일 에드., 페이지를. 355 :

정보가없는 표준 사전 배포

정규 회귀 모형에서 편리한 비 정보 적 사전 분포는 에서 동일하거나p ( β , σ 2 | X ) σ - 2(β,logσ)

p(β,σ2|X)σ2

( 회귀 변수를 참조.)이 책은이 질문의 범위를 벗어나는 유용한 자세한 설명이 포함되어 다른 사람들이 고전 추정에 더 적합 그 뒤, 비교 때이 이전에 유용합니다.X


9

베이지안은 일반적으로 수학적으로 어려운 삶을 더 쉽게 견딜 수있는 사전을 선택합니다. 이것은 모델이 절대적으로 금지하지 않는 한 가우스 사전을 의미합니다. 경사와 위치 간의 경계와 한계 동작을 모델링해야하기 때문에 상황에 앞서 이변 량이 필요합니다. 다변량 법선은 티켓입니다.

모수에 대한 가우시안은 회귀 모형에 이미 존재하는 (확실한) 가우시안 측정 오차와 잘 맞물립니다.

그건 그렇고, 슬로프를 스케일 매개 변수와 연관시키지 않습니다. 슬로프는 음수 일 수 있으며 스케일 매개 변수는 불가능합니다.

가우스 분포는 정보가없는 사전이 아니지만 실제로 사전 정보가 없다면 자주 방문해야합니다. 또는 분산이 매우 큰 가우시안을 사용하십시오.

나는 베이지안 추론에 대한 현대적인 언급을 모른다. 바주카포를 사용하여 토끼를 쏠 위험이있는 경우 온라인 으로 제공되는 Rasmussen과 Williams를 찾아 볼 수 있습니다 . 2 장의 첫 번째 부분은 베이지안 회귀 분석을 자세히 설명합니다.


3

그러나 I 평평 전과 퍼팅 생각 같은 일반적으로 균일 한 경사에 종래와 사용되는 오프셋 및 와 되는 각도 사이 라인과 y = 0. 이것은 주위 의 를 제공합니다. 이것은 http://jakevdp.github.io/blog/2014/06/14/frequentism-and-bayesianism-4-bayesian-in-python/#The-PriorFrequentism and Bayesianism : Python-driven 에서 파생됩니다 . Jake Vanderblas의 입문서 B COS θ θ P ( , B ) = ( 1 + 2 ) - 3 / 2tan1(a)bcosθθ

p(a,b)=(1+a2)3/2
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.