베이지안 모형은 정확히 무엇입니까?

34

베이 즈 정리가 "베이지안 모델"로 사용되는 모델을 호출 할 수 있습니까? 나는 그러한 정의가 너무 광범위 할까 두렵다.

베이지안 모델은 정확히 무엇입니까?

machine-learning bayesian

— Sibbs 도박
소스

9

베이지안 모형은 이전의 우도 = 사후 x 한계의 쌍으로 이루어진 통계 모형입니다. 베이 즈 정리는 이전의 개념보다 다소 부차적입니다.

— Xi'an

18

본질적으로, 추론은 베이 즈 정리를 사용하여 관련 미지의 모수 및 모형으로부터의 가능성에 대한 일부 사전 분포에 기초하여 일부 모형 (모수 값과 같은)으로부터 관심 수량 또는 양에 대한 사후 분포를 구하는 것에 기초한다.

즉, 어떤 형태의 분포 모델 $f(X_i|\mathbf{\theta})$ 및 이전 에서 누군가 . $p(\mathbf{\theta})$ $p(\mathbf{\theta}|\mathbf{X})$

베이지안 모형의 간단한 예가이 질문 에서 논의되고 , 이 하나의 베이지안 선형 회귀 에 대한 주석 에서 위키피디아에 더 자세히 설명되어 있습니다 . 검색은 여러 베이지안 모델에 대한 토론을 여기에서 보여줍니다.

그러나 베이지안 분석과 관련하여 시도 할 수있는 다른 방법이 있습니다. 예를 들어, 베이지안 결정 이론을 참조하십시오.

— Glen_b-복귀 모니카
소스

선형 회귀 분석에서

여기에서 벡터

? 그렇지 않다면 무엇입니까?

θ

$\theta$

[β_{0}, β_{1}, . . ., β_{n}]

$[\beta_0, \beta_1, ..., \beta_n]$

— BCLC

1

@BCLC 일반적으로

도 포함됩니다.

σ

$\sigma$

— Glen_b-복지 모니카

1

@BCLC 당신은 자주주의와 베이지안 추론을 혼란스럽게하고있는 것 같습니다. 베이지안 추론은 관심있는 수량에 중점을 둡니다. 모수 (예 : 특정 계수에 대한 추론)에 관심이있는 경우 사후 분포를 찾는 것이 좋습니다 [parameters | data]. 평균 함수 (

)에 관심이 있다면, 그에 대한 사후 분포 (물론

의 (다변량) 분포의 함수)를 찾습니다 . 당신은 당신의 추정에 OLS를 사용할 수 있지만, 후부의 매개 변수는 이전에 의해 이동됩니다 ...

μ_{Y} | X

$\mu_Y|X$

β

$\mathbb{\beta}$

— Glen_b -Reinstate Monica

1

... 베이지안 회귀 에 대한 위키 백과 페이지 와 CV에 대한 토론 중 일부를 참조하십시오.

— Glen_b -Reinstate Monica

1

그 계산 은 여러 가지 이유로 때때로 나타납니다 (당신이 그것을

또는

이라고 부른 경우 ). 내 이전 의견은 어떤 식 으로든 그 계산과 충돌하지 않습니다.

(또는 동등하게

또는

)는 매개 변수이므로 다른 매개 변수와 함께 처리해야합니다. 그러나

를 아는 것은 드물다 . 예를 들어 Gibbs 샘플링을 수행하는 경우 조건부와 관련이 있습니다. 당신은 단지에 추론을 원하는 경우

, 당신은 통합 것

(또는

등)으로부터

조건이 아니라

σ^{2}

$\sigma^2$

ϕ

$\phi$

σ

$\sigma$

σ^{2}

$\sigma^2$

ϕ

$\phi$

σ

$\sigma$

β

$\beta$

σ

$\sigma$

σ^{2}

$\sigma^2$

θ | y

$\theta|y$

σ

$\sigma$ .

— Glen_b-복지 주 모니카

11

베이지안 모형은 사후 분포에서 추론을 도출하는 모형 일뿐입니다. 즉, 사전 분포와 베이지안 정리와 관련된 가능성을 활용합니다.

— Sycorax는 Reinstate Monica를 말합니다
소스

7

베이 즈 정리가 "베이지안 모델"로 사용되는 모델을 호출 할 수 있습니까?

아니

나는 그러한 정의가 너무 광범위 할까 두렵다.

네 말이 맞아 베이 즈 정리는 한계 이벤트 확률과 조건부 확률 사이의 합법적 인 관계입니다. 확률에 대한 해석에 관계없이 유지됩니다.

베이지안 모델은 정확히 무엇입니까?

당신이 사용하는 경우 사전 및 사후 당신의 설명이나 해석의 아무 곳이나 개념을 이러한 개념은 또한 접근이 아닌 베이지안에서 사용되기 때문에, 다음, 당신은 모델 베이지안를 사용하여 할 가능성이 있지만, 이것은 절대 규칙이 아니다.

넓은 의미에서 당신은 주관적 신념으로서 확률에 대한 베이지안 해석에 가입해야합니다. 베이 즈의이 작은 정리, 확장이 전체 세계관에 어떤 사람들에 의해 뻗어도, 내가 말할 것이다했다 철학을 . 이 캠프에 소속되어 있다면 베이지안입니다. 베이 즈는 이것이 그의 정리에 일어날 것이라는 것을 전혀 몰랐다. 그는 겁에 질 것이라고 생각합니다.

— 악사 칼
소스

4

이것은 첫 번째 행에서 중요한 요점을 소개하는 첫 번째 대답 인 것처럼 보입니다. 베이 즈 정리를 사용한다고해서 베이 즈 모델이되는 것은 아닙니다. 나는 당신이이 생각으로 더 나아가도록 격려하고 싶습니다. 당신은 "이전 개념과 후 개념을 사용하는 것"이 모델 베이지안을 만든다고 말하는 곳을 뒤로 물러서는 것 같습니다. 그것은 베이 즈 정리를 다시 적용하는 데 그치지 않습니까? 그렇지 않다면이 구절에서 "개념"이 무엇을 의미하는지 설명 할 수 있습니까? 결국, 고전적인 (베이지 아 이외의) 통계는 많은 절차의 허용 가능성을 입증하기 위해 이전과 후부를 사용합니다.

— whuber

@ whuber, 그것은 단순한 경험 법칙과 비슷했습니다. 논문에서 "선행"을 볼 때마다 베이지안 관점이라고 주장하거나 주장합니다. 그래도 내 요점을 명확히 할 것이다.

— Aksakal

5

통계 모델은 일부 데이터의 출처를 설명하는 절차 / 스토리로 볼 수 있습니다. 베이지안 모형 은 모형의 모든 불확실성 을 나타내는 확률 을 사용하는 통계 모형으로 , 출력에 대한 불확실성과 모형의 입력에 대한 불확실성 (일명 모수)입니다. 이전 / 후방 / 베이 즈 정리 전체가 이것에 뒤 따르지만 내 의견으로는 모든 것에 대한 확률을 사용 하는 것이 베이지안을 만드는 것입니다 (실제로 더 나은 단어는 아마도 확률 모델 과 같을 것입니다 ).

즉, 대부분의 다른 통계 모델은 어디서나 확률을 사용하도록 수정하여 베이지안 모델로 "캐스트"할 수 있습니다. 최대 가능성 모델 피팅은 베이지안 모델 피팅의 엄격한 하위 집합이므로 최대 가능성에 의존하는 모델의 경우 특히 그렇습니다.

— 라스무스 보아스
소스

MLE은 베이지안 모델 외부에서 사용되고 개발되었으므로 "베이지안 모델 피팅에 대한 엄격한 하위 집합"이라는 의미가 무엇인지 명확하지 않습니다.

— Aksakal

베이지안 관점에서 MLE는 평평한 사전을 가정하고 모델을 적합하게 만들고 가장 추정 가능한 매개 변수 구성을 점 추정치로 사용할 때 얻는 것입니다. 이것이 베이지안 "통계 철학"의 특별한 경우인지에 대해서는 다른 사람들이 논의하도록 남겨 두지 만, 분명히 베이지안 모델 피팅의 특별한 경우입니다.

— Rasmus Bååth

이 진술의 문제점은 MLE를 사용하기 위해 일종의 베이지안 사고에 가입해야한다는 인상을 남긴다는 것입니다.

— Aksakal

1

무슨 말인지 잘 모르겠습니다. IMO 정규 분포를 사용할 때 선형 대수 또는 가우스 사고를 할 때 행렬 생각을 구독 할 때보 다 베이지안 통계를 사용할 때 베이지안 사고에 가입 할 필요가 없습니다. 또한 MLE 이 베이지안 모델 피팅의 하위 집합으로 해석되어야 한다고 말하고 있지는 않습니다 .

— Rasmus Bååth

3

귀하의 질문은 의미 측면에서 더 많은 것입니다 : 언제 모델 "Bayesian"을 호출 할 수 있습니까?

이 우수한 논문에서 결론을 도출하십시오.

Fienberg, SE (2006). 베이지안 추론은 언제 "베이지안"이 되었습니까? 베이지안 분석, 1 (1) : 1-40.

두 가지 답변이 있습니다.

Bayes의 규칙 ( "알고리즘")을 사용하는 경우 모델이 첫 번째 Bayesian입니다.
보다 광범위하게 시스템의 생성 모델에서 원인을 유추 (숨겨진)하면 베이지안 ( "기능")입니다.

놀랍게도, 전 분야에서 사용되는 "베이지안 모델"용어는 60 년 대경에 정착했습니다. 머신 러닝의 역사를 살펴보면 머신 러닝에 대해 배울 점이 많이 있습니다!

— 메 두즈
소스

"두 답변"중 하나만 언급 한 것 같습니다. 어쩌면 둘 다에 대해 뭔가 쓸까요?

— 팀

메모 주셔서 감사합니다, 나는 문장의 두 부분을 분리하기 위해 내 답변을 편집했습니다.

— meduz