Bayesians는 Kolmogorov의 공리를 받아들입니까?

일반적으로 확률 이론은 Kolgomorov의 공리로 진행됩니다. Bayesians도 Kolmogorov의 공리를 받아들입니까?

probability bayesian kolmogorov-axioms

— 필기
소스

베이지안 이론은 표준 확률 공리, 따라서 Kolmogorov 공리에서 나온다.

— 시안

@ Xi'an : 주관적인 신념 정도는 확률로 표현 될 수 없습니다. 따라서 질문과 Ramsey & de Finetti의 연구.

— Scortchi-Monica Monica 복원

그래서 나는 "객관적인"베이지안이고 확률 이론의 표준에 따라 정의 된 사전 분포로 시작합니다.

— Xi'an

나는 Cox-Jaynes의 확률 해석이 베이지안 확률에 대한 엄격한 기초를 제공한다고 믿는다. (내 답변 참조). 그러나 시안의 의견을 갖는 것이 좋을 것입니다.

— 회의

@ Summit : 감사합니다. 문제에 관심이 없습니다 ...!

— Xi'an

답변:

제 생각에, Cox-Jaynes 확률에 대한 해석은 베이지안 확률에 대한 엄격한 기초를 제공합니다.

Cox, Richard T. "확률, 빈도 및 합리적인 기대." 미국 물리학 저널 14.1 (1946) : 1-13.
Jaynes, Edwin T. 확률 이론 : 과학의 논리. 케임브리지 대학 출판부, 2003.
Beck, James L. "확률 논리에 기초한 바이아 시스템 식별" 구조 제어 및 건강 모니터링 17.7 (2010) : 825-847.

Cox에 의해 도출 된 확률 논리의 공리는 다음과 같습니다.

(P1) : (일반적으로) $\Pr[b|a]\ge0$
(P2) : (음수 함수) $\Pr[\overline{b}|a]=1-\Pr[b|a]$
(P3) : (접합 기능) $\Pr[b\cap c|a]=\Pr[c|b\cap a]\Pr[b|a]$

공리 P1-P3은 다음을 암시한다 (Beck, James L. "확률 논리에 기초한 베이시스 시스템 식별"구조 제어 및 건강 모니터링 17.7 (2010) : 825-847) :

(P4) : a) ; b) ; c) $\Pr[b|b\cap c] = 1$ $\Pr[\overline{b}|b\cap c] = 0$ $\Pr[b|c]\in[0,1]$
(P5) : a) , b) , 여기서 는 $\Pr[a|c \cap (a \Rightarrow b)]\le\Pr[b|c\cap(a \Rightarrow b)]$ $\Pr[a|c\cap(a \Leftrightarrow b)] = \Pr[b|c\cap(a \Leftrightarrow b)]$ $a \Rightarrow b$ $a$ 에 포함 된 및 $c$ 는 $a \Leftrightarrow b$ 가 와 같다는. $a$ $b$
(P6) : $\Pr[a \cup b|c] = \Pr[a|c]+\Pr[b|c]-\Pr[a\cap b|c]$
(P7) : 발의안 가 발의안 b 1 , … , b N 중 하나만 참인 것으로 가정하면 다음과 같습니다.
- a) 한계 화 정리 : $\Pr[a|c]=\sum_{n=1}^N P[a \cap b_n|c]$
- b) 총 확률 정리 : $\Pr[a|c] = \sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]$
- c) 베이 즈 정리 : : $k=1,\ldots,N$ $\Pr[b_k|a\cap c] = \frac{\Pr[a|b_k\cap c]\Pr[b_k|c]}{\sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]}$

그것들은 Kolmogorov의 논리 진술을 암시하며, 특별한 경우로 볼 수 있습니다.

베이지안 관점에 대한 나의 해석에서 모든 것은 항상 (암시 적으로) 우리의 믿음과 지식에 달려 있습니다.

다음은 Beck (2010)과 비교 한 것입니다. 확률 논리에 따른 베이지안 시스템 식별

베이지안 관점

확률은 지정된 정보를 기반으로 한 진술의 타당성 척도입니다.

확률 분포는 시스템과 현상에 대한 그럴듯한 지식의 상태를 나타내며 , 시스템의 고유 한 속성이 아닙니다.
모델의 확률은 세트의 다른 모델에 대한 그 가능성 의 척도입니다 .
이것은 정보의 누락으로 인한 불확실성을 실용적으로 나타내는데 이는 자연의 고유 한 무작위성으로 인한 것이라는 주장이 없습니다.

빈번한 관점

확률은 장기적 으로 내재 된 무작위 사건 의 상대적 발생 빈도입니다 .

확률 분포는 무작위 현상의 고유 속성입니다.
제한된 범위, 예를 들어 모형 확률에 대한 의미가 없습니다.
고유 한 임의성 이 가정되지만 증명할 수는 없습니다.

상기 공리에서 Kolmogorov의 공리를 도출하는 방법

다음의 [Beck, James L. "Basian 시스템 식별 확률 논리에 기초한"섹션 2.2 구조 제어 및 건강 모니터링 17.7 (2010) : 825-847]에 요약되어 있습니다.

다음에서는 유한 집합 의 서브 세트 에 대한 확률 측정 을 사용합니다 . $\Pr(A)$ $A$ $X$

[K1] : $\Pr(A)\ge 0, \forall A \subset X$
[K2] : $\Pr(X) = 1$
[K3] : 와 가 분리 된 경우 $\Pr(A\cup B)=\Pr(A)+\Pr(B), \forall A,B \subset X$ $A$ $B$

propositon의 도입 확률 이론의 공리 [벡 2010]에서 파생 (K1-K3)하기 위해서 국가는 및 지정 확률 모델 . [Beck, 2010]은 . $\pi$ $x\in X$ $x$ $\Pr(A) = \Pr[x\in A|\pi]$

P1은 및 K1을 의미합니다. $b=\{x\in A\}$ $c=\pi$
$\Pr[x\in X|\pi]=1$ $\pi$ $x\in X$
$A$ $B$ $x\in A$ $x\in B$ are mutually exclusive. Therefore, K3: $\Pr(x\in A\cup B|\pi)=\Pr(x\in A|\pi)+\Pr(x\in B|\pi)$

— Summit
소스

From your K3 you can get to

Pr (\cup_{i = 1}^{n} A_{i}) = \sum_{i = 1}^{n} Pr (A_{i})

$\Pr(\cup_{i=1}^n A_i)=\sum_{i=1}^n\Pr(A_i)$ (finite additivity) but not to Kolmogorov's 3rd axiom,

Pr (\cup_{i = 1}^{\infty} A_{i}) = \sum_{i = 1}^{\infty} Pr (A_{i})

$\Pr(\cup_{i=1}^\infty A_i)=\sum_{i=1}^\infty\Pr(A_i)$ (countable additivity) when the

A

$A$ 's are elements of a

σ

$\sigma$ -field, & not simply subsets of a finite set.

— Scortchi - Reinstate Monica

@Scortchi K.R.Koch in his introduction to Bayesian Statistics cites Bernardo and Smith (1994), Bayesian Theory, p. 105, as a source that shows how to address countable infinity. I have not checked it, but as a reference it may as well be given here.

— gwr

After the development of Probability Theory it was necessary to show that looser concepts answering to the name of "probability" measured up to the rigorously defined concept they had inspired. "Subjective" Bayesian probabilities were considered by Ramsey and de Finetti, who independently showed that a quantification of degree of belief subject to the constraints of comparability & coherence (your beliefs are coherent if no-one can make a Dutch book against you) has to be a probability.

Differences between axiomatizations are largely a matter of taste concerning what should be what defined & what derived. But countable additivity is one of Kolmogorov's that isn't derivable from Cox's or Finetti's, & has been controversial. Some Bayesians (e.g. de Finetti & Savage) stop at finite additivity & so don't accept all of Kolmogorov's axioms. They can put uniform probability distributions over infinite intervals without impropriety. Others follow Villegas in also assuming monotone continuity, & get countable additivity from that.

Ramsey (1926), "Truth and probability", in Ramsey (1931), The Foundations of Mathematics and other Logical Essays

de Finetti (1931), "Sul significato soggettivo della probabilità", Fundamenta Mathematicæ, 17, pp 298 – 329

Villegas (1964), "On qualitative probability $\sigma$ -algebras", Ann. Math. Statist., 35, 4.

— Scortchi - Reinstate Monica
소스

Why should my answer only deal with 'objective Bayesian' probabilities? The seminal work of Cox (1946) explicitly addresses the issue of subjectivity! It is a very interesting - and easy to read paper. I do not think that it makes sense to distinguish between 'subjective' and 'objective' Bayesian probabilities: Everything is always implicitly conditioned to the person performing the analysis -> and in this regard 'subjective'.

— Summit

concerning the derivation of the axioms stated Kolmogorov's from Cox's: I am satisfied by the way it is done in section 2.2 of Beck, James L. "Bayesian system identification based on probability logic." Structural Control and Health Monitoring 17.7 (2010): 825-847.

— Summit

@Summit: (1) You're right; it's rather that Ramsey & de Finetti's dispositional view of probability puts them squarely in the "subjective" camp, whereas Cox's is more generally applicable. (2) Are you saying countable additivity can be deduced from Cox's postulates?

— Scortchi - Reinstate Monica

I extended my answer, and look forward to your comments.

— Summit

@Summit: Thanks - I hope to find time to make mine even half as thorough. I've pointed out the gap between where you can get to from Cox's theorem & the "full" Kolmogorov axioms & think it's especially germane to the question (though I'd forgotten about it entirely when I first answered). Jaynes had some interesting things to say about this BTW.

— Scortchi - Reinstate Monica