대수의 조건부 기대에 대한 직감

하자 랜덤 변수 주어진 확률 공간 될 와 -algebra 우리는 조건부 기대 값 인 새로운 임의의 변수 을 구성 할 수 있습니다.$(\Omega,\mathscr{F},\mu)$$\xi:\Omega \to \mathbb{R}$$\sigma$$\mathscr{G}\subseteq \mathscr{F}$$E[\xi|\mathscr{G}]$

대한 생각의 직관은 정확히 무엇입니까 ? 다음에 대한 직감을 이해합니다.$E[\xi|\mathscr{G}]$

(i) 여기서 는 사건 (긍정적 확률)입니다.$E[\xi|A]$$A$

(ii) 여기서 는 이산 랜덤 변수입니다.$E[\xi|\eta]$$\eta$

그러나 시각화 할 수 없습니다 . 나는 그것의 수학을 이해하고, 그것이 우리가 시각화 할 수있는 더 간단한 경우를 일반화하는 방식으로 정의된다는 것을 이해합니다. 그러나 그럼에도 불구하고 나는이 사고 방식이 유용하다고 생각하지 않습니다. 그것은 나에게 신비로운 대상으로 남아 있습니다.$E[\xi|\mathscr{G}]$

예를 들어, 를 인 이벤트 라고 가정하십시오 . 폼 -algebra 에 의해 생성 한 . 그러면 와 동일 할 것이다 경우 그리고 동일한 경우 . 즉, 인 경우 이고 경우 .$A$$\mu(A)>0$$\sigma$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$A$$E[\xi|\mathscr{G}](\omega)$$\frac{1}{\mu(A)} \int_A \xi$$\omega \in A$$\frac{1}{\mu(A^c)} \int_{A^c} \xi$$\omega \not \in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A]$$\omega\in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A^c]$$\omega \in A^c$

혼란스러운 부분은 . 그래서 왜 우리는 ? 를 E [\ xi |로 바꾸는 이유는 무엇입니까? A \ text {또는} A ^ c] \ omega \ in A 인지 여부에 따라 E [\ xi | \ mathscr {G}] 를 E [\ xi] 로 대체 할 수 없습니까?ω ∈ Ω E [ ξ | G ] ( ω ) = E [ ξ | Ω ] = E [ ξ ] E [ ξ | G ] E [ ξ | A  또는  A c ] ω ∈ A E [ ξ | G ] E [ ξ $\omega \in \Omega$$E[\xi|\mathscr{G}](\omega) = E[\xi|\Omega] = E[\xi]$$E[\xi|\mathscr{G}]$$E[\xi| A\text{ or } A^c]$$\omega\in A$$E[\xi|\mathscr{G}]$$E[\xi]$

노트. 이 질문에 답할 때 조건부 기대의 엄격한 정의를 사용하여 이것을 설명하지 마십시오. 나는 이해. 내가 이해하고 싶은 것은 조건부 기대가 계산되어야하는 것과 우리가 다른 것을 대신하여 거부하는 이유입니다.

조건부 표현을 생각하는 한 가지 방법은 -algebra 에 대한 투영입니다.σ $\sigma$$\mathscr{G}$ 입니다.

( 위키 미디어 커먼즈에서 )

이것은 실제로 제곱 적분 랜덤 변수에 대해 이야기 할 때 엄격하게 적용됩니다. 이 경우 는 실제로 와 관련하여 측정 할 수있는 임의의 변수로 구성된 의 하위 공간에 대한 임의 변수 의 직교 투영입니다. . 그리고 실제로 이것은 대해 어떤 의미에서는 사실임이 밝혀졌습니다$\mathbb{E}[\xi|\mathscr{G}]$$\xi$$L^2(\Omega)$$\mathscr{G}$$L^1$ 랜덤 변수에 의한 근사를 통해 랜덤 변수에 .$L^2$

(참조는 주석을 참조하십시오.)

만약 우리가 algebras가 우리가 이용할 수있는 정보의 양을 나타내는 것으로 간주한다면 (stochastic process 이론에서 결정적인 해석) 더 큰 σ - σ - 대수 평균보다 가능한 이벤트 및 가능한 결과에 대해 이렇게 자세한 내용은 작은 반면 σ - 가능한 결과에 대한 대수 평균 가능한 이벤트 적은 따라서 적은 정보.$\sigma-$$\sigma-$$\sigma-$

따라서, 상기 돌출 F -measurable 랜덤 변수 ξ 작은 상 σ를 - 대수 G의 수단의 값에 대한 최선의 추측을 복용 ξ 에서 사용 가능한 더 많은 제한된 정보 소정 G를 .$\mathscr{F}$$\xi$$\sigma-$$\mathscr{G}$$\xi$$\mathscr{G}$

즉, G 의 정보 만 제공하고 F , E [ ξ | G ] 는 임의의 변수 ξ 가 무엇인지에 대한 최선의 추측 입니다.$\mathscr{G}$$\mathscr{F}$$\mathbb{E}[\xi|\mathscr{G}]$$\xi$

귀하의 예와 관련하여 무작위 변수와 그 값을 혼동 할 수 있다고 생각합니다. 랜덤 변수 X 는 도메인이 이벤트 공간 인 함수 입니다. 숫자가 아닙니다. 즉, X : Ω → R , X ∈ { f | f : Ω → R } 이지만 ω ∈ Ω의 경우 X ( ω ) ∈ R 입니다.$X$$X: \Omega \to \mathbb{R}$$X \in \{f\ |\ f: \Omega \to \mathbb{R} \}$$\omega \in \Omega$$X(\omega)\in\mathbb{R}$

제 생각에 조건부 기대에 대한 표기법은 임의 변수 자체, 즉 함수 이기 때문에 실제로 나쁩니다 . 대조적으로, 랜덤 변수의 (정규) 기대치는 숫자 입니다. 랜덤 변수의 조건부 기대는 동일한 랜덤 변수, 즉 E [ ξ | G ] 는 E [ ξ ]로 "type-check"조차하지 않습니다 .$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi]$

다시 말해, 정규 및 조건부 기대를 나타 내기 위해 기호 E 를 사용하는 것은 표기법을 매우 많이 남용하므로 불필요한 혼란을 초래합니다.$\mathbb{E}$

그 모든 것이 E [ ξ | G ] ( ω ) 는 숫자 (임의 변수 E [ ξ | G ] 의 값은 ω 에서 평가됨 )이지만 E [ ξ | Ω ] 는 랜덤 변수이지만 Ω , { ∅ , Ω }에 의해 생성 된 σ- 대수 때문에 상수 랜덤 변수 (즉, 사소한 변성)로 판명됩니다.$\mathbb{E}[\xi|\mathscr{G}](\omega)$$\mathbb{E}[\xi|\mathscr{G}]$$\omega$$\mathbb{E}[\xi|\Omega]$$\sigma$$\Omega$$\{ \emptyset, \Omega\}$이 상수 랜덤 변수의 상수 값을 기술적으로 말하면, E는 [ ξ ] 이며, 여기서 E는 규칙적인 기대 값을 나타내며, 따라서 조건부 기대 값이 아니라 임의 변수가 아닌 숫자를 나타낸다.$\mathbb{E}[\xi]$$\mathbb{E}$

또한 당신은 표기법 E [ ξ | A ] 는; 기술적으로가 상태에서만 가능하다 말하기 σ - 대수를하지 개별 이벤트에, 확률의 조치가 단지 전체에 정의되어 있기 때문에 σ - 대수를, 개인이 아닌 이벤트. 따라서 E [ ξ | A ] 는 E [ ξ | σ ( ) ] , 여기서, σ ( A는 ) 약자 σ $\mathbb{E}[\xi|A]$$\sigma-$$\sigma-$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\sigma(A)]$$\sigma(A)$$\sigma-$이벤트 A에 의해 생성 된 대수 는 { ∅ , A , A c , Ω } 입니다. 참고 σ ( ) = G = σ ( C ) ; 즉, E [ ξ | A ] , E [ ξ | G ] 및 E [ ξ | C ]는 나타 내기 위해 다른 모든 방법입니다 동일한 개체를 .$A$$\{ \emptyset, A, A^c, \Omega\}$$\sigma(A) = \mathscr{G} = \sigma(A^c)$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi|A^c]$

마지막으로 위에서 언급 한 직관적 인 설명이 왜 랜덤 변수 E 의 상수 값 E [ ξ | Ω ] = E [ ξ | σ ( Ω ) ] = E [ ξ | { ∅ , Ω는 } ] 단지 숫자 인 E [ ξ ] - σ - 대수 { ∅ , Ω $\mathbb{E}[\xi|\Omega]=\mathbb{E}[\xi|\sigma(\Omega)]= \mathbb{E}[\xi| \{ \emptyset, \Omega\}]$$\mathbb{E}[\xi]$$\sigma-$$\{ \emptyset, \Omega\}$는 우리가 가질 수있는 정보의 최소량을 나타내며, 사실상 본질적으로 정보가 없기 때문에,이 극한 상황에서 우리가 가질 수있는 최선의 추측 은 임의의 변수 ξ 가 상수 값이 E [ ξ ] 인 상수 무작위 변수입니다 .$\xi$$\mathbb{E}[\xi]$

참고 모든 상수 랜덤 변수임을 L 2 개 확률 변수는 그들이 사소한에 대해 모든 측정 가능한 σ의 -algebra { ∅ , Ω } 그래서 실제로 우리는 일정한 랜덤 것이 있습니까, E [ ξ ]가 의 직교 투영이다 ξ 의 부분 공간에 L (2) ( Ω ) 랜덤 변수들로 이루어진에 대하여 측정 { ∅ , Ω } 같은 항 하였다.$L^2$$\sigma$$\{\emptyset, \Omega\}$$\mathbb{E}[\xi]$$\xi$$L^2(\Omega)$$\{\emptyset, \Omega\}$

윌리엄이 제안한 내용을 자세히 설명하려고합니다.

하자 Ω이 두 번 동전 던지기의 샘플 공간합니다. 실행을 정의하십시오. var. ξ 는 숫자입니다. 실험에서 발생하는 머리의. 분명히, E [ ξ ] = 1 입니다. expec 1 무엇을 생각하는 한 가지 방법 . 값은 ξ에 대한 최상의 추정치입니다 . ξ 가 어떤 값 을 가질 지 추측해야한다면 1 을 추측 할 수 있습니다 . 이는 E [ ( ξ − 1 ) 2 ] ≤ E [ ( ξ − a ) 2 이기 때문입니다.$\Omega$$\xi$$E[\xi] = 1$$1$$\xi$$\xi$$1$$E[(\xi - 1)^2] \leq E[(\xi - a)^2]$ for any real number $a$.

Denote by $A = \{ HT, HH \}$ to be the event that the first outcome is a head. Let $\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$ be the $\sigma$-alg. gen. by $A$. We think of $\mathscr{G}$ as representing what we know after the first toss. After the first toss, either heads occured, or heads did not occur. Hence, we are either in the event $A$ or $A^c$ after the first toss.

우리는 이벤트에있는 경우 , 다음에 대한 최선의 추정치 ξ가 될 것 E [ ξ | ] = 1.5 우리는 이벤트에있는 경우, 그리고 의 C , 다음에 대한 최선의 추정치 ξ는 것 E [ ξ | A c ] = 0.5 입니다.$A$$\xi$$E[\xi|A] = 1.5$$A^c$$\xi$$E[\xi|A^c] = 0.5$

Now define the ran. var. $\eta(\omega)$ to be either $1.5$ or $0.5$ depending on whether or not $\omega\in A$. This ran. var. $\eta$, is a better approximation than $1 = E[\xi]$ since $E[(\xi - \eta)^2] \leq E[(\xi -1)^2]$.

What $\eta$ is doing is providing the answer to the question: what is the best estimate of $\xi$ after the first toss? Since we do not know the information after the first toss, $\eta$ will depend on $A$. Once the event $\mathscr{G}$ is revealed to us, after the first toss, the value of $\eta$ is determined and provides the best possible estimate for $\xi$.

The problem with using $\xi$ as its own estimate, i.e. $0=E[(\xi - \xi)^2] \leq E[(\xi - \eta)^2]$ is as follows. $\xi$ is not well-defined after the first toss. Say the outcome of the experiment is $\omega$ with first outcome being heads, we are in the event $A$, but what is $\xi(\omega)=?$ We do not know from just the first toss, that value is ambiguous to us, and so $\xi$ is not well-defined. More formally, we say that $\xi$ is not $\mathscr{G}$-measurable i.e. its value is not well-defined after the first toss. Thus, $\eta$ is the best possible estimate of $\xi$ after the first toss.

Perhaps, somebody here can come up with a more sophisticated example using the sample space $[0,1]$, with $\xi (\omega) = \omega$, and $\mathscr{G}$ some non-trivial $\sigma$-algebra.

Although you request not to use the formal definition, I think that the formal definition is probably the best way of explaining it.

Wikipedia - conditional expectation:

Then a conditional expectation of X given $\displaystyle \scriptstyle {\mathcal {H}}$, denoted as $\displaystyle \scriptstyle \operatorname {E} (X\mid {\mathcal {H}})$, is any $\displaystyle \scriptstyle {\mathcal {H}}$-measurable function ( $\displaystyle \scriptstyle \Omega \to \mathbb {R} ^{n}$) which satisfies:

$\displaystyle \int _{H}\operatorname {E} (X\mid {\mathcal {H}})\;dP=\int _{H}X\;dP\qquad {\text{for each}}\quad H\in {\mathcal {H}}$

Firstly, it is a $\displaystyle \scriptstyle {\mathcal {H}}$-measurable function. Secondly it has to match the expectation over every measurable (sub)set in $\displaystyle \scriptstyle {\mathcal {H}}$. So for an event,A, the sigma algebra is $\{A,A^C,\emptyset, \Omega\}$, so clearly it is set as you specified in your question for $\omega \in A/A^c$. Similarly for any discrete random variable ( and combinations of them), we list out all primitive events and assign the expectation given that primitive event.

Now consider tossing a coin an infinite number of times, where at each toss i, you get $1/2^i$, if your coin is tails then your total winnings are $X=\sum _{i=1}^\infty \frac{1}{2^i}c_i$ where $c_i$ = 1 for tails and 0 for heads. Then X is a real random variable on $[0,1]$. After n coin tosses, you know the value of X to precision $1/2^n$, eg after 2 coin tosses it is in [0,1/4], [1/4,1/2], [1/2,3/4] or [3/4,1] - after every coin toss, your associated sigma algebra is getting finer and finer, and similarly the conditional expectation of X is getting more and more precise.

Hopefully this example of a real valued random variable with a sequence of sigma algebras getting finer and finer (Filtration) gets you away from the purely event based intuition you are used to, and clarifies its purpose.