기대는 평균과 같은가?

저는 대학에서 ML을하고 있는데 교수는 기대 (E)라는 용어를 언급하면서 가우시안 프로세스에 대해 몇 가지를 설명하려고했습니다. 그러나 그가 설명한 방식에서 나는 E가 평균 μ와 같다는 것을 이해했습니다. 내가 제대로 이해 했습니까?

동일하면 두 기호가 모두 사용되는 이유를 알고 있습니까? 또한 E가 E ( ) 와 같은 함수로 사용될 수 있음을 보았지만 μ에 대해서는 보지 못했습니다. $x^2$

누군가가 둘 사이의 차이점을 더 잘 이해하도록 도울 수 있습니까?

machine-learning gaussian-process linear-algebra

— 짐 블럼
소스

연속

경우

여기서

는 확률 밀도 함수입니다. 따라서

가 인수 인 경우에만 해당됩니다 . 그러나

가있는 경우에도 마찬가지입니다 . 여기서

X

$X$

E [X] = \int_{- \infty}^{\infty} f (x) x d x = μ (x)

$E[X] = \int_{-\infty}^{\infty} f(x)x dx = \mu(x)$

f (x)

$f(x)$

X

$X$

E [g (X)] = E [X] = μ (X)

$E[g(X)] = E[X] = \mu(X)$

는 항등 함수 이외의 것입니다.

g

$g$

— Jase

@ 제스

? 오른쪽이

의 함수 인 이유는 , 적분을 평가하는 동안 한계를 대체 한 후에 사라졌어 야합니까?

μ (x)

$\mu(x)$

x

$x$

— Dilip Sarwate

@DilipSarwate

는 오타였습니다. 평균 대답

μ (x)

$\mu(x)$

μ = μ (X)

$\mu = \mu(X)$

— Jase

John : 내가 너라면 Machine Learning / Gaussian Processes 수업을 받기 전에 기본 확률을 배울 것입니다. 이 책을보십시오 : math.uiuc.edu/~r-ash/BPT.html

— Zen

도와 주셔서 감사합니다! 나는 많은 피드백을 기대하지 않았다. @ 젠 조언 해 주셔서 감사합니다. 나는 당신에게 절대적으로 동의합니다. 나는 확률과 통계에 대한 학부생으로 모듈을 취했지만, 우리는 분포와 확률에 대한 간단한 소개를 받았지만 불행히도 깊이있게하지 않았습니다. 또한 "예상"이라는 용어는 언급하지 않았습니다. 나는 통계와 확률의 차이를 혼자서 다루려고 지금 노력하고 있습니다.

— Jim Blum

답변:

기대 / 예상 값은 임의 변수에 적용 할 수있는 연산자입니다. 가능한 값을 가진 이항 랜덤 변수 (이항식)의 경우 로 정의됩니다 . 즉, 가능한 값의 평균이 해당 값의 확률에 의해 가중됩니다. 연속 확률 변수는이 일반화로서 간주 될 수있다 : . 랜덤 변수의 평균은 기대와 동의어입니다. $k$ $\sum_i^k x_i p(x_i)$ $\int x dP$

가우스 분포 (정규) 분포에는 두 개의 모수 및 있습니다. 경우 정규 분포, 다음 . 따라서 가우스 분포 변수의 평균은 모수 같습니다 . 항상 그런 것은 아닙니다. 모수 과 를 갖는 이항 분포를 취하십시오 . 경우 binomially 분포하고 . $\mu$ $\sigma^2$ $X$ $E(X)=\mu$ $\mu$ $n$ $p$ $X$ $E(X)=np$

보시다시피 가우스 찾을 수 있도록 임의 변수의 함수에 기대 값을 적용 할 수도 있습니다 . $X$ $E(X^2)=\sigma^2+\mu^2$

예상 값에 대한 Wikipedia 페이지는 유익한 정보입니다. http://en.wikipedia.org/wiki/Expected_value

— 제레미 코일
소스

"... 가우스

찾을 수 있습니다 ." 이 관계를 유지하려면 가우시안의

가 절대적으로 필요 합니까?

X

$X$

E (X^{2}) = σ^{2} + μ^{2}

$E(X^2)=\sigma^2+\mu^2$

X

$X$

— Dilip Sarwate

관계

는 항상 유지되지만 분포의 매개 변수로 작성된 답변을 기대합니다. 나는 누군가에게 물었다 그렇다면 어떤

에 대한했다

이항 분포

, 내가 대답 기대

,하지

E (X^{2}) = V (X) + E (X)^{2}

$E(X^2)=V(X)+E(X)^2$

E (X^{2})

$E(X^2)$

X

$X$

(n, p)

$(n,p)$

n p (1 - p) + (n p)^{2}

$np(1-p)+(np)^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

— Jeremy Coyle

그러나 평균

및 분산

를 갖는 이항 랜덤 변수에 대해

가 무엇인지 물으면 답은

입니다. 이항 랜덤 변수는 일반적으로

과

사용하여 매개 변수화됩니다 . 평균과 분산에서 우리가 쉽게 찾을 수 있습니다

E (X^{2})

$E(X^2)$

μ

$\mu$

σ^{2}

$\sigma^2$

σ^{2} + μ^{2}

$\sigma^2+\mu^2$

n

$n$

p

$p$

및

피 = 1 - \frac{변화}{평균}

$p = 1 - \frac{\text{variance}}{\text{mean}}$

엔 = \frac{평균}{피} = \frac{{평균}^{2}}{평균 - 변화} .

$n = \frac{\text{mean}}{p} = \frac{\text{mean}^2}{\text{mean}-\text{variance}}.$

— Dilip Sarwate

예제의 핵심은 분포의 모수와 분포 모멘트를 구별하는 것이 었습니다. 그렇습니다. 분포를 모멘트로 다시 매개 변수화하는 것이 가능하지만 OP는

와

의 관계에 대해 묻기 때문에 계속해서 구별하는 것이 중요해 보입니다. 이 점에 대해 현명하게 선택하는 이유가 있습니까?

E (X)

$E(X)$

μ

$\mu$

— Jeremy Coyle

제레미 감사합니다! 훌륭한 답변입니다. 당신은 매우 도움이되었습니다!

— Jim Blum

연산자 표기법 E ()에 대한 기대 (좋은 글꼴, 로마자 또는 이탤릭체, 평범한 또는 멋진 글꼴에 대한 환경 설정이 다양 함)는 인수의 평균을 취하지 만 수학적 또는 이론적 컨텍스트를 의미합니다. 이 용어는 17 세기에 Christiaan Huygens로 거슬러 올라갑니다. 이 아이디어는 많은 확률 이론과 수학 통계에 명시되어 있으며, 예를 들어 Peter Whittle의 저서 Probability over expectation 을 통해 더 중심적인 방법으로 만들 수 있습니다.

평균 (평균)이 종종 단일 기호로, 특히 데이터에서 계산 될 때 특히 다르게 다르게 표현되는 것은 관습의 문제 일뿐입니다. 그러나 방금 인용 한이 책의 Whittle은 평균화를 위해 표기법 A ()를 사용하며 평균화 할 변수 또는 표현식 주위의 꺾쇠 괄호는 물리 과학에서 일반적입니다.

— 닉 콕스
소스