가우스 분포 (가상 분포)의 가장 놀라운 특징은 무엇입니까?

52

의 표준화 된 가우스 분포 는 밀도를 명시 적으로 지정하여 정의 할 수 있습니다. $\mathbb{R}$

\frac{1}{\sqrt{2 π}} e^{- x^{2} / 2}

$\frac{1}{\sqrt{2\pi}}e^{-x^2/2}$

또는 그 특징적인 기능.

이 질문 에서 상기 한 것처럼 표본 평균과 분산이 독립적 인 유일한 분포이기도합니다.

알고있는 Gaussian 측정 값의 다른 놀라운 대안은 무엇입니까? 가장 놀라운 답변을 받아들입니다

— 로빈 지라드
소스

39

내 개인적인 가장 놀라운 것은 표본 평균과 분산에 관한 것입니다. 그러나 여기에 또 다른 놀라운 특징이 있습니다 와 가 와 와의 유한 분산으로 IID 이면 와 는 정상입니다. $X$ $Y$ $X+Y$ $X-Y$ $X$ $Y$

직관적으로, 변수가 산점도와 독립적이지 않은시기를 식별 할 수 있습니다. 따라서 독립적으로 보이는 쌍 의 산점도를 상상해보십시오 . 이제 45도 회전하고 다시 살펴보십시오. 여전히 독립적으로 보이는 경우 및 좌표는 개별적으로 정상이어야합니다 (물론 느슨하게 말하면됩니다). $(X,Y)$ $X$ $Y$

직관적 인 비트가 작동하는 이유를 확인하려면

[\begin{array}{cc} \cos 45^{\circ} & - \sin 45^{\circ} \\ \sin 45^{\circ} & \cos 45^{\circ} \end{array}] [\begin{matrix} x \\ y \end{matrix}] = \frac{1}{\sqrt{2}} [\begin{matrix} x - y \\ x + y \end{matrix}]

$\left[ \begin{array}{cc} \cos45^{\circ} & -\sin45^{\circ} \newline \sin45^{\circ} & \cos45^{\circ} \end{array} \right] \left[ \begin{array}{c} x \newline y \end{array} \right]= \frac{1}{\sqrt{2}} \left[ \begin{array}{c} x-y \newline x+y \end{array} \right]$

— 사용자 1108
소스

3

Jay-이것은 기본적으로 평균과 분산이 독립적이라는 것을 다시 나타냅니다. 는 크기가 재조정 된 평균이고 는 크기 가 재조정 된 표준 편차입니다.

X + Y

$X+Y$

X - Y

$X-Y$

— chanceislogic

5

@probabilityislogic-나는 당신이 말한 직관을 좋아하지만 가 SD의 크기를 정확하게 재조정하지 않기 때문에 그것이 완전히 재발견이라고 생각하지 않습니다 . SD는 부호를 잊어 버립니다. 따라서 평균과 SD의 독립성은 , ( )의 독립 에서 . 그것은 "기본적으로"의미 한 것일 수도 있습니다. 어쨌든 좋은 일입니다.

X - Y

$X - Y$

X + Y

$X+Y$

X - Y

$X-Y$

n = 2

$n = 2$

4

이 부동산에 대한 증거는 어디에서 찾을 수 있습니까?

— Royi

1

@Royi 16을 참조 하십시오 . (a)의 경우 입니다. (b)의 경우 치환을 갈망하는 에서 을 얻습니다 . 만약 , 다음 따라서, 모두, , 및 시퀀스가 되도록 모든 대해 및 이며 , 이는 에서 연속성과 상충됩니다.

2 X = (X + Y) + (X - Y)

$2X=(X+Y)+(X-Y)$

φ (2 t) φ (- 2 t) = (φ (t) φ (- t))^{4}

$\varphi(2t)\varphi(-2t)=(\varphi(t)\varphi(-t))^4$

ψ (t) = φ (t) φ (- t)

$\psi(t)=\varphi(t)\varphi(-t)$

ψ (t) = ψ^{2^{2 n}} (\frac{t}{2^{n}})

$\psi(t)=\psi^{2^{2n}}(\frac{t}{2^n})$

φ (t_{0}) = 0

$\varphi(t_0)=0$

ψ (t_{0}) = 0

$\psi(t_0)=0$

n

$n$

ψ (\frac{t_{0}}{2^{n}}) = 0

$\psi(\frac{t_0}{2^n})=0$

t_{n}

$t_n$

t_{n} \to 0

$t_n\to 0$

φ (t_{n}) = 0

$\varphi(t_n)=0$

n

$n$

φ

$\varphi$

0

$0$ . (c)는 단호하다 [계속]

— Gabriel

1

(d)의 경우 입니다. 참고 , 따라서 . 이것을 이전의 동등성에 연결하고 고정 , 이며 모든 대해 을 나타 냅니다. 이것은 가 실제 임을 의미 하고 (a)의 평등이 요구되는 것으로 바뀝니다. 다시, 을 사용하고 는 를 얻습니다 . 따라서 및

γ (t) = γ^{2^{n}} (\frac{t}{2^{n}})

$\gamma(t)=\gamma^{2^n}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

γ (t) = 1 + o (t^{2})

$\gamma(t)=1+o(t^2)$

t

$t$

lim_{n} γ^{2^{n}} (\frac{t}{2^{n}}) = 1

$\lim_n \gamma^{2^n}(\frac{t}{2^n}) = 1$

γ (t) = 1

$\gamma(t)=1$

t

$t$

φ

$\varphi$

φ (t) = φ^{2^{2 n}} (\frac{t}{2^{n}})

$\varphi(t)=\varphi^{2^{2n}}(\frac{t}{2^n})$

φ (t) = 1 - \frac{t^{2}}{2} + o (t^{2})

$\varphi(t)=1-\frac{t^2}2+o(t^2)$

lim_{n} φ^{2^{2 n}} (\frac{t}{2^{n}}) = e^{- t^{2} / 2}

$\lim_n \varphi^{2^{2n}}(\frac{t}{2^n}) = e^{-t^2/2}$

φ (t) = e^{- t^{2} / 2}

$\varphi(t)=e^{-t^2/2}$

X

$X$ 는 정상입니다.

— 가브리엘 로몬

27

차동 엔트로피 를 최대화하는 고정 분산을 갖는 연속 분포 는 가우스 분포입니다.

— 초라한 요리사
소스

22

이것에 관해 쓰여진 책은 "정규 확률 법의 특징", AM Mathai & G. Perderzoli입니다. JASA (1978 년 12 월) 의 간단한 검토에서 다음을 언급합니다.

하자 독립 확률 변수합니다. 그런 다음 및 은 독립적입니다. 여기서 은 가 정규 분포 인 경우에만 해당됩니다 . $X_1, \ldots, X_n$ $\sum_{i=1}^n{a_i x_i}$ $\sum_{i=1}^n{b_i x_i}$ $a_i b_i \ne 0$ $X_i$

— whuber
소스

3

과 같은 조건이 없어야 합니까? 예를 들어, n = 2 인 경우 및 는 독립적이지 않습니다.

< a, b >= 0

$<a,b>=0$

a_{i} = b_{i} = 1

$a_i=b_i=1$

X_{1} + X_{2}

$X_1+X_2$

X_{1} + X_{2}

$X_1+X_2$

— 로빈 지라드

1

@ 로빈 좋은 캐치. 나는 암시 적 정량 자에 대해서도 당황했다. 불행히도, 내가 액세스 할 수있는 것은 책이 아닌 리뷰에서 인용하는 것입니다. 도서관에서 찾아서 찾아 보는 것이 재미있을 것입니다 ...

— whuber

이것은 G. Jay Kerns (현재 # 1) 답변의 일반화처럼 느껴집니다.

— vqv

나는 당신이 Lukacs & King (1954) 논문을 찾고 있다고 생각합니다. 앞에서 언급 한 논문에 대한 링크와 함께 math.SE에서이 답변을 참조하십시오 .

— 추기경

2

이 제안에서 "where " 이라고 표시되는 곳은 "인 모든 스칼라 세트를 의미 합니까?" "또는"some "대신"where "를 사용하는 것을 싫어합니다." 어디 어디 "에서와 같이 하나의 표기법을 설명하기 위해 사용되어야한다" 빛의 속도이고 국내 총생산 (GDP) "등이다

a_{i} b_{i} \neq 0

$a_i b_i\ne 0$

a_{i} b_{i} \neq 0

$a_i b_i \ne 0$

c

$c$

g

$g$

— 마이클 하디

17

가우스 분포는 유한 분산을 갖는 유일한 안정 안정 분포입니다.

— 초라한 요리사
소스

8

그것들은 총체적으로 안정적이고 유한 한 차이를 가진 독특한 것들이 CLT에 의해 우리에게 강요 당합니다. 이 주장의 흥미로운 부분은 다른 안정된 분포 가 있다는 것입니다 !

— whuber

1

@ whuber : 실제로! 이 특성화는 약간 왜곡되고 다른 안정된 분포는 아마도 더 궁금 할 것입니다.

— shabbychef

@ whuber 실제로 CLT 가이 사실을 어떻게 암시하는지 알 수 없습니다. 그것은 단지 우리가 무의식적 으로 법선의 합이 정상이며 유한 합이 정규적으로 분포되어 있지 않다는 것을 알려줍니다 . 아니면 어떻게해서 Slutsky의 정리를 사용해야합니까?

— shabbychef

3

정규 표준화를 채택하면 두 정규 법선의 합은 정규 분포 X_0과 계열 X_1, X_2, ...의 제한 분포의 합이며 합은 X_0, X_1, ...의 제한 분포입니다. Lindeberg-Levy CLT는 정상입니다.

— whuber

17

Stein 's Lemma 는 매우 유용한 특성을 제공합니다. 는 와 함께 모든 절대 연속 함수 대해 표준 가우시안 iff 입니다. . $Z$

E f^{'} (Z) = E Z f (Z)

$E f’(Z) = E Z f(Z)$

f

$f$

E | f^{'} (Z) | < \infty

$E|f’(Z)| < \infty$

— vqv
소스

12

정리 [허셜 - 맥스웰] 하자 독립적이며 (Ⅱ)의 분포 직교 부분 공간에있는 (I)의 돌출부에 대한 임의 벡터 일 길이에만 의존. 그런 다음 는 정규 분포입니다. $Z \in \mathbb{R}^n$ $Z$ $\|Z\|$ $Z$

교육 통계 에서 George Cobb가 인용 한 인용 : p. 54.

Cobb는이 특성화 를 미적분학 (또는 많은 확률 이론)을 사용하지 않고 , 및 분포 를 도출하기위한 시작점으로 사용합니다 . $\chi^2$ $t$ $F$

— whuber
소스

9

하자 와 일반적인 대칭 분포 등 그와 함께 두 개의 독립적 인 확률 변수가 될 $\eta$ $\xi$

P (| \frac{ξ + η}{\sqrt{2}} | \geq t) \leq P (| ξ | \geq t) .

$P\left ( \left |\frac{\xi+\eta}{\sqrt{2}}\right | \geq t \right )\leq P(|\xi|\geq t).$

그런 다음이 임의의 변수는 가우스입니다. (물론, 와 가 가우시안 중심이라면 사실입니다.) $\xi$ $\eta$

이것은 Bobkov-Houdre 정리입니다

— 로빈 지라드
소스

9

이것은 특성화가 아니라 1917 년으로 거슬러 올라간 추측으로 Cantelli에 의한 것입니다.

경우 긍정적 함수 및 및 있는 독립 확률 변수되도록 정상이 후 거의 모든 곳 상수이다. $f$ $\mathbb{R}$ $X$ $Y$ $N(0,1)$ $X+f(X)Y$ $f$

제라르 레타 크 (Gérard Letac)가 여기에 언급했다 .

— 했나
소스

당신이 그것을 언급하는 것이 좋습니다! 직감을 알아낼 수 없습니까?

— 로빈 지라드

@robin 이것은이 추측을 매우 특별하게 만드는 것입니다 : 완전히 기초적인 진술, 비참하게 실패하는 몇 가지 명백한 접근법들 (특성 함수들), 그리고 하나는 파악할 것이없는 채로 남아 있습니다 ... 그런데 추측에 대한 내기가 맞아야합니다. 아니면 거짓? 그것조차 분명하지 않습니다 (나에게).

— 나요

2

제라르 레트 락이 그것을 증명할 수 없다면, 꽤 오랫동안 열린 추측을 유지할 수 있습니다 ...!

— Xi'an

@ Xi'an : 물론 전적으로 동의합니다. (당신이 웹 ... 당신이 좋은 소식의이 분기에서 로밍 몰랐어.)

— 나요

6

@ Xi'an 여기 에는 Cantelli 추측에 대한 반례가있는 Victor Kleptsyn과 Aline Kurtzmann 의 사전 인쇄본 이 있습니다. 구성은 저자 브라운 질량 수송 부르는 새로운 도구를 사용하고, 불연속 함수 산출 . 저자는 가 연속적 이라고 요청하면 Cantelli 추측이 유지된다고 믿는다 (그들은 두 개의 연속 함수가 혼합되어 있음).

f

$f$

f

$f$

— 나요

8

iid 데이터 사용하여 위치 매개 변수를 추정한다고 가정하십시오 . 경우 최우 추정기는 다음 샘플링 분포가 가우시안이다. Jaynes 's Probability Theory : The Logic of Science pp. 202-4에 따르면 이것이 Gauss가 처음에 도출 한 방법입니다. $\{x_1,...,x_n\}$ $\bar{x}$

— 청록
소스

나는 이것을 정규 분포의 특성으로 이해하지 못하므로 뭔가 빠진 것 같습니다. iid Poisson 데이터가 있고 를 추정하려면 어떻게해야합니까? MLE는 만의 샘플링 분포 가우스 아니다 - 첫째, 합리적이어야한다; 둘째, 가우스 인 경우 이지만 입니다.

μ

$\mu$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\bar{x}

$\bar{x}$

\sum x_{i}

$\sum{x_i}$

Poisson (n μ)

$\text{Poisson}(n\mu)$

— 실버 피시

2

포아송 평균은 위치 매개 변수가 아닙니다!

— kjetil b halvorsen

6

무한 분할 가능한 분포 의 클래스들 중에서 정규 분포의보다 특정한 특성은 Steutel and Van Harn (2004)에 제시되어있다 .

비 변형 무한 분할 가능한 랜덤 변수 는 만족하는 경우에만 정규 분포를 $X$
$- \underset{x \to \infty}{lim sup} \frac{\log P (| X | > x)}{x \log (x)} = \infty .$ $-\limsup_{x\rightarrow\infty}\dfrac{\log{\mathbb P}(\vert X\vert>x)}{x\log(x)}=\infty.$

이 결과는 꼬리 행동 측면에서 정규 분포를 나타냅니다.

— 개정 사용자
소스

1

명시된 한계에 대한 간단한 증거는 다음과 같습니다. 가 표준 정규이면 을 , . 그러나 이므로 결과는 다음과 같습니다. Poisson의 경우에 대한 대략적인 스케치는 주어진 한계가 임을 나타내는 것으로 보이지만 너무 자세히 확인하지는 않았습니다.

X

$X$

x P (X > x) / φ (x) \to 1

$x \mathbb P(X>x)/\varphi(x)\to 1$

x \to \infty

$x\to \infty$

\log P (X > x) - \log φ (x) + \log x \to 0

$\log\mathbb P(X>x)−\log \varphi(x) + \log x \to 0$

2 \log φ (x) \sim - x^{2}

$2 \log \varphi(x) \sim −x^2$

λ

$\lambda$

— 추기경

6

이미지 평활화 (예 : 스케일 공간 )와 관련하여 가우시안은 회전 대칭이 가능한 유일한 커널입니다.

즉, 에서 가 필요한 경우 회전 대칭에는 필요합니다. 에 해당되는 .

F [x, y] = f [x] f [y]

$F[x,y]=f[x]f[y]$

[x, y] = r [\cos θ, \sin θ]

$[x,y]=r[\cos\theta,\sin\theta]$

\begin{aligned} F_{θ} & = f^{'} [x] f [y] x_{θ} + f [x] f^{'} [y] y_{θ} \\ = - f^{'} [x] f [y] y + f [x] f^{'} [y] x = 0 \\ ⟹ \\ \frac{f^{'} [x]}{x f [x]} & = \frac{f^{'} [y]}{y f [y]} = c o n s t . \end{aligned}

$\begin{align} F_\theta &= f'[x]f[y]x_\theta+f[x]f'[y]y_\theta \\ &= -f'[x]f[y]y+f[x]f'[y]x = 0 \\ &\implies \\ \frac{f'[x]}{xf[x]} &= \frac{f'[y]}{yf[y]} = \mathrm{const.} \end{align}$

\log [f [x]]^{'} = c x

$\log\big[f[x]\big]'=cx$

하도록 요구 적정한 수 커널 다음 상수는 가우시안 커널을 수득 제외하고 초기 값 긍정적 필요. $f[x]$

* 확률 분포와 관련하여 분리 가능한 의미는 독립적 인 반면, 이미지 필터링과 관련하여 2D 컨벌루션을 계산적으로 2 개의 1D 컨볼 루션으로 줄일 수 있습니다.

— 지오 맷 22
소스

2

+1 그러나 이것은 Herschel-Maxwell 정리 를 2D에 즉시 적용한 결과가 아닙니까?

— whuber

@ whuber 실제로,이 스레드를 살펴볼 때 어떻게 든 당신의 대답을 간과했습니다!

— amoeba는 Reinstate Monica

@whuber 예. 나는이 오래된 스레드를 자세히 읽지 않았으며 요청에 따라이 답변을 추가하고있었습니다.

— GeoMatt22

1

@amoeba 여기도 참조 하십시오 .

— GeoMatt22

3

최근 Ejsmont [1]는 가우시안의 새로운 특성을 가진 기사를 발표했습니다 :

하자 모든 순간 독립적 랜덤 벡터 될 비축하고, 통계하자 는 에만 의존하는 분포를 갖습니다 . 여기서 및 입니다. 그런 다음 는 독립적이며 제로 평균과 대해 과 동일한 정규 분포를 갖습니다 . $(X_1,\dots, X_m,Y) \textrm{ and } (X_{m+1},\dots,X_n,Z)$ $X_i$ $\sum_{i=1}^na_iX_i+Y+Z$ $\sum_{i=1}^n a_i^2$ $a_i\in \mathbb{R}$ $1\leq m < n$ $X_i$ $cov(X_i,Y)=cov(X_i,Z)=0$ $i\in\{1,\dots,n\}$

[1]. Ejsmont, Wiktor. "한 쌍의 랜덤 벡터의 독립성에 의한 정규 분포의 특성." 통계 및 확률 서신 114 (2016) : 1-5.

— 다니엘
소스

1

그것은 섬세하고 매혹적인 특성입니다. 이 글타래를 공유하여 개선해 주셔서 감사합니다!

— whuber

1

특징적인 기능은 PDF와 같은 형식입니다. 나는 그것을하는 또 다른 배포판을 확신하지 못한다.

— 제이슨
소스

4

특징 함수가 PDF와 동일한 랜덤 변수를 구성하는 방법에 대해서는 이 답변 을 참조하십시오 .

— Dilip Sarwate

-1

기대 값에 표준 편차를 뺀 값은 함수의 안 장점입니다.

— 탈 갈릴리
소스

11

이것은 정규 분포의 특성 이지만, 다른 분포도이 특성을 가지고 있기 때문에 특성화 하지는 않습니다 .

— whuber