자기 상관 함수는 확률 론적 과정을 완전히 설명합니까?

확률 과정이 자기 상관 함수로 완전히 설명되어 있습니까?

그렇지 않은 경우 어떤 추가 속성이 필요합니까?

autocorrelation

— 안드레아스
소스

확률 론적 프로세스에 대한 완전한 설명은 무엇을 의미합니까? 수학적으로 확률 론적 프로세스는 랜덤 변수의 이며 , 인덱스 세트 에서 매번 마다 하나씩 , 여기서 보통 는 전체 실수 라인 또는 양의 실수 라인이며, 완전한 설명 은 각 정수 및 시간 순간 에 대해 (공동) 분포를 알고 있음을 의미합니다 확률 변수 , , $\{X(t) : t \in {\mathbb T}\}$ $t$ $\mathbb T$ $\mathbb T$ $n \geq 1$ $n$ $t_1, t_2, \ldots, t_n \in \mathbb T$ $n$ $X(t_1)$ $X(t_2)$ $\ldots, X(t_n)$ . 이것은 엄청난 양의 정보입니다 : 우리 는 각각의 시간 순간 대한 CDF, 및 의 (2 차원) 결합 CDF 를 모든 시간 순간 그리고 , , , 등 의 (3 차원) CDF 등 $X(t)$ $t$ $X(t_1)$ $X(t_2)$ $t_1$ $t_2$ $X(t_1)$ $X(t_2)$ $X(t_3)$

따라서 자연스럽게 사람들은 더 간단한 설명과 더 제한적인 모델을 찾고있었습니다. 프로세스가 시간 원점의 변화에 불변 인 경우 하나의 단순화가 발생합니다. 이것이 의미하는 것은

프로세스의 모든 랜덤 변수는 동일한 CDF를 갖습니다 . 모든 대해 입니다 . $F_{X(t_1)}(x) = F_{X(t_2)}(x)$ $t_1, t_2$
두 확률 변수가 동일한 조인트 CDF가 일정 시간에 의해 분리 정량 다른 확률 변수의 쌍에 의해 분리 된 동일한 시간. 예를 들어, 임의 변수 및 는 임의 변수 및 와 같이 초로 구분 되므로 $X(t_1)$ $X(t_1 + \tau)$ $\tau$ $X(t_2)$ $X(t_2 + \tau)$ $F_{X(t_1), X(t_1 + \tau)}(x,y) = F_{X(t_2), X(t_2 + \tau)}(x,y)$
모든 세 개의 확률 변수 , , 간격 및 이격 같은 조인트 CDF가 , , 또한 및 간격을두고 $X(t_1)$ $X(t_1 + \tau_1)$ $X(t_1 + \tau_1 + \tau_2)$ $\tau_1$ $\tau_2$ $X(t_2)$ $X(t_2 + \tau_1)$ $X(t_2 + \tau_1 + \tau_2)$ $\tau_1$ $\tau_2$
모든 다차원 CDF 에 대해서도 마찬가지입니다 . 다차원 사례에 대한 자세한 내용은 예를 들어 Peter K.의 답변을 참조하십시오.

효과적으로, 랜덤 프로세스의 확률 론적 설명은 우리가 시간 축에서 원점을 호출하기 위해 선택한 것에 의존하지 않습니다 : 모든 시간 순간 을 일정한 양 로 에서 는 랜덤 변수에 대해 동일한 확률 론적 설명을 제공합니다. 이 속성은 엄격 감지 문 구성 (sense-sense stationarity )이라고 하며이 속성 을 즐기는 임의의 프로세스는 엄격하게 고정 된 임의의 프로세스 또는보다 간단하게 고정 된 임의의 프로세스라고합니다. $t_1, t_2, \ldots, t_n$ $\tau$ $t_1 + \tau, t_2 + \tau, \ldots, t_n + \tau$

엄격한 문구 자체는 특정 형태의 CDF를 요구하지 않습니다. 예를 들어 모든 변수가 가우시안이라고 말하는 것은 아닙니다.

형용사 는 더 느슨한 형태의 문구를 정의 할 수 있다고 엄격히 제안합니다. 경우] 공동 CDF - 오더 는 AS 동일한 - 오더 조인트 의 CDF 모든 선택에 대한 및 후 랜덤 프로세스 것으로 알려져 을 순서대로 고정 하고 순서의 고정 랜덤 프로세스라고합니다. 유의 정적 랜덤 프로세스 - 오더 순서에도 정지 각 포지티브 $N^{\text{th}}$ $X(t_1), X(t_2), \ldots, X(t_N)$ $N^{\text{th}}$ $X(t_1+\tau), X(t_2+\tau), \ldots, X(t_N +\tau)$ $t_1,t_2, \ldots, t_N$ $\tau$ $N$ $N^{\text{th}}$ $N^{\text{th}}$ $n$ $n < N$ . (이것은 인수 이 접근함에 따라 CDF가 차수 CDF 의 한계이기 때문 입니다. 의 일반화 ). 엄격하게 고정 된 랜덤 프로세스는 모든 주문 고정 된 랜덤 프로세스입니다 . $n^{\text{th}}$ $N^{\text{th}}$ $N-n$ $\infty$ $F_X(x) = \lim_{y\to\infty}F_{X,Y}(x,y)$ $N$

랜덤 프로세스가 (적어도) 차수 고정되어 있으면 모든 의 분포가 동일하므로 평균이 존재한다고 가정 할 때 는 모두 같습니다 . 유사하게, 는 모든 대해 동일 하며 프로세스 의 거듭 제곱 이라고합니다 . 모든 물리적 프로세스는 유한 한 힘을 가지므로 라고 가정하는 것이 일반적 이며,이 경우 특히 오래된 공학 문헌에서는이 프로세스를 2 차 프로세스 라고합니다 . 이름의 선택은 불행한 일이다. 왜냐하면 2 차 혼동을 불러 일으키기 때문이다. $1$ $X(t)$ $E[X(t)] = \mu$ $t$ $E[(X(t))^2]$ $t$ $E[(X(t))^2] < \infty$ 정지성은 (참조 stats.SE에 내이 답 ) 등 여기서 우리는 처리되는 호출 모든 유한 (여부 는 유한 한 힘 과정 으로서 상수) 이며 이러한 혼란을 피하십시오. 그러나 다시 주목하십시오. $E[(X(t))^2]$ $t$ $E[(X(t))^2]$

1 차 고정 프로세스 는 유한 전력 프로세스 일 필요는 없다 .

순서 로 고정 된 임의 공정을 고려하십시오 . 지금의 조인트 분포 때문에 및 의 조인트 분포 함수와 동일한 및 , 값은 에만 의존합니다 . 이러한 기대치는 유한 전력 프로세스에 한정적이며 그 값을 프로세스의 자기 상관 함수라고합니다. 는 시간 의 함수입니다. 랜덤 변수 및 의 분리 및 의존하지 않음 $2$ $X(t_1)$ $X(t_1 + \tau)$ $X(t_2)$ $X(t_2 + \tau)$ $E[X(t_1)X(t_1 + \tau)] = E[X(t_2)X(t_2 + \tau)]$ $\tau$ $R_X(\tau) = E[X(t)X(t+\tau)]$ $\tau$ $X(t)$ $X(t+\tau)$ $t$ 조금도. 또한 이므로 자기 상관 함수는 인수의 짝수 함수입니다.

E [X (t) X (t + τ)] = E [X (t + τ) X (t)] = E [X (t + τ) X (t + τ - τ)] = R_{X} (- τ),

$E[X(t)X(t+\tau)] = E[X(t+\tau)X(t)] = E[X(t+\tau)X(t + \tau - \tau)] = R_X(-\tau),$

유한 전력 2 차 고정 랜덤 프로세스는

평균 는 상수입니다 $E[X(t)]$

그 자기 상관 함수 의 함수 , 랜덤 변수의 시간 분리를 및 및 수행 에 전혀 의존하지 않습니다 . $R_X(\tau) = E[X(t)X(t+\tau)]$ $\tau$ $X(t)$ $X(t+\tau)$ $t$

정지성의 가정은 임의의 프로세스에 대한 설명을 어느 정도 단순화하지만 실험 데이터에서 모델을 작성하는 데 관심이있는 엔지니어 및 통계 학자에게는 모든 CDF를 추정하는 것이 중요하지 않은 작업입니다. 특히 하나의 샘플 경로 세그먼트 만있는 경우 실현) 측정 가능 엔지니어가 이미 워크 벤치 (또는 소프트웨어 라이브러리의 MATLAB / Python / Octave / C ++ 프로그램)에 필요한 계측기를 가지고 있기 때문에 비교적 쉽게 측정 할 수있는 두 가지 측정 값 은 DC 값 의 및 자기 상관 함수 $x(t)$ $\frac 1T\int_0^T x(t)\,\mathrm dt$ $x(t)$ $R_x(\tau) = \frac 1T\int_0^T x(t)x(t+\tau)\,\mathrm dt$ (또는 푸리에 변환, 의 전력 스펙트럼 ). 유한 전력 프로세스의 평균 및 자기 상관 함수의 추정값으로 이러한 측정을 수행하면 다음에 논의 할 매우 유용한 모델이됩니다. $x(t)$

유한 한 전원 랜덤 프로세스는 호출 와이드 센스 정지 (WSS) 방법 (또한 약 이 일정한 평균과의 자기 상관 함수의 경우 다행히도 같은 두문자의 WSS를 가지고 고정 랜덤 프로세스) 는 시차 (또는 ) 에만 의존합니다 . $R_X(t_1, t_2) = E[X(t_1)X(t_2)]$ $t_1 - t_2$ $t_2 - t_1$

정의는 프로세스를 구성하는 랜덤 변수의 CDF에 대해서는 아무 것도 언급 하지 않습니다 . 랜덤 변수 의 1 차 및 2 차 모멘트 에 대한 제약입니다 . 물론, 유한 전력 2 차 고정 (또는 고정 ( ) 또는 엄격하게 고정 된 랜덤 프로세스 는 WSS 프로세스이지만 그 반대 일 필요는 없습니다. $N^{\text{th}}$ $N>2$

WSS 프로세스는 어떤 순서로도 정지되어있을 필요는 없습니다.

예를 들어, 랜덤 프로세스에 고려 여기서 네 확률이 동일 값을 취 및 입니다. (무서워하지 마십시오.이 랜덤 프로세스의 4 가지 가능한 샘플 경로는 QPSK 신호의 4 가지 신호 파형 일뿐입니다). 각 는 일반적으로 4 개의 동일 값 취하는 불연속 랜덤 변수입니다. 및 , 일반적으로 및 $\{X(t)\colon X(t)= \cos (t + \Theta), -\infty < t < \infty\}$ $\Theta$ $0, \pi/2, \pi$ $3\pi/2$ $X(t)$ $\cos(t), \cos(t+\pi/2)=-\sin(t), \cos(t+\pi) = -\cos(t)$ $\cos(t+3\pi/2)=\sin(t)$ $X(t)$ $X(s)$ 분포가 다르기 때문에 프로세스는 1 차 정지조차되지 않습니다. 한편, 동안 마다 요컨대, 처리는 제로 평균을 가지고 그 자기 상관 함수는 시간차에 따라 , 처리되도록 인 폭은 고정 감지. 그러나 그것은 1 차 고정식이 아니므로 더 높은 주문에 고정되어있을 수 없습니다.

E [X (t)] = \frac{1}{4} \cos (t) + \frac{1}{4} (- \sin (t)) + \frac{1}{4} (- \cos (t)) + \frac{1}{4} \sin (t) = 0

$E[X(t)] = \frac 14\cos(t)+ \frac 14(-\sin(t)) + \frac 14(-\cos(t))+\frac 14 \sin(t) = 0$

t

$t$

\begin{aligned} E [X (t) X (s)] & = \frac{1}{4} [\cos (t) \cos (s) + (- \cos (t)) (- \cos (s)) + \sin (t) \sin (s) + (- \sin (t)) (- \sin (s))] \\ = \frac{1}{2} [\cos (t) \cos (s) + \sin (t) \sin (s)] \\ = \frac{1}{2} \cos (t - s) . \end{aligned}

$\begin{align} E[X(t)X(s)]&= \left.\left.\frac 14\right[\cos(t)\cos(s) + (-\cos(t))(-\cos(s)) + \sin(t)\sin(s) + (-\sin(t))(-\sin(s))\right]\\ &= \left.\left.\frac 12\right[\cos(t)\cos(s) + \sin(t)\sin(s)\right]\\ &= \frac 12 \cos(t-s). \end{align}$

t - s

$t-s$

WSS에도 공정에 있는 2 차 고정 (또는 엄격하게 고정 된) 임의의 프로세스는 약간의 특정 형태에 대해 말할 수있다 분포 랜덤 변수. 한마디로

WSS 프로세스가 반드시 고정되어있는 것은 아니며 (순서대로) WSS 프로세스의 평균 및 자기 상관 함수로는 프로세스에 대한 완전한 통계적 설명을 제공하기에 충분하지 않습니다 .

마지막으로, 확률 과정이된다고 가정 가정 로 가우시안 (이 자신감의 합리적인 정도의 간단한 작업이 아니다 "증명") 과정. 각 있음이 수단 , 모두 양의 정수에 대한 가우시안 확률 변수이고, 및 선택할 타임 인스턴트 , , 상기 확률 변수 , , 은 공동 가우시안 랜덤 변수입니다. 이제 조인트 가우스 밀도 함수는 완전히 $t$ $X(t)$ $n \geq 2$ $n$ $t_1$ $t_2$ $\ldots, t_n$ $N$ $X(t_1)$ $X(t_2)$ $\ldots, X(t_n)$ 랜덤 변수의 평균, 분산 및 공분산에 의해 결정되며,이 경우 평균 함수를 아는 경우 (광범위에 필요한 상수 일 필요는 없음) ) 및 자동 상관 함수 모든 대해 ( 광범위-정상 필요한 에만 의존 할 필요는 없음 ) 프로세스 통계를 완전히 결정하기에 충분합니다. $\mu_X(t) = E[X(t)]$ $R_X(t_1, t_2) = E[X(t_1)X(t_2)]$ $t_1, t_2$ $t_1-t_2$

Gaussian 프로세스 가 WSS 프로세스 인 경우에는 엄격하게 고정 된 Gaussian 프로세스 이기도합니다 . 다행스럽게도 엔지니어와 신호 프로세서의 경우 많은 물리적 노이즈 프로세스를 WSS Gaussian 프로세스 (따라서 고정 프로세스)로 잘 모델링 할 수 있으므로 자기 상관 함수를 실험적으로 관찰하면 모든 관절 분포를 쉽게 제공 할 수 있습니다. 또한 가우시안 프로세스는 선형 시스템을 통과 할 때 가우시안 특성을 유지하므로 출력 자동 상관 함수는 입력 자동 상관 함수와

R_{y} = h * \tilde{h} * R_{X}

$R_y = h*\tilde{h}*R_X$ 따라서 출력 통계도 쉽게 결정할 수 있도록, 일반적으로 WSS 프로세스와 특히 WSS Gaussian 프로세스가 엔지니어링 응용 프로그램에서 매우 중요합니다.

— 디립 사르 베이트
소스

그런 의미에서 "화이트 노이즈"에 대해 언급 해 주시겠습니까? 정의에 따르면 의 자기 상관 은 랜덤 변수의 분산입니다. AWGN (Additive White Gaussian Noise)이 무한 분산을 의미합니까? 나는 사람들이 일반적으로 작성하기 때문에 묻습니다 . 이것은 기록되어야 ? 감사.

τ = 0

$\tau = 0$

n (t) N (0, N_{0} / 2)

$n(t) ~ N(0, {N}_{0} / 2)$

n (t) N (0, δ (0) N_{0} / 2)

$n(t) ~ N(0, \delta(0) {N}_{0} / 2)$

— Royi

@Drazick 별도 문의하십시오.

— Dilip Sarwate

이것은 고정 프로세스의 정의에서 환상적인 미니 코스입니다. 나는 방법론적이고 명확하게 배치 된 것과 같은 것을 본 적이 없다. 커뮤니티 위키?

— abalter

@Dilip Sarwate 내 무지에 대해 실례합니다. 예제에서. 모든 t에 대해 E [X (t)] = 0 인 이유는 무엇입니까? 에르고 디 시티를 가정 했습니까? 기대 값을 계산하기 위해 theta의 확률 밀도 함수에서 X (t)의 확률 밀도 함수를 어떻게 도출 했습니까? E [X (t) X (s)] = E [cos (t + theta) * cos (s + theta)] 맞습니까? 이 표현을 단순화하고 쓴 내용을 얻기 위해 어떤 단계를 수행 했습니까? 감사합니다

— VMMF

@VMMF 사용되는 발화성이 없습니다 . A는 이산 때문에 랜덤 변수 이산 확률 변수이며, 그 값을 취 와 동일한 확률로 . Ergo, . 는 , , 및 와 동일한 확률 . 금후,

X (t) = \cos (t + Θ)

$X(t)=\cos(t+\Theta)$

Θ

$\Theta$

\pm \cos (t)

$\pm\cos(t)$

\pm \sin (t)

$\pm\sin(t)$

\frac{1}{4}

$\frac 14$

E [X (t)] = 0

$E[X(t)]=0$

X (t) X (s)

$X(t)X(s)$

\cos (t) \cos (s)

$\cos(t)\cos(s)$

(- \cos (t)) (- \cos (s)) = \cos (t) \cos (s)

$(-\cos(t))(-\cos(s))=\cos(t)\cos(s)$

\sin (t) \sin (s)

$\sin(t)\sin(s)$

(- \sin (t)) (- \sin (s)) = \sin (t) \sin (s)

$(-\sin(t))(-\sin(s))=\sin(t)\sin(s)$

\frac{1}{4}

$\frac 14$

E [X (t) (X (s)] = \frac{1}{2} (\cos (t) \cos (s) + \sin (t) \sin (s)) = \frac{1}{2} \cos (t - s)

$E[X(t)(X(s)]=\frac 12\big(\cos(t)\cos(s)+\sin(t)\sin(s)\big) = \frac 12\cos(t-s)$ 따라서,.

— 딜립 사와 트는