가우스 프로세스 및 Wishart 분포에 대한 공분산 행렬

이 글을 통해 GWP ( Generalized Wishart Processes) 에 대해 읽고 있습니다. 이 논문은 제곱 지수 공분산 함수, 즉 사용하여 다른 랜덤 변수 ( 가우시안 프로세스에 따른 ) 간의 공분산을 계산합니다. . 그런 다음이 공분산 행렬은 GWP를 따릅니다. $K(x,x') = \exp\left(-\frac{|(x-x')|^2}{2l^2}\right)$

선형 공분산 함수 ( ) $K(x,x') = x^Tx'$ 로부터 계산 된 공분산 행렬 이 적절한 매개 변수를 사용하여 Wishart 분포 를 따른다고 생각했습니다 .

제 질문은 제곱 지수 공분산 함수로 Wishart 분포를 따르는 공분산을 어떻게 가정 할 수 있습니까? 또한 일반적으로 Wishart 분산 공분산 행렬을 생성하기 위해 공분산 함수에 필요한 조건은 무엇입니까?

— 꾸준한 물고기
소스

혼합 된 것은 가우시안 프로세스가 정의 된 주변 공간 과 유한 차원 가우시안 랜덤 변수를 변환하여 Wishart 분포를 산출하는 공분산 스펙입니다 .

만약 A는 와 차원 가우시안 랜덤 변수 (열 벡터) 평균 0이고 공분산 행렬 의 분포 는 Wishart 분포 입니다. 참고 A는 행렬. 이는 2 차 형식 가 가우스 분포를 Wishart 분포로 변환하는 방법에 대한 일반적인 결과 입니다. 양의 명확한 공분산 행렬 선택할 수 있습니다. iid 관측치가 $\mathbf{X} \sim \mathcal{N}(0, \Sigma)$ $p$ $\Sigma$ $\mathbf{W} = \mathbf{X} \mathbf{X}^T$ $W_p(\Sigma, 1)$ $\mathbf{W}$ $p \times p$

x \mapsto x x^{T}

$\mathbf{x} \mapsto \mathbf{x} \mathbf{x}^T$

Σ

$\Sigma$

X_{1}, \dots, X_{n}

$\mathbf{X}_1, \ldots, \mathbf{X}_n$ 다음으로 분포 Wishart이다 분포. 로 나누어 우리는 경험적 공분산 행렬 얻을 추정치 .

W_{i} = X_{i} X_{i}^{T}

$\mathbf{W}_i = \mathbf{X}_i \mathbf{X}_i^T$

W_{1} + \dots + W_{n}

$\mathbf{W}_{1} + \ldots + \mathbf{W}_n$

W_{p} (Σ, n)

$W_p(\Sigma, n)$

n

$n$

-

$-$

Σ

$\Sigma$

가우스 프로세스의 경우 주변 공간이 있습니다 . 예를 들어 고려되는 임의의 변수가 주변 공간의 요소에 의해 색인화되도록 입니다. 즉, 프로세스 합니다. 유한 치수 한계 분포가 가우스 인 경우 가우시안 (및 여기서는 평균 0으로 단순함)입니다. 즉, 모든 대해 . OP에 언급 된 공분산 함수 의 선택은 공분산 행렬, 즉 $\mathbb{R}$ $(X(x))_{x \in \mathbb{R}}$

X (x_{1}, \dots, x_{p}) := (X (x_{1}), \dots, X (x_{p}))^{T} \sim N (0, Σ (x_{1}, \dots, x_{p}))

$\mathbf{X}(x_1, \ldots, x_p) := (X(x_1), \ldots, X(x_p))^T \sim \mathcal{N}(0, \Sigma(x_1, \ldots, x_p))$

x_{1}, \dots, x_{p} \in R

$x_1, \ldots, x_p \in \mathbb{R}$

cov (X (x_{i}), X (x_{j})) = Σ (x_{1}, \dots, x_{p})_{i, j} = K (x_{i}, x_{j}) .

$\text{cov}(X(x_i), X(x_j)) = \Sigma(x_1, \ldots, x_p)_{i,j} = K(x_i, x_j).$ 의 선택 무시 분배 Wishart 것이다 - .

K

$K$

X (x_{1}, \dots, x_{p}) X (x_{1}, \dots, x_{p})^{T}

$\mathbf{X}(x_1, \ldots, x_p) \mathbf{X}(x_1, \ldots, x_p)^T$

W_{p} (Σ (x_{1}, \dots, x_{p}), 1)

$W_p(\Sigma(x_1, \ldots, x_p), 1)$

— NRH
소스

답변 해 주셔서 감사합니다. 몇 가지 질문이 있습니다 귀하의 답변-가우시안 dist를 Wishart dist로 변환하는 변환은 + ve 명확한 cov 행렬을 선택할 수 있다고 말할 때,이 cov 행렬에는 어떤 diff 선택이 있습니까? 또한 cov 함수로 정의 된 cov 행렬을 명확히하기 위해 i와 j는 Gaussian Process의 주변 공간에있는 요소를 나타냅니다 (예 : 시간 프로세스 인 경우 시간 순간 t_1 및 t_2)?

— steadyfish

@steadyfish 예, 인덱스 및 포인트를 참조는 및 주위 공간에서, 두 시점에 시간적 공정. 공분산 행렬은 항상 양 (반) 정입니다. 제제는 어떤 방식으로 결과를 제한하는 것이 아니라 오히려 어떤 선택을 위해 보유하고 있음을 강조하기위한 것이 아닙니다했다 한으로 공분산 행렬이다. 가 단수 정규 분포 등에 관계없는 문제로 답을 어지럽히는 것을 피하기 위해 반 정도일 가능성을 배제했습니다 .

i

$i$

j

$j$

x_{i}

$x_i$

x_{j}

$x_j$

Σ

$\Sigma$

-

$-$

Σ

$\Sigma$

Σ

$\Sigma$

— NRH

@NRH 감사합니다. 주변 공간에 대한 요점을 얻습니다. 공분산 행렬에 대해, 제 질문은 (및 양의 정의 또는 양의 반정의 속성이 아닌)와 공분산 행렬을 정의하는 다른 방법이 있는지 여부 입니다. (이번 질문이 명확

x^{T} x

$x^{T}x$

— 해지기를 바랍니다

@steadyfish, 알 겠어요. 사실, 나는 조옮김과 벡터가 행 벡터인지 열 벡터인지에 대해 느슨했습니다. 나는 그것을 정확하게 만들었고 경험적 공분산 행렬과 이론적 공분산 행렬 사이의 관계에 대해 조금 추가했습니다. 이론은 관측의 관점에서 정의되지 않았습니다.

— NRH