대한 반복“솔버”

다음 문제에 대해 처음으로 생각한다고 생각할 수 없으므로 참조에 만족할 것입니다 (그러나 완전하고 자세한 답변은 항상 높이 평가됩니다).

대칭 양수 한정 이 있다고 가정합니다 . 은 매우 큰 것으로 생각되므로 를 메모리에 보유하는 것은 불가능합니다. 그러나 대해 평가할 수 있습니다 . 주어지면 를 찾고 싶습니다 .$\Sigma \in \mathbb{R}^{n \times n}$$n$$\Sigma$$\Sigma x$$x \in \mathbb{R}^{n}$$x \in \mathbb{R}^{n}$$x^t\Sigma^{-1}x$

가장 먼저 떠오르는 해결책은 켤레 그라디언트를 사용하여 를 찾는 것입니다 . 그러나 이것은 다소 낭비 적입니다. 스칼라를 찾고 그 과정에서 에서 거대한 벡터를 찾습니다 . 스칼라를 직접 계산하는 방법 (즉, 거치지 않고)을 생각해내는 것이 더 합리적 입니다. 나는 이런 종류의 방법을 찾고 있습니다.$\Sigma^{-1}x$$\mathbb{R}^{n}$$\Sigma^{-1}x$

실제로 풀지 않고 원하는 것을 수행하는 방법에 대해 들어 본 적이 없습니다 .$y=\Sigma^{-1}x$

내가 제공 할 수있는 유일한 대안은 의 고유 벡터와 값에 대해 알고 있다면 입니다. 만약 그들이 알았 말 , 그럼 나타낼 수 의 열 여기서 있다 및 대각선 고유치 갖는 대각 행렬이다. 결과적으로 이고 물론 모든 고유 값, 즉 전체 행렬 를 저장해야합니다 . 그러나 만약 당신이$\Sigma$$\lambda_i,v_i$$\Sigma=V^T L V$$V$$v_i$$L$$\Sigma^{-1}=V^T L^{-1} V$

$$x^T \Sigma^{-1} x = x^T V^T L^{-1} V x = \sum_i \lambda_i^{-1} (v_i^T x)^2.$$ $V$$\Sigma$ 제 말 작은 , 나머지는 모든 조건에 무시할 수있는 정도로 크면 위한 , 당신은 대략 수 이렇게 만 저장하도록 요구 대신 모두의, 벡터를 고유 벡터.$m$$\lambda^{-1}_i$$i>m$ $$x^T \Sigma^{-1} x = \sum_{i=1}^n \lambda_i^{-1} (v_i^T x)^2 \approx \sum_{i=1}^m \lambda_i^{-1} (v_i^T x)^2.$$ $m$$n$

물론, 실제로 단순히 여러 번 해결하는 것과 비교하여 고유 값과 고유 벡터를 계산하는 것은 종종 동일하거나 더 어렵 습니다.$y=\Sigma^{-1}x$