무작위 추적 기법


10

M. Seeger에서 다음과 같은 무작위 추적 기법 을 만났습니다 . 담당자, 2007.

tr(A)=E[xTAx]

여기서 입니다.xN(0,I)

심도있는 수학 배경이없는 사람으로서, 나는이 평등이 어떻게 달성 될 수 있는지 궁금합니다. 또한, 예를 들어 기하학적으로 어떻게 해석 할 수 있습니까? 벡터의 내부 곱을 가져 오는 의미와 그 범위 값을 이해하기 위해 어디를 봐야합니까? 평균이 고유 값의 합과 같은 이유는 무엇입니까? 이론적 인 속성 외에도 실제적인 중요성은 무엇입니까?xTAx

작동하는지 확인하기 위해 MATLAB 코드 스 니펫을 작성했습니다

#% tr(A) == E[x'Ax], x ~ N(0,I)

N = 100000;
n = 3;
x = randn([n N]); % samples
A = magic(n); % any n by n matrix A

y = zeros(1, N);
for i = 1:N
    y(i) = x(:,i)' * A * x(:,i);
end
mean(y)
trace(A)

추적은 15이며 근사값은 14.9696입니다.

답변:


12

NB 명시된 결과는 좌표의 정규성 또는 독립성에 의존하지 않습니다. . 그것은 도 양의 명확한 것에 의존하지 않습니다 . 실제로, 가정 의 좌표 것을 하나의 제로 평균, 분산을 가지고있는 상관 관계가없는 (그러나 반드시 독립적이지); 즉, 모든 대해 , 및 입니다 .A x E x i = 0 E x 2 i = 1 E x i x j = 0 i jxAxExi=0Exi2=1Exixj=0ij

맨손으로 접근

하자 임의의 수 행렬. 정의에 따르면 입니다. 그런 다음 가 완료되었습니다.n × n t r ( A ) = n i = 1 a i i t r ( A ) = n i = 1 a i i = n i = 1 a i i E x 2 i = n i = 1 a i i EA=(aij)n×ntr(A)=i=1naii

tr(A)=i=1naii=i=1naiiExi2=i=1naiiExi2+ijaijExixj,

명확하지 않은 경우, 기대의 선형성에 따라 오른쪽은

i=1naiiExi2+ijaijExixj=E(i=1nj=1naijxixj)=E(xTAx)

추적 속성을 통한 증명

이것을 제안하는 또 다른 방법이 있지만 암시 적으로 약간 고급 도구에 의존합니다. 우리는 기대와 추적 연산자가 모두 선형 하고 와 의 적절한 차원의 . 그런 다음 이므로 이므로 ABtr(AB)=tr(BA)xTAx=tr(xTAx)

E(xTAx)=E(tr(xTAx))=E(tr(AxxT))=tr(E(AxxT))=tr(AExxT),
E(xTAx)=tr(AI)=tr(A).

2 차 형태, 내부 제품 및 타원체

경우 포지티브 한정하고 내부 제품에 을 통해 정의 될 수 및 은 원점을 중심으로 타원체를 정의합니다 .ARnx,yA=xTAyEA={x:xTAx=1}Rn


굵은 및 mormalcase 변수 를 따르는 것은 상당히 혼란 스럽습니다 . 스칼라 값이라고 생각합니다. 마지막 부분에서 한 것처럼 기대 양식에서 시작할 때 더 명확하게 이해합니다. 따라서 는 지금 매우 분명합니다. xixi
E[(xTAx)]=E[(i=1nj=1naijxixj)]=i=1naiiE[xi2]+ijaijE[xixj]
petrichor

xi 는 벡터 의 번째 좌표입니다 . 다른 사람들은 단순히 오타입니다. 미안합니다. 나는 당신의 표기법을 가능한 한 밀접하게 따르려고 노력했습니다. 나는 보통 랜덤 변수 의 좌표 로 와 함께 사용 합니다. 그러나 나는 (잠재적으로) 혼동하고 싶지 않았습니다. ixX=(Xi)XiX
추기경

실제로, 그것은 대답 내에서 일관성이 있습니다. 첨자 변수가 벡터의 요소인지 확인하고 싶었습니다. 이제는 분명하다.
petrichor

글쎄, 내가 편집했기 때문에 일관성이 있습니다 (현재)! :) 오타를 지적 해 주셔서 감사합니다. 다음 며칠 동안 어떤 시점에서 기하학에 대해 조금 더 추가하려고합니다.
추기경

3

경우 대칭이며, 일정한 양의 다음 와 정규직 교 및 대각선 고유 대각선. 에는 항등 분산 행렬이 있고 는 정규직 교 이기 때문에 에는 항등 분산 행렬도 있습니다. 따라서 라고 쓰면 입니다. 기대 연산자는 선형이므로 입니다. 각 는 자유도가 1 인 카이 제곱이므로 기대 값 1을 갖습니다. 따라서 기대 값은 고유 값의 합입니다.A = U t D UAA=UtDUUDxUUxy=UxE[xTAx]=E[ytDy]i=0nλiE[yi2]yi

기하학적으로, 양의 양의 한정 행렬 는 타원체와 1-1 대응 관계로 방정식으로 주어집니다 . 타원체 축의 길이는 로 주어집니다. 여기서 는 고유 값입니다.x T A x = 1 1 / AxTAx=1λi1/λiλi

경우 여기서, 공분산 행렬이고, 이는의 정사각형 마할 라 노비스 거리 . CA=C1C


1

질문의 "실제적인 중요성은 무엇인가"부분을 다루겠습니다. 우리가 컴퓨팅 행렬 벡터 제품에 능력이있는 많은 상황이있다 우리가 매트릭스의 저장된 사본이없는 효율적 경우에도 또는 사본 저장하기에 충분한 저장하지 않아도 . 예를 들어 의 크기는 100,000 x 100,000이고 완전 밀도 일 수 있습니다. 이러한 행렬을 배정 밀도 부동 소수점 형식으로 저장하려면 80GB의 RAM이 필요합니다. A A AAxAAA

이런 알고리즘은 무작위의 추적 추정하는데 사용될 수 개별 대각선 엔트리 (관련 알고리즘을 사용하여) 또는 . AA

대규모 지구 물리학 적 역전 문제에 대한이 기법의 일부 응용은

JK MacCarthy, B. Borchers 및 RC 애 스터. 모델 해상도 행렬 대각선의 효율적인 확률 론적 추정과 큰 지구 물리학 적 역 문제에 대한 일반화 된 교차 검증. 지구 물리학 저널, 116, B10304, 2011. 논문 링크


+1 이번 학기 무작위 알고리즘을 만나서 매료되었습니다. 또 다른 좋은 기사를 추가하겠습니다. Nathan Halko, Per-Gunnar Martinsson, Joel A. Tropp, "임의의 구조 찾기 : 근사 행렬 분해 구성을위한 확률 알고리즘", 2010, arxiv.org/abs/0909.4061
petrichor
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.