메모리 오버플로를 일으킨 메모리에 임시 행렬을 만들지 않고 행렬을 '복사'하는 방법은 무엇입니까?

더 큰 할당 된 메모리에 매트릭스를 할당하면 matlab은 어떻게 든 '복사'하는 동안이를 복제하고 복사 할 매트릭스가 충분히 큰 경우 메모리 오버 플로우가 발생합니다. 이것은 샘플 코드입니다.

main_mat=zeros(500,500,2000);
n=500;
slice_matrix=zeros(500,500,n);
for k=1:4
    parfor i=1:n
        slice_matrix(:,:,i)=gather(gpuArray(rand(500,500)));
    end
    main_mat(:,:,1+(k-1)*n:1+(k-1)*n+n-1)=slice_matrix; %This is where the memory will likely overflow
end

단지 '분쇄'를 할 수있는 방법 slice_matrix을 위에 main_mat오버 헤드없이? 미리 감사드립니다.

편집하다:

main_mat사전에 할당 할 때 오버 플로우가 발생했습니다 . 경우 main_mat에 초기화된다 main_mat=zeros(500,500,1);(작은 크기), 오버 플로우가 발생하지 않겠지 만 행렬은 그것으로 할당되기 전에 할당이 수행되지 않기 때문에 감속한다. 범위가 k증가함에 따라 성능이 크게 저하됩니다 .

주요 문제는 숫자가 0보다 많은 공간을 차지한다는 것입니다. GPU를 사용하든 parfor를 사용하든 관계없이 많은 main_mat=zeros(500,500,2000);RAM을 main_mat = rand(500,500,2000);차지하지만 실제로는 RAM을 더 많이 사용합니다. 따라서 이것은 부 자연스러운 메모리 팽창이 아닙니다. 아래의 Daniel의 링크에 따르면 0을 할당하면 메모리에 대한 포인터 만 생성되고 실제 메모리는 "숫자"에 행렬을 사용할 때만 채워집니다. 운영 체제에서 관리합니다. 그리고 Windows, Mac 및 Linux에서도 예상됩니다. Matlab 또는 C와 같은 다른 언어로 수행하십시오.

제거 parfor하면 문제가 해결 될 수 있습니다.

parfor거기에 유용하지 않습니다. MATLAB parfor은 공유 메모리 병렬 처리를 사용하지 않고 (즉, 새 스레드를 시작하지 않음) 분산 메모리 병렬 처리 (새 프로세스를 시작 함)를 사용합니다. 세트 또는 작업자 노드에 작업을 분배하도록 설계되었습니다. 또한 하나의 노드 (또는 단일 데스크탑 컴퓨터) 내에서 작동하여 여러 코어에 작업을 분배하지만 하나의 노드 내에서 병렬 처리를 수행하는 최적의 방법은 아닙니다.

즉, 시작한 각 프로세스 parfor에는 자체 사본이 있어야합니다 slice_matrix. 이는 프로그램에서 사용하는 많은 양의 메모리의 원인입니다.

MATLAB 문서에서 " 사용시기 결정"을parfor 참조 하여 사용parfor 시기 및 사용시기에 대해 자세히 알아 보십시오.

귀하의 코드는 샘플 코드이며 rand()MVE의 사용자 지정 을 나타내는 것으로 가정합니다 . 따라서 matlab의 메모리 사용에 대한 힌트와 요령이 있습니다.

The MathWorks 교육 핸드북의 스 니펫이 있습니다.

MATLAB에서 매개 변수를 함수에 전달할 때 발생하는 것처럼 MATLAB에서 한 변수를 다른 변수에 할당하면 MATLAB은 해당 변수에 대한 참조를 투명하게 만듭니다. MATLAB은 코드가 하나 이상의 값을 수정하는 경우에만 참조를 끊고 해당 변수의 복사본을 만듭니다. copy-on-write 또는 lazy-copying 으로 알려진이 동작 은 코드가 값을 수정할 때까지 큰 데이터 세트를 복사하는 비용을 지연시킵니다. 따라서 코드가 수정을 수행하지 않으면 변수를 복사하기 위해 추가 메모리 공간과 실행 시간이 필요하지 않습니다.

가장 먼저 할 일은 코드의 (메모리) 효율성을 확인하는 것입니다. 뛰어난 프로그래머의 코드조차 (약간의) 두뇌 능력으로 더 최적화 될 수 있습니다. 다음은 메모리 효율성에 관한 힌트입니다.

• MATLAB의 nativ 벡터화의 메이크업 사용, 예를 들어 sum(X,2), mean(X,2),std(X,[],2)
• matlab이 행렬을 확장 할 필요가 없는지 확인하십시오 ( 암시 적 확장 이 최근에 변경됨). 사용하는 것이 더 효율적일 수 있습니다bsxfun
• 사용 장소-작업, 예를 들면 x = 2*x+3보다는x = 2*x+3
• ...

메모리 사용에 관한 최적은 계산 시간을 줄이려는 것과 같지 않습니다. 따라서 작업자 수를 줄이거 나 parfor-loop 를 사용하지 않는 것이 좋습니다. (AS는 parfor전혀 없다, 공유 메모리를 사용할 수 없습니다 복사 (copy-on-write) 병렬 도구 상자를 사용하여와 기능.

사용 가능한 메모리 와 사용 가능한 메모리 및 Matlab에서 사용할 수있는 메모리를 자세히 보려면 체크 아웃하십시오 feature('memstats'). 당신에게 흥미로운 것은 가상 메모리 입니다.

전체 MATLAB 프로세스와 관련된 총 사용 가능한 메모리. 프로세서 아키텍처 및 운영 체제에 의해 제한됩니다. 또는이 명령을 사용하십시오 [user,sys] = memory.

빠른 사이드 노드 : Matlab은 매트릭스를 메모리에 일관되게 저장합니다. 큰 행렬에는 큰 여유 RAM 블록이 필요합니다. 변수를 변경하면 Matlab이 현재 스팟을 초과 할 때마다 전체 매트릭스를 RAM의 더 큰 스팟으로 복사하기 때문에 변수를 할당하려는 이유이기도합니다.

실제로 메모리 문제 가있는 경우 저급 언어에서 요구하는 데이터 형식 기술을 파고 드는 것이 좋습니다. 예를 들어 시작부터 직접 단 정도를 사용하여 메모리 사용량을 절반으로 줄일 수 있습니다 main_mat=zeros(500,500,2000,'single');-btw, rand(...,'single')더 많은 기본 기능 과 함께 작동 하지만 더 복잡한 matlab 함수는 double 유형의 입력이 필요하지만 다시 캐스트.

내가 올바르게 이해하면 주요 문제는 parfor메모리를 공유 할 수 없다는 것입니다. 모든 parfor worker를 거의 별도의 matlab 인스턴스로 생각하십시오.

Fileexchange의 '공유 매트릭스'인 https://ch.mathworks.com/matlabcentral/fileexchange/28572-sharedmatrix 는 기본적으로 한 가지 해결 방법이 있습니다 (내가 시도한 적이 없음).

더 많은 솔루션 : 다른 사람들이 제안한 것처럼 : parfor 제거는 확실히 하나의 솔루션, 더 많은 램 가져 오기, 키가 큰 배열 사용 (ram이 꽉 찼을 때 하드 드라이브 사용, 여기 읽기 ), 작은 덩어리로 작업 나누기, 마지막으로, 적어도 다른 대안을 고려하십시오 MATLAB.

다음 코드를 사용할 수 있습니다. 실제로 slice_matrix가 필요하지 않습니다

main_mat=zeros(500,500,2000);
n=500;
slice_matrix=zeros(500,500,n);
for k=1:4
   parfor i=1:n
       main_mat(:,:,1+(k-1)*n + i - 1) = gather(gpuArray(rand(500,500)));
   end
   %% now you don't need this main_mat(:,:,1+(k-1)*n:1+(k-1)*n+n-1)=slice_matrix; %This is where the memory will likely overflow
end