수많은 파일을 단일 아카이브로 결합하는 가장 빠른 방법은 무엇입니까?


1

프로젝트의 일부인 jpeg 이미지 (300,000 개가 넘는 파일)가 많은 디렉토리가 있습니다. 다소 크지 만 여전히 관리 할 수있는 크기 (전체 ~ 3GB)가 아니라 파일 수 때문에 백업 및 이동이 다소 번거 롭습니다. 그것들을 복사하면 엄청난 시간이 걸리고 백업 / 복사 루틴이 크게 느려집니다.

그 파일들을 보관해야하기 때문에 파일들을 일종의 아카이브로 결합 할 것이라고 생각했습니다. "저장"압축을 사용하여 WinRar를 시도하고 있지만 속도가 느립니다. 내 dev 시스템 (Raid-0의 2xSAS 하드 드라이브, 이중 i7)에서 추정치는 약 100 분입니다.

그다지 나쁘지 않고 이번에는 기꺼이 기다릴 것입니다 (일회성 작업입니다).하지만 나중에 같은 요구가있을 때 더 빨리 할 수있는 방법이 있는지 궁금합니다. 강력한 기계와 적은 시간).

답변:


3

나는 그렇게 생각하지 않습니다. 여기서 병목 현상은 드라이브 버스 속도 및 파일 액세스 오버 헤드입니다. 많은 파일을 복사하는 것이 같은 크기의 하나의 파일보다 훨씬 오래 걸리는 이유입니다.

Winrar의 "store"옵션은 확실히 속도를 높이지만 파일이 저장된 동일한 드라이브에 아카이브를 만들면 속도가 느려집니다. 외부 장치에서 아카이브를 만들면 성능이 저하됩니다.

이상적으로 는 새 파일과 변경된 파일 만 백업하여 완료 시간을 크게 줄이는 동기화 도구 ( rsync 등 ) 를 사용하여 백업 시나리오를 구성하려고합니다 .

로컬 컴퓨터에 파일을 보관하려는 경우 .rar 보관 파일을 사용하는 것이 좋을 것 같지만 프로젝트에서 보관 파일이 아닌 해당 파일로 작업해야하는 이미지를 만들 수 있습니다.

이러한 대용량 파일의 경우 전용 저장 장치 드라이브가 필요합니다. 빠른 속도 (10K + rpm), 바람직하게는 전용 파일 서버 내부가 필요합니다.

tarwindows 포트에 관심이있을 수도 있습니다 . Tar은 압축없이 모든 파일을 단일 .tar 아카이브로 덤프하도록 설계된 빠른 아카이버입니다.


빙고! 다른 드라이브에 아카이브를 작성하면 모든 차이가 있습니다. 소스 드라이브는 특별히 빠르지는 않지만 ( "일반"7200 rpm) 목표는 매우 빠르며 (2x 10krpm SAS / Raid-0) 밤낮으로 비슷합니다. 감사!
Francesco De Vittori
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.