파일 서버-스토리지 구성 : RAID vs LVM vs ZFS 기타 ...?

우리는 무엇보다도 비디오 편집을 수행하는 작은 회사이며 대용량 미디어 파일의 백업 사본을 보관하고 쉽게 공유 할 수있는 장소가 필요합니다.

Ubuntu Server 및 4 x 500GB 드라이브로 설정된 상자가 있습니다. 그들은 현재 Samba와 함께 Mac / Windows 워크 스테이션에서 잘 볼 수있는 4 개의 공유 폴더로 설정되어 있지만 더 나은 솔루션을 원합니다. 이에 대한 두 가지 주요 이유가 있습니다.

1. 500GB는 충분히 크지 않습니다 (일부 프로젝트는 더 큼)
2. 개별 하드 드라이브는 서로 다른 양의 여유 공간과 중복 된 데이터 (백업용)를 가지므로 현재 설정을 관리하는 것은 번거 롭습니다. 지금 혼란스럽고 여러 서버가 있으면 더 나빠질 것입니다. ( "프로젝트는 share4의 sever2에 있습니다"등)

따라서 단일 드라이브의 장애로 완전한 데이터 손실을 피할 수있는 방식으로 하드 드라이브를 결합 할 수있는 방법이 필요하므로 사용자는 각 서버에서 단일 공유 만 볼 수 있습니다. 나는 리눅스 소프트웨어 RAID5를 해왔고 그것에 대한 나쁜 경험을 가지고 있지만 다시 시도 할 것입니다. LVM은 괜찮아 보이지만 아무도 사용하지 않는 것 같습니다. ZFS는 흥미로워 보이지만 비교적 "새"입니다.

내 사용자에게 편리한 HDD를 결합하는 가장 효과적이고 위험이 적은 방법은 무엇입니까?

편집 : 여기서 목표는 기본적으로 임의의 수의 하드 드라이브를 포함하지만 최종 사용자 관점에서 복잡성을 제한하는 서버를 만드는 것입니다. (즉, 서버 당 하나의 "폴더"를 볼 수 있습니다.) 여기서 데이터 백업은 문제가되지 않지만 각 솔루션이 하드웨어 장애에 대응하는 방식은 심각한 문제입니다. 그렇기 때문에 RAID, LVM, ZFS 및 누가 아는 내용을 함께 모은 것입니다.

RAID5에 대한 저의 이전 경험은 Ubuntu 서버 상자에도 있었으며 까다 롭고 가능성이 거의없는 상황으로 인해 데이터가 완전히 손실되었습니다. 나는 피할 수있는 것을 다시하지만 시스템 실패의 불필요한 추가 점을 추가되었다는 느낌이 남겨졌다.

RAID10을 사용하지는 않았지만 상용 하드웨어를 사용하고 있으며 상자 당 최대 데이터 드라이브 수는 6으로 거의 고정되어 있습니다. 500GB 드라이브가 많고 1.5TB가 매우 작습니다. (그러나 여전히 하나 이상의 서버에 대한 옵션)

LVM에 대한 경험이 없으며 드라이브 오류를 처리하는 방법에 대한 충돌 보고서를 읽었습니다. (스트라이핑되지 않은) LVM 설정이 단일 드라이브 장애를 처리 할 수 ​​있고 해당 드라이브에 저장된 부분이있는 파일 (그리고 대부분의 파일을 단일 드라이브에만 저장 한 파일) 만 느슨하게 처리 할 수있는 경우에도 그 상태를 유지할 수 있습니다.

그러나 완전히 새로운 것을 배워야하는 한, ZFS로 갈 수도 있습니다. 그러나 LVM과 달리 운영 체제 (?)도 변경하여 현재 위치와 원하는 위치 사이의 거리를 늘려야합니다. 나는 uni에서 솔라리스 버전을 사용했지만 그다지 신경 쓰지 않을 것입니다.

IT 스펙트럼의 다른 쪽 끝에서는 FreeNAS 및 / 또는 Openfiler도 살펴볼 수 있지만 실제로는 결합 방법 문제를 해결하지 못합니다.

LVM은 실제로 상당히 많이 사용됩니다. 기본적으로 LVM은 하드웨어 (드라이버) 레이어 위에 있습니다. 중복성 또는 안정성 향상을 추가하지 않습니다 (신뢰성을 처리하기 위해 기본 스토리지 시스템에 의존 함). 대신, 많은 추가 유연성과 추가 기능을 제공합니다. 디스크 고장은 RAID (소프트웨어 또는 하드웨어)에 의해 처리되어야하기 때문에 LVM은 디스크가 사라지거나 고장 나지 않아야합니다. 디스크를 잃어도 계속 작동 할 수없는 경우 (RAID 재구성 등) 백업을 수행해야합니다. 불완전한 어레이에서 데이터를 복구하려고 시도 할 필요는 없습니다 (있는 경우 전체 설계를 재평가해야 함).

LVM을 사용하면 파티션 / 파일 시스템을 쉽게 확장 및 축소 할 수있는 기능, 동적으로 새 파티션을 할당하는 기능, 기존 파티션을 스냅 샷하는 기능 및 스냅 샷을 읽기 전용 또는 쓰기 가능한 파티션으로 마운트 할 수 있습니다. 스냅 샷은 특히 백업과 같은 경우에 매우 유용 할 수 있습니다.

개인적으로, 나는 내가 구축하는 모든 박스의 모든 파티션 (/ boot 제외)에 LVM을 사용하며 지난 4 년간 그렇게 해왔습니다. 디스크 레이아웃을 추가하거나 수정하려는 경우 비 LVM 상자를 다루는 것은 큰 고통입니다. Linux를 사용하는 경우 LVM을 사용해야합니다. [참고 : LVM의 위 내용은 그것이 무엇이며 스토리지 방정식에 어떻게 적용되는지 더 잘 설명하기 위해 업데이트되었습니다.]

RAID는 습격없이 서버를 사용하지 않습니다. 디스크 가격이 저렴하기 때문에 RAID1 또는 RAID10을 사용합니다. 더 빠르고 간단하며 훨씬 강력합니다.

솔직히, 우분투 (일반적으로 권장하는)에 얽매이지 않거나 상자가 다른 작업을 수행하지 않는 한 OpenFiler 을 살펴볼 수 있습니다 . 웹 인터페이스를 사용하여 박스를 스토리지 어플라이언스로 전환하고 모든 RAID / LVM / etc 등을 처리하고 스토리지를 SMB, NFS, iSCSI 등으로 내보낼 수 있습니다.

ZFS는 정말 안정적이며 스토리지 관리를 훨씬 쉽게 만들어줍니다. 보너스 : smb는 OpenSolaris에서 ZFS와 통합되어 있으며 Raid를 매우 잘 처리합니다. 며칠을 기다린 후 by by release 2009.6 버전을 다운로드하여 테스트 머신으로 이동하십시오. ZFS를 좋아할 것입니다.

그리고 여러분의 의견 ZFS가 새롭다는 것은 더 이상 새로운 것이 아닙니다!

가장 중요한 질문은 "이 데이터가 얼마나 중요한가?"입니다.

대답이 "쉽게 다시 만들 수 있습니다"라면 RAID5를 원할 것입니다. LVM을 사용하면 관리가 간단합니다.

대답이 "재 작성할 수 있지만 시간이 걸리고 사람들이 불만을 제기 할 것"이라면 RAID 6 또는 그 이상의 RAID 1/10을 원할 것입니다.

대답이 "아무것도 다시 만들면서 아무 작업도하지 않고 비트가 완전한지 확인하십시오"인 경우 ZFS / Raid-Z를 원합니다

항상 다시 만들 수 있습니다. RAID는 백업이 아닙니다.

동일한 섀시에 많은 드라이브를 연결하려면 하드웨어 RAID 컨트롤러가 가장 좋은 도구입니다. 드라이브를위한 많은 SATA 커넥터, RAID-5 또는 RAID-6을 통한 리던던시를 제공하며 더 나은 성능을 제공 할 수도 있습니다.

소프트웨어 RAID 성능은 종종 벤치 마크에서 하드웨어 RAID보다 우수하지만 파일 제공 및 소프트웨어 RAID는 CPU를 많이 사용하며 작업하는 동안 프로세서와 경쟁합니다. 필자의 경험에 따르면 듀얼 쿼드 코어 시스템을 사용하지 않으면 올바르게 구성된 하드웨어 RAID가 소프트웨어 RAID를 능가합니다.

리눅스 지원이 좋은 하드웨어 컨트롤러 :

• 아레카
• 3웨어
• 새로운 Adaptec 시리즈 (오래된 것은 slooooow)
• LSI MegaRAID

RAID는 LVM과 다릅니다. RAID를 사용하여 내결함성 파티션을 만들 수 있지만 LVM은 디스크 파티션 및 파일 시스템 버전을 쉽게 만드는 데 사용됩니다. LVM 또는 ZFS를 통한 RAID를 사용할 수 있습니다 (ZFS는 RAID 및 LVM 모두에서 작동 할 수 있음). 제 생각에 ZFS는 LVM보다 잘 작동하지만 다음과 같습니다.

• Solaris 10 / 11 / OpenSOlaris에서만 Linux에서 사용할 수 없습니다
• ZFS는 디스크 관리 및 파일 시스템이며, LVM은 필요한 모든 파일 시스템을 사용할 수 있습니다

우분투에서는 LVM과 함께 RAID5 MD를 사용하는 것을 선호합니다.

Nexenta와 OpenSolaris가 제공하는 제품을 살펴보면 아무 것도 얻을 수 없다는 점이 매우 기쁩니다. OpenFiler의 다음 릴리스는 FreeBSD ZFS 포트도 사용할 것이라는 소문이 있습니다.

즉, 소프트웨어에서 RAID5, RAID6 또는 RAID50을 사용하지 말고 모든 XOR 작업을 오프로드하기 위해 하드웨어 컨트롤러를 사용하는 것을 선호합니다. Linux 소프트웨어의 RAID1 및 RAID10은 꽤 잘 작동하며, LVM을 추가하여 이중화 후 블록으로 수행 한 작업에 더 많은 유연성을 부여했습니다. RAID + LVM + XFS는 내가 가장 좋아하는 Linux 구성이지만, ZFS를 언젠가는 가져갈 것입니다.

RAID 대 LVM은 실제로 별도의 역할을 수행하는 데있어 좋은 비교가되지 않으며 종종 함께 사용됩니다. RAID는 드라이브 중복에 사용되며 LVM을 사용하여 RAID 장치를 논리 볼륨으로 분할하고 크기를 쉽게 조정하고 스냅 샷을 만드는 데 사용됩니다.

매우 유사한 회사 / 상황을 위해 파일 서버를 실행했습니다. 기본적으로 30TB의 스토리지와 소규모 회사의 예산을 갖춘 3 인 그래픽 부서입니다. 일반적인 프로젝트는 0.5TB에서 6TB로 진행되었습니다. 그리고 파일 서버는 상당한 규모의 렌더링 팜을 제공하고 있었기 때문에 실제로 큰 타격을 입을 수있었습니다.

내 설정에서 외부 하드웨어 RAID6 어레이가 연결된 Linux를 실행하는 3U 서버를 실행했습니다. LVM으로 물리 볼륨과 논리 볼륨을 관리하고 XFS 파일 시스템을 실행했습니다. 내가 할 일은 각 프로젝트에 대한 논리 볼륨을 만든 다음 프로젝트가 성장함에 따라 확장하는 것입니다. 프로젝트가 끝나면 작업을 테이프로 보관하고 논리 볼륨을 날려 버릴 수 있습니다. 그러면 해당 공간이 볼륨 그룹으로 되돌아가 다음 프로젝트로 다시 할당됩니다.

이는 스토리지를 활용하는 매우 깨끗한 방법이지만이 방법에는 두 가지 단점이 있습니다. 논리 볼륨에 할당 된 공간의 양을 조정하려고 시도하면서 논리 볼륨의 크기를 미세하게 관리해야하므로 작업을 수행하기에 충분한 공간이 있지만 과도하게 할당하지 않고 공간을 낭비하게됩니다. 우리의 렌더링 팜은 하루에 많은 TB의 데이터를 생성 할 수 있었으며 이에주의를 기울이지 않으면 서둘러 공간이 부족할 것입니다. 결국 논리 볼륨에서 사용 가능한 공간의 추세를 모니터링하고 자동으로 증가시키는 일부 스크립트를 설정했습니다. 80 개 정도의 논리 볼륨이있는 경우에도 모든 논리 볼륨에 사용되지 않은 공간이 많이있었습니다. 나는 이미 두 번째 문제에 대해 암시했다 .... LVM은 실제로는 씬 프로비저닝을 수행하지 않으며 XFS에서는 파일 시스템 만 확장 할 수 있습니다. 따라서 논리 볼륨에 공간을 과도하게 할당하면 사용할 수없는 공간이 많아 질 수 있습니다.

이것은 약 5 년 전에 모두 설정되었으며 오늘 설정하는 경우 OpenSolaris 및 ZFS를 사용합니다. 주된 이유는 ZFS 풀 스토리지 접근 방식으로 볼륨 관리가 적다는 것입니다. 개별 볼륨의 크기를 미세 관리하지 않고도 각 프로젝트를 자체 파일 시스템으로 분리 할 수 ​​있습니다. ZFS에는 더 나은 선택을 할 수있는 매우 유용한 기능이 있지만 serverfault에 관한 다른 질문이 있습니다.

ZFS는 오늘날 최고의 무료 솔루션입니다.

Linux를 사용하는 경우 고려해야 할 사항 :

• 파일 시스템에 대해서도 생각하십시오. 4x 500GB 예제는 ext3에 양심을 가지고 권장하는 최대 용량에 관한 것입니다. fsck 시간이 엄청날 수 있으므로 더 큰 ext3 파일 시스템을 만드는 것은 좋지 않습니다. 하나의 큰 파일 시스템 대신 여러 개의 작은 파일을 만듭니다.
• 비디오 데이터를 언급했듯이 ext3은 대용량 파일 의 데이터를 저장하기 위해 간접, 이중 간접 및 삼중 간접 메타 데이터 블록을 생성해야하고 가격을 지불해야하기 때문에 대용량 파일을 비효율적으로 처리합니다 . 현재 ext4는 익스텐트를 지원하고 훨씬 잘 처리합니다. 그러나 그것은 새로운 것입니다. 예를 들어 Red Hat Enterprise Linux 5는 아직이를 지원하지 않습니다. (일부 엔터프라이즈 배포판은 XFS와 같은 대안을 지원할 것입니다).
• 데이터 블록에 데이터가 손상된 경우 Linux 파일 시스템에서이를 알아 차리기가 어려울 수 있습니다. 반면에 ZFS 체크섬 모든 메타 데이터 및 데이터 또한 체크섬 검증 때마다 데이터가 디스크에서 읽습니다. (배경 스크러빙도 있습니다)
• RAID 계층은 파일 시스템 (계층)의 내용을 모르기 때문에 Linux에서의 RAID 재 구축 시간 은 디스크 크기에 비례합니다. ZFS의 RAID-Z 재 구축 시간은 교체 디스크에서 사용 된 블록 만 복사 / 재 구축 되기 때문에 장애가 발생한 디스크의 실제 데이터 양에 따라 다릅니다 .
• 파일 시스템 을 스냅 샷 하시겠습니까? LVM 스냅 샷은 ZFS의 순간 스냅 샷과 비교조차되지 않습니다. 후자는 또한 최종 사용자에게 쉽게 노출 될 수 있으며, 예를 들어 용이 한 복원을 위해.
• 큰 디스크 (> 500GB)의 RAID5 (RAID-Z)뿐만 아니라 RAID6 (RAID-Z2)도 사용하십시오 . 재 구축 중에 다른 디스크가 실패 할 가능성이 있기 때문입니다.

"mdadm"유틸리티를 사용하여 드라이브에서 RAID-5 어레이를 작성하십시오.

이를 통해 필요한 중복성을 제공하므로 드라이브가 고장 나더라도 데이터 손실없이 교체 할 수 있으며 4 개 드라이브 중 3 개를 사용할 수 있습니다.

또한 RAID 위에 LVM 볼륨을 생성하여 필요에 따라 공간을 분할 할 것을 권장합니다.

AFS를 살펴볼 수 있습니다. 이를 통해 가용성 (네트워크 안팎에서이 파일에 액세스 할 수 있음)과 중복성 (파일을 복제 할 수 있음)을 측정 할 수 있습니다. 파일을 여는 워크 플로의 경우 일정 시간 동안 작업 한 다음 저장하면 네트워크 관점에서 볼 때 적어도 이전 NFS 인 NFS보다 낫습니다.

다른 답변에서 알 수 있듯이 LVM은 널리 사용되며 여러 디스크를 하나의 거대한 블록 장치처럼 보이는 단일 "볼륨 그룹"으로 결합 할 수 있습니다. 그러나이 작업을 수행하면 오류 발생 가능성이 높아집니다. 볼륨 그룹에서 전체 파일 시스템을 꺼내기 위해 하나의 디스크 만 있으면 충분하며 4 개의 디스크가 결합 된 경우 이는 4 배 더 높습니다. 이를 완화하기 위해 RAID1 또는 이와 유사하게 LVM을 사용하는 것이 가장 좋습니다. 하드웨어 RAID가 더 편리 할 수 ​​있지만 Linux 소프트웨어 RAID가 이에 적합합니다.

이 의견은 죄송하지만 담당자가 없습니다 ...

RAID-Z 또는 RAIDZ2는 RAID6보다 어떻게 더 나은 중복성을 제공합니까?

ZFS는 어디에나 체크섬을 가지고 있습니다

원래 질문에 대해. 어떤 데이터를 사용하든 10 개의 디스크 당 2 개의 활성 패리티를 사용합니다. 나는 3ware 것들이 우수한 양질의 RAID 카드를 사용할 것입니다. 개인적으로 나는 배터리 백업과 함께 하드웨어 RAID를 사용합니다. 하드웨어 수명이 다한 후 데이터를 쉽게 마이그레이션 할 수있는 LVM 파일 시스템으로서의 XFS

디스크 또는 SSD 카드를 사용하여 시스템 서버를 부팅하고 500GB를 스토리지로 사용하지 않는 이유는 무엇입니까? 하나의 500GB 디스크를 사용하고 완전히 교환되면 수동으로 교환하십시오. 나중에 다른 컴퓨터에서 백업을 수행 할 수 있습니다. 하드 디스크가 회전 (회전)하는 동안 손상 될 수 있습니다. 어쨌든 모든 디스크를 동시에 연결하면 모두 회전하고 있으며 사용 여부에 관계없이 손상을 입을 수 있습니다. 더 많은 디스크를 켜면 실패 할 가능성이 높아집니다. 한 번에 하나씩 사용하고 고장이 예상 될 때 또는 교환 할 때 교환하십시오 (SMART 기능을 사용하여 제거하십시오). 휴대용 디스크를 사용하거나 일부 외부 SCSI / SATA 디스크 어댑터를 사용하면 디스크를 교환 할 때마다 컴퓨터 서버를 분해 할 필요가 없습니다. 가장 안전하고 신뢰할 수있는 형식입니다. RAID를 사용하면 비용이 많이 들고 일부 디스크를 낭비하게됩니다 (켜지거나 어리석게 만들지 않아서 손상 될 위험이 있기 때문에 켜기). 더 많은 데이터 처리량을 원한다면 RAID 구성을 사용하는 것이 좋은 선택이지만 컴퓨터 구성을 절대 신뢰하지 않는 것 같습니다. 백업은 항상 개인 (네트워크 또는 서버 관리자)이 수동으로 수행해야합니다. 그것은 관리자의 작품 중 하나입니다. 테이프, DVD, BlueRay 또는 기타 디스크를 사용하여 백업을 수행 할 수 있습니다. 그러나 항상 안정적인 저장 매체가 필요하며 실행중인 디스크는 하나가 아닙니다. 디스크가 꺼져 있고 잘 보관되어있는 (신선하고 습기가없는 장소) 신뢰할 수있는 저장 매체입니다. 더 많은 데이터 처리량을 원한다면 RAID 구성을 사용하는 것이 좋은 선택이지만 컴퓨터 구성을 절대 신뢰하지 않는 것 같습니다. 백업은 항상 개인 (네트워크 또는 서버 관리자)이 수동으로 수행해야합니다. 그것은 관리자의 작품 중 하나입니다. 테이프, DVD, BlueRay 또는 기타 디스크를 사용하여 백업을 수행 할 수 있습니다. 그러나 항상 안정적인 저장 매체가 필요하며 실행중인 디스크는 하나가 아닙니다. 디스크가 꺼져 있고 잘 보관되어있는 (신선하고 습기가없는 장소) 신뢰할 수있는 저장 매체입니다. 더 많은 데이터 처리량을 원한다면 RAID 구성을 사용하는 것이 좋은 선택이지만 컴퓨터 구성을 절대 신뢰하지 않는 것 같습니다. 백업은 항상 개인 (네트워크 또는 서버 관리자)이 수동으로 수행해야합니다. 그것은 관리자의 작품 중 하나입니다. 테이프, DVD, BlueRay 또는 기타 디스크를 사용하여 백업을 수행 할 수 있습니다. 그러나 항상 안정적인 저장 매체가 필요하며 실행중인 디스크는 하나가 아닙니다. 디스크가 꺼져 있고 잘 보관되어있는 (신선하고 습기가없는 장소) 신뢰할 수있는 저장 매체입니다. 그러나 항상 안정적인 저장 매체가 필요하며 실행중인 디스크는 하나가 아닙니다. 디스크가 꺼져 있고 잘 보관되어있는 (신선하고 습기가없는 장소) 신뢰할 수있는 저장 매체입니다. 그러나 항상 안정적인 저장 매체가 필요하며 실행중인 디스크는 하나가 아닙니다. 디스크가 꺼져 있고 잘 보관되어있는 (신선하고 습기가없는 장소) 신뢰할 수있는 저장 매체입니다.