빠른 근거리 통신망을 구축하는 방법


35

영화 제작을하고 있으며 매우 큰 원본 영상 파일에 매우 빠르게 액세스해야합니다. 현재 내부 하드 드라이브에 eSATA 6Gbps 도크를 사용하고 있는데, 드라이브 속도는 매우 빠릅니다.

서버를 사용하고 네트워크를 통해 내 워크 스테이션에 연결하는 경우 어떤 기술 (상당히 저렴한 기술)을 사용하여 드라이브 속도에 근접하거나 드라이브 속도를 초과 할 수 있습니까?


12
10Gbps 이더넷은 요즘 "예산이 있다면 저렴한"범위에 속합니다. 그러나 8 또는 16Gbps SAN (스토리지 영역 네트워크-파이버 채널)이 특정 용도에 더 적합 할 수 있습니까?
Ecnerwal

3
스토리지 네트워크를 위해 특별히 설계 / 최적화되었습니다.
Ecnerwal

3
SSD를 사용하고 있습니까? 그렇지 않은 경우 필수 업그레이드입니다.
trpt4him

1
더 간단하고 저렴한 NAS와 비교할 때 SAN의 부가 가치는 없습니다.
jiggunjer

3
이 정보에 올바르게 대답하려면 더 많은 정보가 필요합니다. 어떤 양의 데이터를 저장해야하는지, 동시 사용자 수, 데이터를 어디에서 액세스합니까 (어떤 종류의 머신)? 100Gbs 네트워크는 1Gbs 네트워크 어댑터가있는 2 또는 3 시스템에서 액세스 할 경우 도움이되지 않습니다.
JFL

답변:


31

2017 년 초 온라인에서 쉽게 이용할 수있는 정보로 판단하면 초당 최대 220 메가 바이트 (1.760 기가비트 / 초)로 최대 SATA HDD가 최대 속도 인 것처럼 보입니다.

따라서 단일 드라이브의 속도를 뛰어 넘기 위해 대용량 비디오 파일의 테라 바이트 당 비용을 고려할 때 HDD로 제한되는 경우 10 기가비트 이더넷이 충분합니다.


또한 Thunderbolt Networking도 초당 10 기가비트이므로 Thunderbolt 포트가 이미 있으면이를 실험 해 볼 수 있습니다. 이더넷을 통해 스토리지를 수행하는 데 더 많은 오버 헤드가있는 반면 eSATA는 스토리지에 따라 다르기 때문에 확실하지 않지만 6 기가비트 eSATA 3 포트를 능가 할 수 있습니다. 또한 Thunderbolt는 데스크탑 버스입니다. 10 기가비트 이더넷이 처리 할 수있는 100m가 아니라 몇 미터에 불과합니다. 따라서 Thunderbolt는 옵션의 무게를 측정하는 동안 실험 및 프로토 타입 제작에 흥미가있을 수 있지만 모든 워크 스테이션과 디스크를 큰 테이블 주위에 연속적으로 연결하지 않으려는 경우 장기적인 솔루션이 아닐 수 있습니다.


그것은 단일 HDD를위한 것이 었습니다. 그러나 모든 읽기 또는 쓰기가 여러 드라이브에 분산되도록 드라이브를 RAID로 구성하면 단일 드라이브 성능보다 훨씬 나은 성능을 얻을 수 있습니다. 또한 예산에 따라 PCIe / M.2 NVME SSD를 PC에 넣어 서버 / NAS의 역할을 할 수 있으며, 빠른 스토리지 성능 (약 3.4 기가 바이트 / 초 == 27 기가비트 / 초)을 얻을 수 있습니다 드라이브.

이 경우 10 기가비트 이더넷보다 빠른 것을 원할 수 있지만 온라인을 둘러 보면 가격이 10 기가비트 이더넷을 크게 넘어서는 것처럼 보입니다. 따라서 여러 10 기가비트 링크에서 링크 집계를 수행 할 수 있습니다. 또한 온라인에서 중고 40Gbps InfiniBand와 같은 네트워크 장비를 사용하여 eBay에서 중고 장비를 구매하는 데 따르는 번거 로움을 신경 쓰지 않으면 eBay에서 저렴한 먼지로 구입할 수 있다는 일화를 보았습니다.


1
여러 10Gbit NIC + 본딩은 어떻습니까?
André Borie

2
본딩은 별도의 흐름이 다른 물리적 링크를 사용하도록 허용하지만 단일 흐름은 하나의 NIC 만 사용합니다. 따라서 여러 파일을 동시에 다른 사람에게 제공 할 때 유용하지만 단일 파일 액세스의 대역폭을 늘리지 않습니다.
JFL

4
@JohnU 아니요, 이더넷은 표준 1500 바이트 프레임에서 94 % 효율적이며 점보 프레임에서 더 좋습니다. 나는 시도조차하지 않고 930 + Mbps의 처리량을 일상적으로 봅니다. 기가비트 이더넷은 허브를 허용하지 않고 스위치 만 허용하므로 항상 전이중이므로 충돌이 없습니다.
Spiff

1
@JFL 이더넷 본딩 (IEEE 802.3ad 링크 집계)은 플로우 별이 아닌 패킷 별로드를 분산시킵니다. 네트워킹 기술은 일반적으로 이산 계층으로 설계되기 때문에 이더넷 (계층 2, 데이터 링크 계층)은 IP 또는 TCP와 같은 프로토콜 위의 프로토콜에 대해 전혀 알지 못하므로 흐름에 대해서는 전혀 알지 못합니다.
Spiff

2
@ JFL Linux 집계는 확실히 layer3 + 정보를 사용할 수 있습니다 (Linux는 많은 특이한 일을 할 수 있습니다), 유용한 본딩 방법을 지원하려면 실제로 양면이 필요하다는 것을 기억하십시오. 스위치에 연결하는 경우 스위치가 지원하는 기능을 실제로 사용할 수 있습니다.
Zoredache

5

SATA 디스크를 사용하는 경우 10Gb 이더넷을 구현하고 서버에 적당한 크기의 RAID10을 구축하면 단일 SATA 디스크보다 눈에 띄게 성능이 향상됩니다. 필요한만큼 많은 워크 스테이션간에 서버를 공유하고 나중에 스위치를 추가하여 추가 할 수 있기 때문에 이는 투자 가치가 있습니다. Cat-5E가 절단하지 않으므로 Cat-6 이더넷 케이블을 실행해야합니다. 계산에이 비용을 추가하는 것을 잊지 마십시오. SSD를 캐시로 추가하여 시스템 속도를 더욱 높일 수도 있습니다. 비디오 장면을 사용하고 있기 때문에 SSD를 사용하여 순수하게 구축하는 데 비용이 많이 드는 방대한 양의 스토리지 공간이 필요하다고 가정합니다.

Dell 또는 HP에서 사전 제작 된 랙 마운트 서버를 구입하고 하드웨어 RAID 카드를 사용하거나 하드웨어 담당자가 더 많은 경우 Supermicro에서 더 저렴한 섀시를 구입하고 소프트웨어 RAID를 사용하여 직접 스토리지 머신을 구축 할 수 있습니다 Windows 또는 Linux 중 하나입니다. 소프트웨어가 각 디스크에 차례로 기록하고 다음 작업으로 넘어 가기 전에 쓰기가 완료 될 때까지 기다려야하므로 하드웨어 RAID는 RAID1이 관련 될 때 더 빠릅니다. RAID 카드는 일반적으로 두 디스크에 병렬로 기록하고 기록 작업을 캐시하여 제어권을 즉시 OS로 되돌릴 수 있습니다. 그러나 RAID0이 훨씬 빠르더라도 중복성이 없으며 단일 드라이브 장애로 인해 데이터가 완전히 손실 될 수 있습니다. 보관하려는 데이터가있을 때 RAID0을 사용하지 마십시오.

최고급에는 SAN (Storage Area Network)이 있지만 방대한 수의 개별 클라이언트에서 많은 작업을 병렬로 수행 할 수 있도록 설계되었습니다. 이것의 이점은 적은 수의 연결된 컴퓨터에 대한 처리량이 매우 높지만 사용자의 요구에 너무 과도하고 비싸다는 것입니다. 저가에는 다른 사람들이 언급 한 NAS (Network Attached Storage) 장치가 있지만 전체 서버보다 훨씬 간단하지만 NAS가 종종 블랙 박스이므로 권장하지 않습니다. 그들은 대부분의 사용자가 플러그 앤 플레이하도록 설계되었으며 결과적으로 OS를 거의 제어 할 수 없었습니다. 저는 하루 사용 후 불안정한 클라이언트 사무실을 위해 구입 한 작은 NAS를 다시 보내야했습니다.

서버를 구축 할 때 얻을 수있는 또 다른 이점은 모든 푸티지를 한 곳에 집중하여 정기적으로 백업하는 것이 실용적이고 상대적으로 쉽다는 것입니다. 백업 전략을 무시하지 마십시오. 언젠가는 그것에 의존해야합니다!


3
"소프트웨어는 각 디스크에 차례로 기록하고 다음 작업으로 넘어 가기 전에 기록이 완료 될 때까지 기다려야합니다." 그것은 수십 년 동안 사실이 아니었다. 오늘날 비 서버 디스크조차도 명령 대기열을 지원합니다. 엄밀히 말하면 DMA 소프트웨어는 기다릴 필요가 없습니다. 1998 년 이후부터 데스크톱에서 지원되었습니다.
MSalters

단일 사용자에게는 첫 번째 문장이 사실이지만 10Gb가 공유 대역폭이라는 것은 여러 사용자가 공유에 동시에 액세스하려고하면 각각의 대역폭이 결국 단일 사용자 SATA 레벨 아래로 떨어질 것임을 의미합니다.
Dan Neely

2
NAS는 정의상 특별한 장치가 아니므로 삼바 또는 NFS가있는 일반 Linux PC를 가지고이를 NAS라고 부를 수 있습니다. 주요 차이점은 파일 수준 공유와 블록 수준 공유입니다. 한 번에 하나의 클라이언트 만 블록 장치를 사용할 수 있습니다. 또한 SAN은 비용이 많이 들고 구성하는 데 시간이 오래 걸리고 더 많은 지식이 필요합니다.
jiggunjer

@jiggunjer 매우 사실이지만 Samba로 PC를 구축하는 대부분의 사람들은 NAS가 아니라 파일 서버라고합니다. 나는 단지 특수 목적 장치를 의미하는 기술을 가지고 놀고 있습니다. SAN에 대해서도 매우 그렇기 때문에 SAN을 과잉 분류했습니다.
Gargravarr

@DanNeely 예, 동시 액세스로 더 많은 클라이언트가 추가됨에 따라 각 워크 스테이션의 속도가 줄어들지 만 서버에서 나오는 총 데이터 속도는 매우 높아야합니다. SSD 캐시로 기능을 보강하면이 대부분을 보완 할 수 있습니다.
Gargravarr

3

10gbe의 유연성과 구성 용이성을 능가하는 것은 없지만 SAS는 놀랍게도 자체적으로 네트워크를 구성 할 수 있습니다.

여러 컴퓨터에서 한 번에 볼륨을 쓸 수있는 적은 수의 워크 스테이션 (n <8)의 경우 SAS가 훌륭하게 작동합니다. A를 타이 JBOD ($ 1,500)와 LSI HBA ($ 400); 우리 3,400 MB / s의 (27 Gbps의)를 SSD로 전송을 지속 얻을. JBOD에는 HBA에 대한 3 개의 업 링크가있는 내부 스위치가 있지만 더 많은 포트 수를 위해 SAS 스위치를 사용할 수 있습니다.

다음은 볼륨 중 하나의 속도 테스트입니다.

큐에 32 개의 iops가있는 2,862MB / s 순차 읽기를 표시하는 CDM5.  4k 단일 스레드 랜덤 읽기 29MB / s

내부적으로이 솔루션 은 10gbe의 클라이언트에 분산 된 저장 공간실행하는 클러스터 된 Windows 서버 와 함께 사용됩니다.

클러스터 된 Windows 서버


2

https://www.newegg.com/Product/Product.aspx?Item=N82E16820147593&cm_re=samsung_m.2- -20-147-593- - 제품

먼저 올바른 마더 보드를 제공 한 M.2 SSD는 2gb-4gb / s에 도달 할 수 있으며 가능하면 더 높아질 수 있습니다. RAID 몇 개를 함께 사용하면 속도가 훨씬 빨라집니다.

여러 개의 10GB NIC를 팀으로 구성하면 기본 속도에 근접 할 수 있습니다.

10g 이상은 더 많은 돈입니다.

40 기가비트 NIC https://www.serversupply.com/products/part_search/pid_lookup.asp?pid=263133&gclid=Cj0KEQiA9P7FBRCtoO33_LGUtPQBEiQAU_tBgIU2jZrJKf0kXFy96roOllcRkp7jFX


10GB를 초과하면 현장에서 로컬 버스 속도를 제한 요인으로 사용할 수 있습니다. : PCI-express 2.0 x16 슬롯은 이론적으로 64GBit / s이지만 모든 측면에서 오버 헤드 (버스-메모리, 드라이버 소프트웨어-메모리, CPU로드) ...) 10GBe가 회선 속도로 실행되는 경우 기뻐할 수있는 위치에 가깝게 내려갈 것입니다.
rackandboneman

2
@rackandboneman : 이것이 똑똑한 NIC를 가진 이유입니다. 10Gb / s 이더넷은 기본 속도입니다. 이더넷이 이더넷, IP 및 TCP 헤더를 처리 할 수 ​​있으므로 CPU는 실제 데이터 만 처리 할 수 ​​있습니다.
MSalters

이러한 오프 로딩 메커니즘이 응용 프로그램 시나리오와 함께 작동하고 CPU 사용을 줄
이더라도

@rackandboneman PCIe 3.0 x16이 있으므로 속도가 두 배가 될 수 있습니다.
cybernard

10gbe는 그보다 훨씬 저렴할 수 있습니다. Mellanox nic는 $ 180 이고 25gbe는 Mellanox 25gbe가 $ 300에 가깝습니다 . 당신을 죽이는 것은 스위치의 포트 비용이지만 eBay 또는 풀 메시는 그 문제를 해결합니다.
Mitch

0

광 스위치가있는 광 이더넷 카드, 패드가있는 다중 모드 또는 단일 모드를 사용하십시오. 예산이 있다면 10GBps를 모두 만들 수 있고, 듀얼 포트 파이버 카드로 링크 집계를 사용하면 20GBps를 얻을 수 있습니다. 예산에 따라 '상당히 저렴한'이라는 용어가 변경되므로 지출하고자하는 금액에 대한 실제 수치가 도움이 될 것입니다.


0

가장 저렴한 방법은 하나 대신 링크 집계 (IE 실행 N 케이블, 일반적으로 2 개)를 사용하는 것입니다.

이렇게하면 저렴한 1Gb 링크가 2Gb 링크가됩니다.

분명히 단일 클라이언트 서버에 대해 최소 4 개의 포트가 필요하다는 것을 의미합니다.


클라이언트는 2 개의 포트가 필요합니다 ... 간단한 스위치가 이것과 작동합니까? 아니면 직접 링크 여야합니까?
jiggunjer

@jiggunjer 간단한 스위치를 사용할 수 있지만이 체계를 사용하는 모든 컴퓨터 / 서버에서 특별한 구성이 필요합니다
Antzi

이 집계는 @Spiff의 답변에 언급 된 결합과 동일합니까? 어떤 경우 단일 파일 액세스에 대한 대역폭이 증가하지 않습니다 ...
jiggunjer

@jiggunjer 이것은 실제로 설정 방법에 달려 있으므로 실제로 대답 할 수 없습니다.
Antzi

1
@FlorianCastellane 최신 저렴한 하나는 구입하지 않았습니다. 사양에 따라
Antzi
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.