HPC의 로컬 메모리 / 계산, 네트워크 대기 시간 및 대역폭 지터에 대한 통계 모델


11

병렬 계산은 종종 결정 론적 로컬 계산 속도, 대기 시간 오버 헤드 및 네트워크 대역폭을 사용하여 모델링됩니다. 실제로, 이들은 공간적으로 가변적이고 비 결정적입니다. Skinner 및 Kramer (2005)와 같은 연구는 다중 모달 분포를 관찰하지만 성능 분석은 항상 결정 론적 또는 가우시안 분포를 사용하는 것으로 보입니다 (정확하지 않고 부정적 대기 시간의 긍정적 가능성으로 인해 일치하지 않음).

고 충실도 통계 모델이 개발 되었습니까? 로컬 컴퓨팅 / 메모리, 대기 시간 및 대역폭 변동에서 상호 상관을 설명합니까?


안녕하세요 제드, 저는 리틀의 법칙이 자주 사용된다는 것을 알고 있습니다.
vanCompute

답변:


3

컴퓨터 과학의 관점에서 나는 메모리 액세스 시간 (대기 시간) 및 메모리 대역폭에 대한 일반적인 통계 모델 을 만드는 것이 이치에 맞지 않다고 생각합니다 .

알고리즘에 대한 통계 모델 을 만드는 것이 합리적 입니다. 즉, 각 알고리즘은 특정 메모리 액세스 패턴을 가지고 있기 때문에 메모리 액세스 패턴은 캐시 계층 구조와 관련이 있습니다. 예를 들어 데이터 로컬 성이 높은 알고리즘은 다른 알고리즘은 메모리 액세스 시간이 매우 빠른 저수준 캐시를 활용합니다. RAM까지 (또는 최악의 스왑 메모리) 사용하고 액세스 시간이 매우 느립니다.

범용 값이 보기의 아키텍처 관점에서 제공됩니다, 당신은 당신의 구조를 확인할 수 있습니다 주어진 메모리 위치에 주어진 코어에서 액세스 시간 검색 (의는 L3 캐시를 가정 해 봅시다). 최신 아키텍처는 Non Uniform Memory Access NUMA 이므로 작업이 조금 더 어려워집니다.

당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.