리눅스에서 메모리 조각화를 감지하는 방법이 있습니까? 오래 실행되는 일부 서버에서 성능 저하가 나타 났으며 프로세스를 다시 시작한 후에 만 ​​더 나은 성능을 볼 수 있기 때문입니다. 리눅스의 거대한 페이지 지원을 사용할 때 더 많은 것을 알았습니다. 리눅스의 거대한 페이지는 조각화되기 쉽습니다.

특히 / proc / buddyinfo를 살펴 보았습니다. CLI 명령 자체, 프로그램 또는 이론적 배경이 아닌 더 나은 방법이 있는지 확인하고 싶습니다.

linux 태그에 응답하고 있습니다. 내 대답은 Linux 에만 해당됩니다 .

예, 큰 페이지는 조각화되기 쉽습니다. 메모리에 대한 두 가지보기가 있는데, 하나는 프로세스가 가져오고 (가상) 커널이 관리하는 (실제)입니다. 모든 페이지가 클수록, 특히 서비스가 기본적으로 할당되어 더 많은 메모리에 쓰는 다른 시스템을 지원해야하는 시스템에서 서비스를 실행하는 경우 주변 장치를 그룹화 (및 유지)하기가 더 어려워집니다. 실제로 사용합니다.

커널의 (실제) 부여 된 주소 매핑은 비공개입니다. 커널이 사용자 공간을 혼동하지 않고 오버 커밋 할 수 있어야하기 때문에 사용자 공간이 커널이 제시하는 것으로 사용자 공간을 보는 이유는 매우 좋습니다. 프로세스는 훌륭하고 연속적인 "Disneyfied" 주소 공간을 얻습니다 . 커널이 실제로 메모리 뒤에서 수행하는 작업을 알지 못합니다 .

당신이 오랫동안 실행하는 서버에서 성능 저하를 볼 수있는 이유는 대부분 명시 적으로 고정 (예를 들면되지 않은 할당 된 블록 때문입니다 mlock()/ mlockall()또는 posix_madvise()한 동안 수정)하지가 한 페이지 아웃 읽기가있을 때 디스크에 서비스 스키드을 의미한다, 그들. 이 동작을 수정하면 프로세스가 나쁜 이웃 이되므로 많은 사람들이 RDBMS를 web / php / python / ruby ​​/ whatever와 완전히 다른 서버에 배치합니다. 이 문제를 해결하는 유일한 방법은 인접한 블록에 대한 경쟁을 줄이는 것입니다.

페이지 A가 메모리에 있고 페이지 B가 스왑으로 이동 한 경우에만 조각화가 눈에 able니다 (대부분의 경우). 당연히 서비스를 다시 시작하면 이것을 '치료'하는 것처럼 보이지만 커널이 아직 초과 커밋 비율의 범위 내에서 새로 할당 된 블록 (현재)을 프로세스를 페이징 아웃 할 기회가 없었기 때문입니다.

실제로, 높은로드 상태에서 'apache'를 다시 시작하면 (아파치) 다른 서비스가 소유 한 블록을 디스크로 바로 보낼 수 있습니다. 따라서 'apache'는 짧은 시간 동안 향상되지만 'mysql'은 .. 최소한 충분한 물리적 메모리가 부족할 때 커널이 똑같이 고통을 겪을 때까지 겪을 수 있습니다.

더 많은 메모리를 추가하거나 까다로운 malloc()소비자를 분리하십시오 .

시도 vmstat실제로 어디에 저장되어 있는지에 대한 개요를 얻을 수 있습니다.

핵심

현재 조각화 인덱스를 사용하려면 다음을 사용하십시오.

sudo cat /sys/kernel/debug/extfrag/extfrag_index

커널 메모리 조각 모음을 실행하려면 다음을 수행하십시오.

sysctl vm.compact_memory=1  

또한 THP (Transparent Huge Pages)를 끄거나 스왑을 비활성화 (또는 감소 swappiness) 해보십시오 .

사용자 공간

사용자 공간 조각화를 줄이려면 다른 할당자를 시도해보십시오 jemalloc( 예 : 훌륭한 내부 검사 기능 이있어 할당 자 내부 조각화에 내부를 제공합니다).

프로그램을 다시 컴파일하거나 다음을 사용하여 프로그램을 실행하여 사용자 정의 malloc으로 전환 할 수 있습니다 LD_PRELOAD. LD_PRELOAD=${JEMALLOC_PATH}/lib/libjemalloc.so.1 app ( THP와 메모리 메모리 할당 자 간의 상호 작용에 주의하십시오 )

메모리 조각화와 약간 관련이 없지만 (메모리 압축 / 마이그레이션에 연결됨) 각 NUMA 노드마다 하나씩 여러 서비스 인스턴스를 실행하여을 사용하여 바인딩하려는 경우가 있습니다 numactl.

큰 페이지를 사용하면 Linux에서 추가 메모리 조각화가 발생하지 않아야합니다. 방대한 페이지에 대한 Linux 지원은 공유 메모리 (shmget 또는 mmap를 통해)에 대해서만 사용되며 사용 된 방대한 페이지는 시스템 관리자가 특별히 요청하고 사전 할당해야합니다. 일단 메모리에 있으면 고정되어 스왑되지 않습니다. 메모리 조각화에 직면하여 거대한 페이지를 교체해야하는 문제는 정확히 메모리에 고정되어있는 이유입니다 (2MB의 대용량 페이지를 할당 할 때 커널은 512 개의 연속 된 사용 가능한 4KB 페이지를 찾아야하는데 이는 존재하지 않을 수도 있음).

거대한 페이지의 Linux 설명서 : http://lwn.net/Articles/375098/

메모리 조각화로 인해 큰 페이지 할당 속도가 느려질 수 있지만 (큰 페이지로 인해 메모리 조각화가 발생하는 경우는 아님) 한 가지 상황이 있습니다 . 이는 응용 프로그램에서 요청한 경우 시스템이 큰 페이지 풀을 늘리도록 구성된 경우입니다. / proc / sys / vm / nr_overcommit_hugepages가 / proc / sys / vm / nr_hugepages보다 큰 경우이 문제가 발생할 수 있습니다.

이 /proc/buddyinfo매우 유용하다. 이 Python 스크립트와 같이 멋진 출력 형식으로 더 유용합니다.

https://gist.github.com/labeneator/9574294

거대한 페이지의 경우 2097152 (2MiB) 크기 이상의 무료 조각이 필요합니다. 투명한 거대한 페이지의 경우 커널에 일부를 요청하면 자동으로 압축되지만 얼마나 많은 수를 볼 수 있는지 보려면 루트 실행으로하십시오.

echo 1 | sudo tee /proc/sys/vm/compact_memory

또한 큰 페이지는 조각화에 큰 문제를 일으 킵니다. 거대한 페이지를 얻을 수 없거나 그 존재로 인해 커널이 추가 정보를 얻으려고 많은 시간을 소비합니다.

나에게 맞는 해결책이 있습니다. 몇 대의 서버와 랩톱에서 사용합니다. 가상 머신에 적합합니다.

kernelcore=4GLinux 커널 명령 행에 옵션을 추가하십시오 . 내 서버에서는 8G를 사용합니다. 커널이 해당 메모리 외부에있는 것을 할당하지 못하므로 숫자에주의하십시오. 많은 소켓 버퍼가 필요하거나 수백 개의 드라이브에 디스크 쓰기를 스트리밍하는 서버는 이와 같이 제한되지 않습니다. 슬래브 또는 DMA에 대해 "고정"되어야하는 모든 메모리 할당이이 범주에 있습니다.

다른 메모리는 모두 "이동식"이되어 엄청난 페이지 할당을 위해 멋진 덩어리로 압축 될 수 있습니다. 이제 투명한 거대한 페이지가 예상대로 이륙하고 작동 할 수 있습니다. 커널에 2M 페이지가 더 필요할 때마다 4K 페이지를 다른 곳에 다시 매핑 할 수 있습니다.

그리고 이것이 제로 카피 직접 IO와 어떻게 상호 작용하는지는 확실하지 않습니다. "이동식 영역"의 메모리는 고정되어 있지 않지만 직접 IO 요청은 DMA에 대해 정확히 수행합니다. 복사 할 수 있습니다. 어쨌든 가동 영역에 고정 될 수 있습니다. 두 경우 모두 아마 당신이 원하는 것이 아닐 수도 있습니다.