Oracle Linux VM에서 높은 활성 (파일) 메모리 사용량

0

최근에 Linux 메모리 관리에 대한 많은 게시물과 질문을 검색하고 읽었지만 내 사례를 찾을 수 없습니다. 예를 들어, Unix StackExchange 에는 높은 메모리 사용량 에 대한 질문이 있지만 사용중인 프로세스는 없습니다 . 이 게시물에서 허용되는 답변은 가상 메모리 풍선 도움말을 설명합니다. 필자의 경우 풍선이 없습니다. vmware-toolbox-cmd stat balloon모든 노드에서 출력 은0 MB

3 개의 가상화 된 Oracle Linux VM에 CDH가있는 간단한 Hadoop 클러스터가 있습니다. 모든 것이 올바르게 구성되었습니다. 모든 Cloudera 설치 테스트가 통과되었으며 Cloudera Manager에 대한 경고가 없습니다.

새로 부팅하면 모든 것이 정상입니다. 재부팅 후 모든 노드 메모리 사용량이 합리적입니다. Cloudera Manager 및 기타 CDH 서비스에 대한 MySQL 데이터베이스 서비스를 시작합니다. 또한이 세 노드에서 설치된 모든 CDH 서비스를 시작합니다. 잠시 후, 나는 모든 노드에서 불합리한 메모리 사용을 보았습니다. 이 상태를 얻는 데 약 한 달이 걸리지 만 뭔가 잘못되었다고 생각합니다.

설치된 CDH 서비스, Cloudera Manager 서비스 및 MySQL 데이터베이스를 포함한 모든 노드에서 모든 서비스를 중지했습니다. 맨 위에는 gnome-shell과 같은 일부 Oracle Linux 기본 프로세스 만 있지만 / proc / meminfo에는 높은 Active (file) 메모리 사용량이 있습니다. 활성화 된 프로세스가 사용하지 않습니다. 다음에서는 세 노드 모두에서 일부 Linux 명령의 출력을 씁니다.

72GB 메모리가있는 첫 번째 노드 :

# top

top - 10:07:29 up 43 days, 22:10,  1 user,  load average: 0.00, 0.01, 0.05
Tasks: 335 total,   1 running, 334 sleeping,   0 stopped,   0 zombie
%Cpu(s):  0.4 us,  0.4 sy,  0.0 ni, 99.3 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem : 73964544 total, 62105912 free, 10447080 used,  1411556 buff/cache
KiB Swap: 31457276 total, 31457276 free,        0 used. 72295264 avail Mem 

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND
 9284 gdm       20   0 4493724 168588  80536 S   0.0  0.2   1:09.89 gnome-shell
  657 root      20   0  211512 139828 139328 S   0.0  0.2   2:02.12 systemd-journal
 1321 root      20   0  417540 114112 112620 S   0.0  0.2   3:38.10 rsyslogd
 9184 root      20   0  417184  30108  21796 S   0.0  0.0   0:01.46 X
 1808 root      20   0  687472  25908  12760 S   0.0  0.0  23:24.98 python2.7
 9404 gdm       20   0 1091248  24988  19520 S   0.0  0.0   0:00.60 gsd-media-keys
 9406 gdm       20   0  651064  23064  17928 S   0.0  0.0   0:00.82 gsd-power
 9387 gdm       20   0  634648  22980  17756 S   0.0  0.0   0:00.20 gsd-xsettings
 9396 gdm       20   0  657552  22976  17972 S   0.0  0.0   0:27.73 gsd-color
 9361 gdm       20   0  484424  22492  17656 S   0.0  0.0   0:00.15 ibus-x11
 9385 gdm       20   0  566536  22368  17348 S   0.0  0.0   0:00.19 gsd-wacom
 9389 gdm       20   0  570760  22276  17360 S   0.0  0.0   0:00.17 gsd-a11y-keyboa
 9402 gdm       20   0  642340  22220  17376 S   0.0  0.0   0:00.17 gsd-keyboard
 9393 gdm       20   0  484044  21852  17016 S   0.0  0.0   0:00.16 gsd-clipboard
 1059 polkitd   20   0  546320  19184   9708 S   0.0  0.0  10:11.73 polkitd
 1883 root      20   0  224860  18236   3772 S   0.0  0.0 105:21.35 python
 1982 root      20   0  212752  15816   7396 S   0.0  0.0   0:00.17 python2.7
 9419 gdm       20   0  721080  15256  13260 S   0.0  0.0   0:59.14 gsd-smartcard
 9214 gdm       20   0  696804  14056  11804 S   0.0  0.0   0:00.96 gnome-session-b
 1045 root      20   0  480552  14044  11728 S   0.0  0.0   0:29.82 NetworkManager
 9421 gdm       20   0  577744  13312  11448 S   0.0  0.0   0:00.03 gsd-sound
 9397 gdm       20   0  495504  13056  11212 S   0.0  0.0   0:00.03 gsd-datetime
 9407 gdm       20   0  484744  12320  10572 S   0.0  0.0   0:00.03 gsd-print-notif

# ps aux | awk '{sum+=$6} END {print sum / 1024}'

1163.8

# free -m

              total        used        free      shared  buff/cache   available
Mem:          72231       10201       60650         550        1378       70601
Swap:         30719           0       30719

# cat /proc/meminfo

MemTotal:       73964548 kB
MemFree:        62105864 kB
MemAvailable:   72295336 kB
Buffers:            1036 kB
Cached:           758788 kB
SwapCached:            0 kB
Active:          7807136 kB
Inactive:        2962332 kB
Active(anon):     281104 kB
Inactive(anon):   547168 kB
Active(file):    7526032 kB
Inactive(file):  2415164 kB
Unevictable:           0 kB
Mlocked:               0 kB
SwapTotal:      31457276 kB
SwapFree:       31457276 kB
Dirty:                 0 kB
Writeback:             0 kB
AnonPages:        264356 kB
Mapped:           208956 kB
Shmem:            563972 kB
Slab:             651816 kB
SReclaimable:     573188 kB
SUnreclaim:        78628 kB
KernelStack:        8592 kB
PageTables:        22452 kB
NFS_Unstable:          0 kB
Bounce:                0 kB
WritebackTmp:          0 kB
CommitLimit:    68439548 kB
Committed_AS:    2689848 kB
VmallocTotal:   34359738367 kB
VmallocUsed:      370120 kB
VmallocChunk:   34321002492 kB
HardwareCorrupted:     0 kB
AnonHugePages:         0 kB
CmaTotal:              0 kB
CmaFree:               0 kB
HugePages_Total:       0
HugePages_Free:        0
HugePages_Rsvd:        0
HugePages_Surp:        0
Hugepagesize:       2048 kB
DirectMap4k:      210880 kB
DirectMap2M:    19712000 kB
DirectMap1G:    57671680 kB

36GB 메모리가있는 두 번째 노드 :

# top

top - 10:07:58 up 43 days, 22:10,  1 user,  load average: 0.00, 0.01, 0.05
Tasks: 336 total,   1 running, 335 sleeping,   0 stopped,   0 zombie
%Cpu(s):  0.4 us,  0.4 sy,  0.0 ni, 99.3 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem : 36807704 total, 29874328 free,  5905568 used,  1027808 buff/cache
KiB Swap: 31457276 total, 31457276 free,        0 used. 35350592 avail Mem 

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND
 1865 gdm       20   0 4561224 251136  82240 S   0.0  0.7  29:28.13 gnome-shell
  649 root      20   0  211356 138832 138340 S   0.0  0.4   2:03.48 systemd-journal
 1341 root      20   0  417384 112980 111484 S   0.0  0.3   3:18.25 rsyslogd
 2229 gdm       20   0  735040  33768  17968 S   0.0  0.1 103:09.50 gsd-color
 1683 root      20   0  417204  30532  22216 S   0.0  0.1   0:23.65 X
29070 root      20   0  687476  25824  12676 S   0.0  0.1  10:43.35 python2.7
 2241 gdm       20   0 1017516  24812  19372 S   0.0  0.1   0:10.19 gsd-media-keys
 2243 gdm       20   0  651068  23196  18064 S   0.0  0.1   0:15.36 gsd-power
 2219 gdm       20   0  634644  22872  17668 S   0.0  0.1   0:00.22 gsd-xsettings
 2152 gdm       20   0  484424  22360  17536 S   0.0  0.1   0:00.15 ibus-x11
 2215 gdm       20   0  566536  22240  17236 S   0.0  0.1   0:00.18 gsd-wacom
 2240 gdm       20   0  642336  22164  17348 S   0.0  0.1   0:00.18 gsd-keyboard
 2222 gdm       20   0  570756  21880  16976 S   0.0  0.1   0:00.17 gsd-a11y-keyboa
 2225 gdm       20   0  484044  21668  16852 S   0.0  0.1   0:00.16 gsd-clipboard
 1093 polkitd   20   0  546320  19000   9556 S   0.0  0.1  10:19.18 polkitd
 1717 root      20   0  223220  16620   3812 S   0.0  0.0  44:34.87 python
 1731 root      20   0  212752  15832   7416 S   0.0  0.0   0:00.71 python2.7
 2257 gdm       20   0  721208  15032  13040 S   0.0  0.0  25:09.76 gsd-smartcard
 1750 gdm       20   0  696800  13964  11712 S   0.0  0.0   0:34.28 gnome-session-b
 1071 root      20   0  480520  13844  11500 S   0.0  0.0   0:31.47 NetworkManager
 2258 gdm       20   0  577744  13148  11276 S   0.0  0.0   0:00.04 gsd-sound
 2235 gdm       20   0  495504  12872  11028 S   0.0  0.0   0:00.03 gsd-datetime
 2245 gdm       20   0  484744  12176  10424 S   0.0  0.0   0:00.03 gsd-print-notif

# ps aux | awk '{sum+=$6} END {print sum / 1024}'

1247.77

# free -m

              total        used        free      shared  buff/cache   available
Mem:          35945        5765       29175         511        1003       34523
Swap:         30719           0       30719

# cat /proc/meminfo

MemTotal:       36807704 kB
MemFree:        29875428 kB
MemAvailable:   35351836 kB
Buffers:               0 kB
Cached:           691300 kB
SwapCached:            0 kB
Active:          5482728 kB
Inactive:         785216 kB
Active(anon):     369828 kB
Inactive(anon):   506792 kB
Active(file):    5112900 kB
Inactive(file):   278424 kB
Unevictable:           0 kB
Mlocked:               0 kB
SwapTotal:      31457276 kB
SwapFree:       31457276 kB
Dirty:                 0 kB
Writeback:             0 kB
AnonPages:        353336 kB
Mapped:           210668 kB
Shmem:            523288 kB
Slab:             336724 kB
SReclaimable:     268132 kB
SUnreclaim:        68592 kB
KernelStack:        8592 kB
PageTables:        22688 kB
NFS_Unstable:          0 kB
Bounce:                0 kB
WritebackTmp:          0 kB
CommitLimit:    49861128 kB
Committed_AS:    2750840 kB
VmallocTotal:   34359738367 kB
VmallocUsed:      268540 kB
VmallocChunk:   34340171772 kB
HardwareCorrupted:     0 kB
AnonHugePages:         0 kB
CmaTotal:              0 kB
CmaFree:               0 kB
HugePages_Total:       0
HugePages_Free:        0
HugePages_Rsvd:        0
HugePages_Surp:        0
Hugepagesize:       2048 kB
DirectMap4k:      180160 kB
DirectMap2M:     9256960 kB
DirectMap1G:    30408704 kB

24GB 메모리가있는 세 번째 노드 :

# top

top - 10:08:01 up 43 days, 22:11,  1 user,  load average: 0.00, 0.01, 0.05
Tasks: 335 total,   1 running, 334 sleeping,   0 stopped,   0 zombie
%Cpu(s):  0.4 us,  0.7 sy,  0.0 ni, 98.9 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem : 24422436 total, 17590640 free,  5837736 used,   994060 buff/cache
KiB Swap: 31457276 total, 31457276 free,        0 used. 23084448 avail Mem 

  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND
 1820 gdm       20   0 4556244 244876  82152 S   0.0  1.0  28:58.89 gnome-shell
  647 root      20   0  211328 139016 138516 S   0.0  0.6   2:01.63 systemd-journal
 1330 root      20   0  417356 112584 111100 S   0.0  0.5   2:56.85 rsyslogd
 2084 gdm       20   0  661304  33656  17880 S   0.0  0.1  90:41.83 gsd-color
 1669 root      20   0  417184  30612  22296 S   0.0  0.1   0:23.21 X
 1838 root      20   0  687472  25684  12540 S   0.0  0.1  22:38.69 python2.7
 2094 gdm       20   0 1230516  24960  19484 S   0.0  0.1   0:10.22 gsd-media-keys
 2098 gdm       20   0  651064  23148  18020 S   0.0  0.1   0:15.32 gsd-power
 2076 gdm       20   0  634648  23000  17804 S   0.0  0.1   0:00.20 gsd-xsettings
 2074 gdm       20   0  566536  22348  17348 S   0.0  0.1   0:00.21 gsd-wacom
 2079 gdm       20   0  570756  22080  17180 S   0.0  0.1   0:00.16 gsd-a11y-keyboa
 2035 gdm       20   0  484424  22024  17204 S   0.0  0.1   0:00.14 ibus-x11
 2093 gdm       20   0  642336  21904  17088 S   0.0  0.1   0:00.17 gsd-keyboard
 2083 gdm       20   0  484044  21816  16996 S   0.0  0.1   0:00.18 gsd-clipboard
 1071 polkitd   20   0  546312  18812   9372 S   0.0  0.1  10:10.08 polkitd
 1719 root      20   0  222800  16056   3708 S   0.0  0.1  31:42.76 python
 1724 root      20   0  212752  15692   7276 S   0.0  0.1   0:00.62 python2.7
 2111 gdm       20   0  721080  15116  13120 S   0.0  0.1  23:53.20 gsd-smartcard
 1714 gdm       20   0  696800  13876  11620 S   0.0  0.1   0:34.06 gnome-session-b
 1049 root      20   0  480512  13872  11580 S   0.0  0.1   0:30.41 NetworkManager
 2115 gdm       20   0  577744  12984  11116 S   0.0  0.1   0:00.03 gsd-sound
 2085 gdm       20   0  495504  12848  11004 S   0.0  0.1   0:00.03 gsd-datetime
 2099 gdm       20   0  484744  12052  10304 S   0.0  0.0   0:00.02 gsd-print-notif

# ps aux | awk '{sum+=$6} END {print sum / 1024}'

1240.27

# free -m

              total        used        free      shared  buff/cache   available
Mem:          23850        5701       17177         507         970       22542
Swap:         30719           0       30719

# cat /proc/meminfo

MemTotal:       24422436 kB
MemFree:        17590524 kB
MemAvailable:   23084532 kB
Buffers:               0 kB
Cached:           687492 kB
SwapCached:            0 kB
Active:          5470816 kB
Inactive:         780568 kB
Active(anon):     361540 kB
Inactive(anon):   504624 kB
Active(file):    5109276 kB
Inactive(file):   275944 kB
Unevictable:           0 kB
Mlocked:               0 kB
SwapTotal:      31457276 kB
SwapFree:       31457276 kB
Dirty:                 0 kB
Writeback:             0 kB
AnonPages:        346348 kB
Mapped:           210440 kB
Shmem:            519888 kB
Slab:             306796 kB
SReclaimable:     241160 kB
SUnreclaim:        65636 kB
KernelStack:        8592 kB
PageTables:        22624 kB
NFS_Unstable:          0 kB
Bounce:                0 kB
WritebackTmp:          0 kB
CommitLimit:    43668492 kB
Committed_AS:    2753904 kB
VmallocTotal:   34359738367 kB
VmallocUsed:      215184 kB
VmallocChunk:   34346561532 kB
HardwareCorrupted:     0 kB
AnonHugePages:         0 kB
CmaTotal:              0 kB
CmaFree:               0 kB
HugePages_Total:       0
HugePages_Free:        0
HugePages_Rsvd:        0
HugePages_Surp:        0
Hugepagesize:       2048 kB
DirectMap4k:      180160 kB
DirectMap2M:     7159808 kB
DirectMap1G:    19922944 kB

보시다시피 Active (file)는 기본 메모리 사용량 필드입니다. 이 질문 에서 Active (file)에 대해 읽었습니다 . 답변에서 언급했듯이 active는 활성 상태 인 총 버퍼 또는 페이지 캐시 메모리의 양 (KB)입니다. 이것은 최근에 사용 된 메모리이며 일반적으로 다른 목적으로 회수되지 않습니다.

내가 말했듯이 모든 서비스가 다운되었습니다. 이 메모리를 해제하고 싶습니다. 클러스터가 실행되는 동안이 메모리는 매일 증가합니다. 모든 노드는 VMware ESXi에서 Oracle Linux 7.5로 가상화됩니다.

누군가 나 에게이 문제를 해결할 수있는 요점을 알려줍니다.

linux  virtual-machines  memory  linux-kernel  hadoop 
— 마흐디 자데
소스

답변:

0

https://www.linuxatemyram.com/ 에는 좋은 조언이 있습니다. 당황하지 마십시오! 당신의 RAM은 괜찮습니다!

그 주목 MemAvailable의 약 95 %를 MemTotal, 또는 5 %가 비 캐시 사용을 위해 할당 된 다른 방법을 넣어. 최소한이 유휴 상태 인 경우 해당 상자에 충분한 메모리가 있어야합니다.

파일 캐시는 사용 가능한 메모리이며 다른 목적으로 쉽게 사용됩니다. 의 레이블에 대해서는 걱정하지 마십시오 Active(file). 이는 다른 캐시와 관련이 있습니다. 익명, 공유 및 기타 비 파일 백업 페이지는 캐시보다 우선 순위가 높습니다.

파일 캐시는 커널에서 파일 시스템의 기능이기 때문에 사용자 프로세스가 끝난 후에도 유지됩니다. 이를 유지하면 해당 파일을 읽는 모든 프로세스의 성능이 향상됩니다. 그렇지 않으면이 메모리가 낭비됩니다. 수동 삭제는 콜드 캐시의 벤치 마크에만 유용하며 운영 절차에서는 그럴 이유가 없습니다.

— 존 마호 발트
소스
고마워 당신이 맞아요 모든 메모리를 사용하기 위해 간단한 파이썬 코드를 작성했습니다. 그 후 액티브 (파일) 메모리가 크게 줄었습니다.
— Mahdizade
0

당신이 말하는 증가는 비정상적으로 보이지 않습니다. RAM이 61/72, 29/36 및 17 / 24GB입니다. 그러한 노드의 경우 많은 경우에 초과 사용이 증가하는 것이 일반적입니다.

데이터베이스를 사용하는 많은 것들은 정의 된 양의 메모리를 미리 할당 할 수 있습니다. 예를 들어, 40GB가 SQL에 사전 할당되어 있기 때문에 항상 48GB 중 40GB를 차지하는 일부 SAP 서버를 실행합니다. 서버의 메모리 상태를 확인하면 40GB가 항상 가득 참으로 표시되므로 관련이 없습니다. 여기에는 문제가 없습니다. 나머지 8GB는 시스템을 실행하기에 충분하며 40GB for SQL은 SAP에서 발생하는 모든 작업을 처리 할 수 ​​있습니다. 이렇게하면 메모리가 부족한 서버 문제를 방지 할 수 있습니다. 그러나 이러한 경우 OS RAM 상태를 확인하는 대신 SQL에서 사전 할당 된 RAM의 양을 확인해야합니다. 아마도 그러한 전술이 상황에 더 도움이 될 수 있습니다.

— 지나치게
소스
답변 주셔서 감사합니다. 데이터베이스 서비스를 중지했는데 데몬이 없습니다. 이 램 양은 사전 할당되지 않으며 시간이 지남에 따라 증가합니다. 장기 실행 클러스터 상황에서는 모든 메모리가 채워져있는 것을 볼 수 있습니다. 프로세스가 실행되지 않고 61/72, 29/36 및 17/24 무료 GB의 RAM에 문제가 있다고 생각합니다.
— Mahdizade
서비스를 마음대로 중지 할 수 있으면 그 후 systemcache, proccache 및 sessioncache를 지우십시오. 이렇게하면 점유 된 메모리가 해제되지 않고 캐시 만 지워집니다. 또한 메모리에 대한 일부 mysql 정보는 추가 결정을 내리는 데 도움이 될 수 있습니다. select event_name, current_alloc, high_alloc from sys.memory_global_by_current_bytes 여기서 current_count> 0; (활성화되지 이미 경우는, MEM 메트릭 수집 1 일을 가능하게 할 수 있습니다 : 업데이트 setup_instruments 세트가 'YES'= ENABLED WHERE NAME LIKE '메모리 / %')
— Overmind
나는 MySQL이 문제의 원인이 아니라고 강력하게 믿는다. 72GB의 메모리가있는 첫 번째 노드에는 MySQL이 있지만 세 노드 모두에서 문제가 발생합니다. PageCache, dentries 및 inode를 # sync; echo 3 > /proc/sys/vm/drop_caches 명령으로 지 웠습니다 .
— Mahdizade
아니요, MySQL은 문제가 아니며 수신 된 데이터에만 적응할 수 있지만 동작은 최적화 / 사용자 지정할 수 있습니다.
— Overmind
당사 사이트를 사용함과 동시에 당사의 쿠키 정책과 개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.