Python 구조의 메모리 내 크기


118

32 비트 및 64 비트 플랫폼에서 Python 데이터 구조의 메모리 크기에 대한 참조가 있습니까?

그렇지 않다면 이것은 그것을 가지고 있으면 좋을 것입니다. 더 철저할수록 좋습니다! 그렇다면 다음 파이썬 구조에서 얼마나 많은 바이트가 사용 len됩니까 (관련된 경우 및 콘텐츠 유형 에 따라 다름 )?

  • int
  • float
  • 참고
  • str
  • 유니 코드 문자열
  • tuple
  • list
  • dict
  • set
  • array.array
  • numpy.array
  • deque
  • 새로운 스타일의 클래스 객체
  • 구식 클래스 객체
  • ... 그리고 내가 잊고있는 모든 것!

(다른 객체에 대한 참조 만 유지하는 컨테이너의 경우 공유 될 수 있으므로 항목 자체의 크기를 계산하고 싶지 않습니다.)

또한 런타임에 객체가 사용하는 메모리를 가져 오는 방법이 있습니까 (재귀 적이든 아니든)?


많은 유용한 설명이 여기 stackoverflow.com/questions/1059674/python-memory-model 에서 찾을 수 있습니다 . 좀 더 체계적인 개요를보고 싶습니다
LeMiz

3
NumPy 배열 a의 경우 a.nbytes.

이 그래픽보기에 관심이
있으시면

답변:


145

이에 대한 이전 질문 의 권장 사항은 sys.getsizeof () 를 사용하는 것입니다 .

>>> import sys
>>> x = 2
>>> sys.getsizeof(x)
14
>>> sys.getsizeof(sys.getsizeof)
32
>>> sys.getsizeof('this')
38
>>> sys.getsizeof('this also')
48

이 접근 방식을 취할 수 있습니다.

>>> import sys
>>> import decimal
>>> 
>>> d = {
...     "int": 0,
...     "float": 0.0,
...     "dict": dict(),
...     "set": set(),
...     "tuple": tuple(),
...     "list": list(),
...     "str": "a",
...     "unicode": u"a",
...     "decimal": decimal.Decimal(0),
...     "object": object(),
... }
>>> for k, v in sorted(d.iteritems()):
...     print k, sys.getsizeof(v)
...
decimal 40
dict 140
float 16
int 12
list 36
object 8
set 116
str 25
tuple 28
unicode 28

2012-09-30

python 2.7 (Linux, 32 비트) :

decimal 36
dict 136
float 16
int 12
list 32
object 8
set 112
str 22
tuple 24
unicode 32

Python 3.3 (Linux, 32 비트)

decimal 52
dict 144
float 16
int 14
list 32
object 8
set 112
str 26
tuple 24
unicode 26

2016-08-01

OSX, Python 2.7.10 (기본값, 2015 년 10 월 23 일, 19:19:21) [GCC 4.2.1 호환 Apple LLVM 7.0.0 (clang-700.0.59.5)] on darwin

decimal 80
dict 280
float 24
int 24
list 72
object 16
set 232
str 38
tuple 56
unicode 52

1
감사합니다. 두 번째 질문에 대한 속임수에 대해 죄송합니다 ... 너무 나쁩니다 2.6이 아닌 2.5를 사용하고 있습니다 ...
LeMiz 2009-08-25

최근 우분투가있는 가상 상자가 있다는 것을 잊었습니다! 이상합니다. sys.getsizeof (dict)는 저에게 136입니다 (OS X에서 호스팅하는 kubuntu vm에서 실행되는 Python 2.6, 그래서 나는 아무것도 확신하지 못합니다)
LeMiz

@LeMiz : 나를 위해 (Python 2.6, Windows XP SP3), sys.getsizeof (dict)-> 436; sys.getsizeof (dict ())-> 140
John Machin

LeMiz-Kubuntu : python2.6 Python 2.6.2 (release26-maint, 2009 년 4 월 19 일, 01:56:41) [GCC 4.3.3] on linux2 유형 "help", "copyright", "credits"또는 "license" 자세한 내용은. >>> import sys >>> sys.getsizeof (dict) 436 >>> sys.getsizeof (dict ()) 136
LeMiz

1
값은 안 0, 0.0, ''u''일관성을 위해?
SilentGhost

37

나는 그러한 작업에 pympler 를 기꺼이 사용하고 있습니다. 여러 버전의 Python과 호환됩니다.asizeof . 특히 모듈은 2.2로 돌아갑니다!

예를 들어, hughdbrown의 예제를 사용하지만 from pympler import asizeof시작과 print asizeof.asizeof(v)끝 부분에는 (MacOSX 10.5의 시스템 Python 2.5)가 있습니다.

$ python pymp.py 
set 120
unicode 32
tuple 32
int 16
decimal 152
float 16
list 40
object 0
dict 144
str 32

분명히 여기에 몇 가지 근사치가 있지만 발자국 분석 및 조정에 매우 유용하다는 것을 알았습니다.


1
몇 가지 호기심 : 대부분의 숫자가 4 개 더 높습니다. 개체는 0입니다. 그리고 소수는 당신의 추정치에 의해 약 4 배 더 큽니다.
hughdbrown

1
네. "4 더 높음"은 실제로 대부분 "8의 배수로 반올림"하는 것처럼 보이며 여기에서 malloc이 작동하는 방식에 맞다고 생각합니다. 소수점이 왜 그렇게 왜곡되는지 알 수 없습니다 (2.6에서도 pympler 사용).
Alex Martelli

2
실제로 sys.getsizeof ()와 유사한 기능을 얻으려면 pympler.asizeof.flatsize ()를 사용해야합니다. 사용할 수있는 align = 매개 변수도 있습니다 (Alex가 지적한대로 기본적으로 8입니다).
Pankrat

@AlexMartelli 안녕하세요 알렉스! .. 파이썬에서 문자의 최소 크기가 25 바이트 인 이유. >>> getsizeof('a')제공 25>>> getsizeof('ab')제공 26`
Grijesh 차우

1
심지어 pythonhosted.org/Pympler, 나는 가정하자 크기는 바이트이지만, 왜 아무데도 기록되지 것
Zhomart

35

이 답변은 모두 얕은 크기 정보를 수집합니다. 이 질문에 대한 방문자는 "이 복잡한 개체가 메모리에서 얼마나 큰가요?"라는 질문에 답하기 위해 여기에서 끝날 것이라고 생각합니다.

여기에 훌륭한 답변이 있습니다 : https://goshippo.com/blog/measure-real-size-any-python-object/

핵심 :

import sys

def get_size(obj, seen=None):
    """Recursively finds size of objects"""
    size = sys.getsizeof(obj)
    if seen is None:
        seen = set()
    obj_id = id(obj)
    if obj_id in seen:
        return 0
    # Important mark as seen *before* entering recursion to gracefully handle
    # self-referential objects
    seen.add(obj_id)
    if isinstance(obj, dict):
        size += sum([get_size(v, seen) for v in obj.values()])
        size += sum([get_size(k, seen) for k in obj.keys()])
    elif hasattr(obj, '__dict__'):
        size += get_size(obj.__dict__, seen)
    elif hasattr(obj, '__iter__') and not isinstance(obj, (str, bytes, bytearray)):
        size += sum([get_size(i, seen) for i in obj])
    return size

이렇게 사용 :

In [1]: get_size(1)
Out[1]: 24

In [2]: get_size([1])
Out[2]: 104

In [3]: get_size([[1]])
Out[3]: 184

Python의 메모리 모델을 더 깊이 알고 싶다면 여기에 긴 설명의 일부로 유사한 "총 크기"코드 스 니펫이있는 훌륭한 기사가 있습니다. https://code.tutsplus.com/tutorials/understand-how- 많은 메모리 파이썬 객체 사용 --cms-25609


따라서 이것은 예를 들어 여러 배열 및 / 또는 다른 dict를 포함하는 dict에서 사용되는 총 메모리 양을 산출해야합니다.
Charly Empereur-mot

1
@ CharlyEmpereur-mot 예.
Kobold

좋은 대답입니다. 그러나 컴파일 된 cython 객체에는 작동하지 않는 것 같습니다. 필자의 경우이 메서드는 96메모리 내 cython 개체에 대한 포인터를 반환 합니다.
ferdynator

8

메모리 프로파일 러를 사용해보십시오. 메모리 프로파일 러

Line #    Mem usage  Increment   Line Contents
==============================================
     3                           @profile
     4      5.97 MB    0.00 MB   def my_func():
     5     13.61 MB    7.64 MB       a = [1] * (10 ** 6)
     6    166.20 MB  152.59 MB       b = [2] * (2 * 10 ** 7)
     7     13.61 MB -152.59 MB       del b
     8     13.61 MB    0.00 MB       return a

1
정밀도는 1 / 100MB 또는 10.24 바이트로 보입니다. 이것은 거시적 분석에는 좋지만 그러한 정밀도가 질문에서 묻는 데이터 구조의 정확한 비교로 이어질 것이라고 의심합니다.
Zoran Pavlovic

7

또한 guppy 모듈을 사용할 수 있습니다 .

>>> from guppy import hpy; hp=hpy()
>>> hp.heap()
Partition of a set of 25853 objects. Total size = 3320992 bytes.
 Index  Count   %     Size   % Cumulative  % Kind (class / dict of class)
     0  11731  45   929072  28    929072  28 str
     1   5832  23   469760  14   1398832  42 tuple
     2    324   1   277728   8   1676560  50 dict (no owner)
     3     70   0   216976   7   1893536  57 dict of module
     4    199   1   210856   6   2104392  63 dict of type
     5   1627   6   208256   6   2312648  70 types.CodeType
     6   1592   6   191040   6   2503688  75 function
     7    199   1   177008   5   2680696  81 type
     8    124   0   135328   4   2816024  85 dict of class
     9   1045   4    83600   3   2899624  87 __builtin__.wrapper_descriptor
<90 more rows. Type e.g. '_.more' to view.>

과:

>>> hp.iso(1, [1], "1", (1,), {1:1}, None)
Partition of a set of 6 objects. Total size = 560 bytes.
 Index  Count   %     Size   % Cumulative  % Kind (class / dict of class)
     0      1  17      280  50       280  50 dict (no owner)
     1      1  17      136  24       416  74 list
     2      1  17       64  11       480  86 tuple
     3      1  17       40   7       520  93 str
     4      1  17       24   4       544  97 int
     5      1  17       16   3       560 100 types.NoneType

0

tracemallocPython 표준 라이브러리 의 모듈을 사용할 수도 있습니다. 예를 들어 Pympler와 달리 클래스가 C로 구현 된 객체에 대해 잘 작동하는 것 같습니다.


-1

dir([object])내장 함수 를 사용하면 내장 함수를 얻을 수 있습니다 __sizeof__.

>>> a = -1
>>> a.__sizeof__()
24
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.