是否有一种方法可以让Python程序确定它当前使用了多少内存?我看到过关于单个对象的内存使用情况的讨论,但我需要的是进程的总内存使用情况,这样我就可以确定何时需要开始丢弃缓存的数据。
当前回答
Linux上当前进程的当前内存使用情况,适用于Python 2、Python 3和pypy,没有任何导入:
def getCurrentMemoryUsage():
''' Memory usage in kB '''
with open('/proc/self/status') as f:
memusage = f.read().split('VmRSS:')[1].split('\n')[0][:-3]
return int(memusage.strip())
它读取当前进程的状态文件,取VmRSS:之后的所有内容,然后取第一个换行符之前的所有内容(隔离VmRSS的值),最后切掉最后3个字节,即一个空格和单位(kB)。 为了返回,它删除任何空白并将其作为数字返回。
在Linux 4.4和4.9上进行了测试,但即使是早期的Linux版本也应该工作:在man proc中查找/proc/$PID/status文件中的信息,它提到了一些字段的最低版本(如Linux 2.6.10的“VmPTE”),但“VmRSS”字段(我在这里使用)没有这样的提及。因此,我认为它已经在那里的早期版本。
其他回答
对于Python 3.6和psutil 5.4.5,使用这里列出的memory_percent()函数更容易。
import os
import psutil
process = psutil.Process(os.getpid())
print(process.memory_percent())
Linux上当前进程的当前内存使用情况,适用于Python 2、Python 3和pypy,没有任何导入:
def getCurrentMemoryUsage():
''' Memory usage in kB '''
with open('/proc/self/status') as f:
memusage = f.read().split('VmRSS:')[1].split('\n')[0][:-3]
return int(memusage.strip())
它读取当前进程的状态文件,取VmRSS:之后的所有内容,然后取第一个换行符之前的所有内容(隔离VmRSS的值),最后切掉最后3个字节,即一个空格和单位(kB)。 为了返回,它删除任何空白并将其作为数字返回。
在Linux 4.4和4.9上进行了测试,但即使是早期的Linux版本也应该工作:在man proc中查找/proc/$PID/status文件中的信息,它提到了一些字段的最低版本(如Linux 2.6.10的“VmPTE”),但“VmRSS”字段(我在这里使用)没有这样的提及。因此,我认为它已经在那里的早期版本。
对于基于Unix的系统(Linux、Mac OS X、Solaris),可以使用标准库模块资源中的getrusage()函数。结果对象具有ru_maxrss属性,该属性给出了调用进程的内存使用峰值:
>>> resource.getrusage(resource.RUSAGE_SELF).ru_maxrss
2656 # peak memory usage (kilobytes on Linux, bytes on OS X)
Python文档不记录单位。请参考您的特定系统的man getusage。2页检查该单位的值。在Ubuntu 18.04中,单位是千字节。在Mac OS X上,它是字节。
getrusage()函数也可以被赋予资源。获取子进程和(在某些系统上)资源的使用情况。RUSAGE_BOTH用于总(自我和子)进程使用情况。
如果你只关心Linux,你也可以阅读/proc/self/status或/proc/self/statm文件,就像这个问题和这个问题的其他答案中描述的那样。
甚至比/proc/self/status更容易使用:/proc/self/statm.它只是一个由几个统计数据以空格分隔的列表。我无法判断这两个文件是否始终存在。
/proc/[pid]/statm Provides information about memory usage, measured in pages. The columns are: size (1) total program size (same as VmSize in /proc/[pid]/status) resident (2) resident set size (same as VmRSS in /proc/[pid]/status) shared (3) number of resident shared pages (i.e., backed by a file) (same as RssFile+RssShmem in /proc/[pid]/status) text (4) text (code) lib (5) library (unused since Linux 2.6; always 0) data (6) data + stack dt (7) dirty pages (unused since Linux 2.6; always 0)
这里有一个简单的例子:
from pathlib import Path
from resource import getpagesize
PAGESIZE = getpagesize()
PATH = Path('/proc/self/statm')
def get_resident_set_size() -> int:
"""Return the current resident set size in bytes."""
# statm columns are: size resident shared text lib data dt
statm = PATH.read_text()
fields = statm.split()
return int(fields[1]) * PAGESIZE
data = []
start_memory = get_resident_set_size()
for _ in range(10):
data.append('X' * 100000)
print(get_resident_set_size() - start_memory)
生成的列表如下所示:
0
0
368640
368640
368640
638976
638976
909312
909312
909312
你可以看到,在大约分配了3次10万字节后,它增加了大约30万字节。
在Windows上,你可以使用WMI(主页,cheeseshop):
def memory():
import os
from wmi import WMI
w = WMI('.')
result = w.query("SELECT WorkingSet FROM Win32_PerfRawData_PerfProc_Process WHERE IDProcess=%d" % os.getpid())
return int(result[0].WorkingSet)
在Linux上(来自python烹饪书http://code.activestate.com/recipes/286222/:
import os
_proc_status = '/proc/%d/status' % os.getpid()
_scale = {'kB': 1024.0, 'mB': 1024.0*1024.0, 'KB': 1024.0, 'MB': 1024.0*1024.0}
def _VmB(VmKey):
'''Private.'''
global _proc_status, _scale
# get pseudo file /proc/<pid>/status
try:
t = open(_proc_status)
v = t.read()
t.close()
except:
return 0.0 # non-Linux?
# get VmKey line e.g. 'VmRSS: 9999 kB\n ...'
i = v.index(VmKey)
v = v[i:].split(None, 3) # whitespace
if len(v) < 3:
return 0.0 # invalid format?
# convert Vm value to bytes
return float(v[1]) * _scale[v[2]]
def memory(since=0.0):
'''Return memory usage in bytes.'''
return _VmB('VmSize:') - since
def resident(since=0.0):
'''Return resident memory usage in bytes.'''
return _VmB('VmRSS:') - since
def stacksize(since=0.0):
'''Return stack size in bytes.'''
return _VmB('VmStk:') - since
推荐文章
- 证书验证失败:无法获得本地颁发者证书
- 当使用pip3安装包时,“Python中的ssl模块不可用”
- 无法切换Python与pyenv
- Python if not == vs if !=
- 如何从scikit-learn决策树中提取决策规则?
- 为什么在Mac OS X v10.9 (Mavericks)的终端中apt-get功能不起作用?
- 将旋转的xtick标签与各自的xtick对齐
- 为什么元组可以包含可变项?
- 如何合并字典的字典?
- 如何创建类属性?
- 不区分大小写的“in”
- 在Python中获取迭代器中的元素个数
- 解析日期字符串并更改格式
- 使用try和。Python中的if
- 如何在Python中获得所有直接子目录