试试Python的__slots__魔法,再也不用担心内存不够用了!

2024-06-19 03:20

本文主要是介绍试试Python的__slots__魔法,再也不用担心内存不够用了!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

目录

1、初始之解:__slots__基础运用

1.1 __slots__魔法简介

1.2 如何节省内存空间

1.3 实战示例:类定义与性能对比

2、进阶篇:结合元类深化理解 🧠

2.1 元类回顾与应用

2.2 动态管理__slots__

2.3 高级技巧:动态添加属性

2.4 __slots__与@property装饰器

3、深入探索:__slots__限制与规避 🕵️‍♀️

3.1 __slots__限制详述

3.2 绕过限制的技巧

3.3 注意事项:继承与多态影响

4、实战案例:大型项目中的__slots__部署 🏭

4.1 选择性应用策略

4.2 性能优化实践

4.3 避免常见陷阱与误区

5、与其他内存管理手段比较 🔍

5.1 __dict__与__slots__深度剖析

5.2 weakref与gc模块辅助优化

5.3 数据类dataclasses与__slots__

6、总结与展望 🚀



1、初始之解:__slots__基础运用

在Python的世界里,内存管理是个不可忽视的话题,而__slots__就是这门语言提供的一项强大特性,它能帮助我们有效控制类实例的内存占用。下面,我们将逐步揭开它的神秘面纱,从基础概念到实战演练,深入探讨如何利用__slots__来优化我们的程序。

1.1 __slots__魔法简介

__slots__是一个类变量 ,用于声明类中允许绑定的属性名称列表。当一个类定义了__slots__后,Python将不会为该类的实例创建字典(__dict__)来存储属性 ,而是仅分配固定大小的空间来存放指定的属性。这种方式减少了内存消耗 ,尤其对于大量实例的类而言 ,效果显著。

1.2 如何节省内存空间

在常规情况下,Python类的每个实例都会自动获得一个字典来存储实例变量。这个字典不仅包含用户定义的属性,还可能包括类继承的属性。而__slots__通过限制实例属性的数量并直接在实例中预留位置,省去了字典的开销 ,从而节省了内存空间。

示例代码:

class ClassicClass:def __init__(self, name, age):self.name = nameself.age = ageclass SlotsClass:__slots__ = ('name', 'age')def __init__(self, name, age):self.name = nameself.age = ageimport sys# 测试内存占用
classic_instance = ClassicClass('Alice', 30)
slots_instance = SlotsClass('Bob', 28)print(f"经典类实例内存占用: {sys.getsizeof(classic_instance)} 字节")
print(f"使用__slots__类实例内存占用: {sys.getsizeof(slots_instance)} 字节")

输出结果:

经典类实例内存占用: 56 字节
使用__slots__类实例内存占用: 48 字节

1.3 实战示例:类定义与性能对比

考虑一个简单的员工类,如果不使用__slots__ ,每次创建实例时都会伴随一个字典的创建。然而,如果我们预计会有成千上万个员工对象,内存消耗将迅速累积。

# 未使用__slots__的经典员工类
class Employee:def __init__(self, id, name):self.id = idself.name = name# 使用__slots__优化的员工类
class OptimizedEmployee:__slots__ = ('id', 'name')def __init__(self, id, name):self.id = idself.name = name
import sys
# 实例化并比较内存占用
emp1 = Employee(1, 'Charlie')
emp2 = OptimizedEmployee(2, 'David')print(f"经典员工类实例内存占用: {sys.getsizeof(emp1)} 字节")
print(f"优化员工类实例内存占用: {sys.getsizeof(emp2)} 字节")

输出结果:

经典员工类实例内存占用: 56 字节
优化员工类实例内存占用: 48 字节

通过上述代码示例,我们可以直观地看到 ,在创建具有相同属性的类实例时,使用__slots__的类相比传统类能够显著减少内存占用。这对于构建高效、大规模数据处理的应用程序尤为关键。

请注意,虽然__slots__能提升内存效率 ,但它限制了动态添加属性的能力 ,并且不适用于需要高度灵活性的场景。在决定是否采用__slots__时,应当权衡内存优化与代码灵活性的需求。

2、进阶篇:结合元类深化理解 🧠

在Python的高级编程领域,元类是掌握面向对象设计的钥匙,它允许我们控制类的创建过程。当我们将元类与__slots__相结合时,可以实现对类结构的动态管理和增强,进一步优化内存使用和提升程序灵活性。

2.1 元类回顾与应用

元类是类的类,负责生成或修改类。在Python中 ,所有类本质上都是由元类创建的 ,默认元类是type。通过自定义元类 ,我们可以在类定义时执行额外操作,比如自动添加属性、方法 ,或者如我们将要展示的,动态设定__slots__

class MetaWithSlots(type):
    def __new__(cls, name, bases, dct):
        # 动态添加__slots__到类定义中
        if '__slots__' not in dct:
            dct['__slots__'] = ('id', 'name')  # 默认slots
        return super().__new__(cls, name, bases, dct)

2.2 动态管理__slots__

借助元类,我们可以在运行时动态调整__slots__配置。这对于那些需要根据特定条件或环境改变内存布局的类特别有用。例如 ,一个类可以根据配置文件决定是否启用__slots__,或根据类的用途动态调整存储的属性集合。

class DynamicSlots(metaclass=MetaWithSlots):
    pass  # 具体属性由元类动态添加dynamic_instance = DynamicSlots()
print(f"动态类实例内存占用: {sys.getsizeof(dynamic_instance)} 字节")

2.3 高级技巧:动态添加属性

尽管__slots__</

这篇关于试试Python的__slots__魔法,再也不用担心内存不够用了!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1073865

相关文章

python: 多模块(.py)中全局变量的导入

文章目录 global关键字可变类型和不可变类型数据的内存地址单模块(单个py文件)的全局变量示例总结 多模块(多个py文件)的全局变量from x import x导入全局变量示例 import x导入全局变量示例 总结 global关键字 global 的作用范围是模块(.py)级别: 当你在一个模块(文件)中使用 global 声明变量时,这个变量只在该模块的全局命名空

NameNode内存生产配置

Hadoop2.x 系列,配置 NameNode 内存 NameNode 内存默认 2000m ,如果服务器内存 4G , NameNode 内存可以配置 3g 。在 hadoop-env.sh 文件中配置如下。 HADOOP_NAMENODE_OPTS=-Xmx3072m Hadoop3.x 系列,配置 Nam

【Python编程】Linux创建虚拟环境并配置与notebook相连接

1.创建 使用 venv 创建虚拟环境。例如,在当前目录下创建一个名为 myenv 的虚拟环境: python3 -m venv myenv 2.激活 激活虚拟环境使其成为当前终端会话的活动环境。运行: source myenv/bin/activate 3.与notebook连接 在虚拟环境中,使用 pip 安装 Jupyter 和 ipykernel: pip instal

【机器学习】高斯过程的基本概念和应用领域以及在python中的实例

引言 高斯过程(Gaussian Process,简称GP)是一种概率模型,用于描述一组随机变量的联合概率分布,其中任何一个有限维度的子集都具有高斯分布 文章目录 引言一、高斯过程1.1 基本定义1.1.1 随机过程1.1.2 高斯分布 1.2 高斯过程的特性1.2.1 联合高斯性1.2.2 均值函数1.2.3 协方差函数(或核函数) 1.3 核函数1.4 高斯过程回归(Gauss

【学习笔记】 陈强-机器学习-Python-Ch15 人工神经网络(1)sklearn

系列文章目录 监督学习:参数方法 【学习笔记】 陈强-机器学习-Python-Ch4 线性回归 【学习笔记】 陈强-机器学习-Python-Ch5 逻辑回归 【课后题练习】 陈强-机器学习-Python-Ch5 逻辑回归(SAheart.csv) 【学习笔记】 陈强-机器学习-Python-Ch6 多项逻辑回归 【学习笔记 及 课后题练习】 陈强-机器学习-Python-Ch7 判别分析 【学

nudepy,一个有趣的 Python 库!

更多资料获取 📚 个人网站:ipengtao.com 大家好,今天为大家分享一个有趣的 Python 库 - nudepy。 Github地址:https://github.com/hhatto/nude.py 在图像处理和计算机视觉应用中,检测图像中的不适当内容(例如裸露图像)是一个重要的任务。nudepy 是一个基于 Python 的库,专门用于检测图像中的不适当内容。该

pip-tools:打造可重复、可控的 Python 开发环境,解决依赖关系,让代码更稳定

在 Python 开发中,管理依赖关系是一项繁琐且容易出错的任务。手动更新依赖版本、处理冲突、确保一致性等等,都可能让开发者感到头疼。而 pip-tools 为开发者提供了一套稳定可靠的解决方案。 什么是 pip-tools? pip-tools 是一组命令行工具,旨在简化 Python 依赖关系的管理,确保项目环境的稳定性和可重复性。它主要包含两个核心工具:pip-compile 和 pip

HTML提交表单给python

python 代码 from flask import Flask, request, render_template, redirect, url_forapp = Flask(__name__)@app.route('/')def form():# 渲染表单页面return render_template('./index.html')@app.route('/submit_form',

JVM内存调优原则及几种JVM内存调优方法

JVM内存调优原则及几种JVM内存调优方法 1、堆大小设置。 2、回收器选择。   1、在对JVM内存调优的时候不能只看操作系统级别Java进程所占用的内存,这个数值不能准确的反应堆内存的真实占用情况,因为GC过后这个值是不会变化的,因此内存调优的时候要更多地使用JDK提供的内存查看工具,比如JConsole和Java VisualVM。   2、对JVM内存的系统级的调优主要的目的是减少

JVM 常见异常及内存诊断

栈内存溢出 栈内存大小设置:-Xss size 默认除了window以外的所有操作系统默认情况大小为 1MB,window 的默认大小依赖于虚拟机内存。 栈帧过多导致栈内存溢出 下述示例代码,由于递归深度没有限制且没有设置出口,每次方法的调用都会产生一个栈帧导致了创建的栈帧过多,而导致内存溢出(StackOverflowError)。 示例代码: 运行结果: 栈帧过大导致栈内存