Ubuntu 18.04 LTS安装numba python性能优化的比较:numba,pypy, cython

2024-01-02 14:38

本文主要是介绍Ubuntu 18.04 LTS安装numba python性能优化的比较:numba,pypy, cython,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 

 

安装很简单, 我就不多废话了, 直接上指令:

sudo apt-get install llvm
sudo -H pip install numba

python 程序性能优化的套路一般有两种:1)jit, 即just in time compiler, 即时编译器,在运行时将某些函数编译成二进程代码,使用这种方式的有:numba 和pypy;2)将python代码转换成c++/c代码,然后编译执行,这种方式有:cython和nuitka。总而言之,转换成c++/c代码以后编译成二进制文件执行的效率比用numba和pypy即时编译执行的效率要高。

1. 首先看一下python写的求质数的函数 以及 用 numba的jit优化的函数

# main.py# 纯python语言写的求质数的代码
def primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p# 使用numba的jit优化的代码,只需要在上面的函数加一行代码
from numba import jit@jit
def primes_jit(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p


 

2. 新建一个primes.pyx文件,写一个cython函数,其中声明了变量的类型

# primes.pyxdef primes(int nb_primes):cdef int n, i, len_pcdef int p[1000]if nb_primes > 1000:nb_primes = 1000len_p = 0  # The current number of elements in p.n = 2while len_p < nb_primes:# Is n prime?for i in p[:len_p]:if n % i == 0:break# If no break occurred in the loop, we have a prime.else:p[len_p] = nlen_p += 1n += 1# Let's return the result in a python list:result_as_list  = [prime for prime in p[:len_p]]return result_as_list


再建立一个primes_python.pyx文件,新建一个和之前python里面写的一样的函数,作为对比。

# primes_python.pyxdef primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p


新建setup.py文件,用来编译.pyx函数

from distutils.core import setup
from Cython.Build import cythonizesetup(ext_modules=cythonize(["primes.pyx", "primes_python.pyx"],annotate=True)
)


 
# 编译命令用这个

# python setup.py build_ext --inplace


使用python setup.py build_ext --inplace编译后可以得到.pyd文件,就是可以导入的python库了。

3. 修改一下main.py, 加入函数调用和度量

# main.py 的完整内容import primes
import primes_python
import timeit
from numba import jitdef primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p@jit
def primes_jit(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return pif __name__ == "__main__":repeat_times = 1000t1 = timeit.timeit(stmt="primes_python(1000)",setup="from __main__ import primes_python", number=repeat_times)print(f"run in python: {t1}s")t2 = timeit.timeit(stmt="primes.primes(1000)",setup="import primes", number=repeat_times)print(f"run cython with cdef: {t2}s")t3 = timeit.timeit(stmt="primes_jit(1000)",setup="from __main__ import primes_jit", number=repeat_times)print(f"run in python with numba jit: {t3}s")t4 = timeit.timeit(stmt="primes_python.primes_python(1000)",setup="import primes_python", number=repeat_times)print(f"run cython without cdef: {t4}s")运行一下,得到的结果如下:run in python: 28.519053545829927s
run cython with cdef: 1.6289360376895452s
run in python with numba jit: 2.0565857326599577s
run cython without cdef: 13.221758278866588s


4. 测试一下pypy的结果,建立primes_pypy.py文件:

# primes_pypy.pyimport timeitdef primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return pif __name__ == "__main__":repeat_times = 1000t1 = timeit.timeit(stmt="primes_python(1000)",setup="from __main__ import primes_python", number=repeat_times)print(f"run in pypy: {t1}s")


使用pypy3 primes_pypy.py 运行文件, 得到结果如下:

run in pypy: 3.0445395345987682s
5.  nuitka的暂时没弄出来, 总体的运行结果如下:

run in python: 28.519053545829927s
run cython with cdef: 1.6289360376895452s
run in python with numba jit: 2.0565857326599577s
run cython without cdef: 13.221758278866588srun in pypy: 3.0445395345987682s


基本上jit的效果很明显,也不用改动python代码。

原文链接:https://blog.csdn.net/xiaozisheng2008_/article/details/85266511

这篇关于Ubuntu 18.04 LTS安装numba python性能优化的比较:numba,pypy, cython的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/562745

相关文章

如何将Python彻底卸载的三种方法

《如何将Python彻底卸载的三种方法》通常我们在一些软件的使用上有碰壁,第一反应就是卸载重装,所以有小伙伴就问我Python怎么卸载才能彻底卸载干净,今天这篇文章,小编就来教大家如何彻底卸载Pyth... 目录软件卸载①方法:②方法:③方法:清理相关文件夹软件卸载①方法:首先,在安装python时,下

python uv包管理小结

《pythonuv包管理小结》uv是一个高性能的Python包管理工具,它不仅能够高效地处理包管理和依赖解析,还提供了对Python版本管理的支持,本文主要介绍了pythonuv包管理小结,具有一... 目录安装 uv使用 uv 管理 python 版本安装指定版本的 Python查看已安装的 Python

使用Python开发一个带EPUB转换功能的Markdown编辑器

《使用Python开发一个带EPUB转换功能的Markdown编辑器》Markdown因其简单易用和强大的格式支持,成为了写作者、开发者及内容创作者的首选格式,本文将通过Python开发一个Markd... 目录应用概览代码结构与核心组件1. 初始化与布局 (__init__)2. 工具栏 (setup_t

Python中局部变量和全局变量举例详解

《Python中局部变量和全局变量举例详解》:本文主要介绍如何通过一个简单的Python代码示例来解释命名空间和作用域的概念,它详细说明了内置名称、全局名称、局部名称以及它们之间的查找顺序,文中通... 目录引入例子拆解源码运行结果如下图代码解析 python3命名空间和作用域命名空间命名空间查找顺序命名空

Python如何将大TXT文件分割成4KB小文件

《Python如何将大TXT文件分割成4KB小文件》处理大文本文件是程序员经常遇到的挑战,特别是当我们需要把一个几百MB甚至几个GB的TXT文件分割成小块时,下面我们来聊聊如何用Python自动完成这... 目录为什么需要分割TXT文件基础版:按行分割进阶版:精确控制文件大小完美解决方案:支持UTF-8编码

基于Python打造一个全能文本处理工具

《基于Python打造一个全能文本处理工具》:本文主要介绍一个基于Python+Tkinter开发的全功能本地化文本处理工具,它不仅具备基础的格式转换功能,更集成了中文特色处理等实用功能,有需要的... 目录1. 概述:当文本处理遇上python图形界面2. 功能全景图:六大核心模块解析3.运行效果4. 相

如何在pycharm安装torch包

《如何在pycharm安装torch包》:本文主要介绍如何在pycharm安装torch包方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录在pycharm安装torch包适http://www.chinasem.cn配于我电脑的指令为适用的torch包为总结在p

Python中的魔术方法__new__详解

《Python中的魔术方法__new__详解》:本文主要介绍Python中的魔术方法__new__的使用,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、核心意义与机制1.1 构造过程原理1.2 与 __init__ 对比二、核心功能解析2.1 核心能力2.2

在PyCharm中安装PyTorch、torchvision和OpenCV详解

《在PyCharm中安装PyTorch、torchvision和OpenCV详解》:本文主要介绍在PyCharm中安装PyTorch、torchvision和OpenCV方式,具有很好的参考价值,... 目录PyCharm安装PyTorch、torchvision和OpenCV安装python安装PyTor

Python虚拟环境终极(含PyCharm的使用教程)

《Python虚拟环境终极(含PyCharm的使用教程)》:本文主要介绍Python虚拟环境终极(含PyCharm的使用教程),具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,... 目录一、为什么需要虚拟环境?二、虚拟环境创建方式对比三、命令行创建虚拟环境(venv)3.1 基础命令3