Ubuntu 18.04 LTS安装numba python性能优化的比较:numba,pypy, cython

2024-01-02 14:38

本文主要是介绍Ubuntu 18.04 LTS安装numba python性能优化的比较:numba,pypy, cython,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 

 

安装很简单, 我就不多废话了, 直接上指令:

sudo apt-get install llvm
sudo -H pip install numba

python 程序性能优化的套路一般有两种:1)jit, 即just in time compiler, 即时编译器,在运行时将某些函数编译成二进程代码,使用这种方式的有:numba 和pypy;2)将python代码转换成c++/c代码,然后编译执行,这种方式有:cython和nuitka。总而言之,转换成c++/c代码以后编译成二进制文件执行的效率比用numba和pypy即时编译执行的效率要高。

1. 首先看一下python写的求质数的函数 以及 用 numba的jit优化的函数

# main.py# 纯python语言写的求质数的代码
def primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p# 使用numba的jit优化的代码,只需要在上面的函数加一行代码
from numba import jit@jit
def primes_jit(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p


 

2. 新建一个primes.pyx文件,写一个cython函数,其中声明了变量的类型

# primes.pyxdef primes(int nb_primes):cdef int n, i, len_pcdef int p[1000]if nb_primes > 1000:nb_primes = 1000len_p = 0  # The current number of elements in p.n = 2while len_p < nb_primes:# Is n prime?for i in p[:len_p]:if n % i == 0:break# If no break occurred in the loop, we have a prime.else:p[len_p] = nlen_p += 1n += 1# Let's return the result in a python list:result_as_list  = [prime for prime in p[:len_p]]return result_as_list


再建立一个primes_python.pyx文件,新建一个和之前python里面写的一样的函数,作为对比。

# primes_python.pyxdef primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p


新建setup.py文件,用来编译.pyx函数

from distutils.core import setup
from Cython.Build import cythonizesetup(ext_modules=cythonize(["primes.pyx", "primes_python.pyx"],annotate=True)
)


 
# 编译命令用这个

# python setup.py build_ext --inplace


使用python setup.py build_ext --inplace编译后可以得到.pyd文件,就是可以导入的python库了。

3. 修改一下main.py, 加入函数调用和度量

# main.py 的完整内容import primes
import primes_python
import timeit
from numba import jitdef primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return p@jit
def primes_jit(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return pif __name__ == "__main__":repeat_times = 1000t1 = timeit.timeit(stmt="primes_python(1000)",setup="from __main__ import primes_python", number=repeat_times)print(f"run in python: {t1}s")t2 = timeit.timeit(stmt="primes.primes(1000)",setup="import primes", number=repeat_times)print(f"run cython with cdef: {t2}s")t3 = timeit.timeit(stmt="primes_jit(1000)",setup="from __main__ import primes_jit", number=repeat_times)print(f"run in python with numba jit: {t3}s")t4 = timeit.timeit(stmt="primes_python.primes_python(1000)",setup="import primes_python", number=repeat_times)print(f"run cython without cdef: {t4}s")运行一下,得到的结果如下:run in python: 28.519053545829927s
run cython with cdef: 1.6289360376895452s
run in python with numba jit: 2.0565857326599577s
run cython without cdef: 13.221758278866588s


4. 测试一下pypy的结果,建立primes_pypy.py文件:

# primes_pypy.pyimport timeitdef primes_python(nb_primes):p = []n = 2while len(p) < nb_primes:# Is n prime?for i in p:if n % i == 0:break# If no break occurred in the loopelse:p.append(n)n += 1return pif __name__ == "__main__":repeat_times = 1000t1 = timeit.timeit(stmt="primes_python(1000)",setup="from __main__ import primes_python", number=repeat_times)print(f"run in pypy: {t1}s")


使用pypy3 primes_pypy.py 运行文件, 得到结果如下:

run in pypy: 3.0445395345987682s
5.  nuitka的暂时没弄出来, 总体的运行结果如下:

run in python: 28.519053545829927s
run cython with cdef: 1.6289360376895452s
run in python with numba jit: 2.0565857326599577s
run cython without cdef: 13.221758278866588srun in pypy: 3.0445395345987682s


基本上jit的效果很明显,也不用改动python代码。

原文链接:https://blog.csdn.net/xiaozisheng2008_/article/details/85266511

这篇关于Ubuntu 18.04 LTS安装numba python性能优化的比较:numba,pypy, cython的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/562745

相关文章

python中列表list切分的实现

《python中列表list切分的实现》列表是Python中最常用的数据结构之一,经常需要对列表进行切分操作,本文主要介绍了python中列表list切分的实现,文中通过示例代码介绍的非常详细,对大家... 目录一、列表切片的基本用法1.1 基本切片操作1.2 切片的负索引1.3 切片的省略二、列表切分的高

基于Python实现一个PDF特殊字体提取工具

《基于Python实现一个PDF特殊字体提取工具》在PDF文档处理场景中,我们常常需要针对特定格式的文本内容进行提取分析,本文介绍的PDF特殊字体提取器是一款基于Python开发的桌面应用程序感兴趣的... 目录一、应用背景与功能概述二、技术架构与核心组件2.1 技术选型2.2 系统架构三、核心功能实现解析

通过Python脚本批量复制并规范命名视频文件

《通过Python脚本批量复制并规范命名视频文件》本文介绍了如何通过Python脚本批量复制并规范命名视频文件,实现自动补齐数字编号、保留原始文件、智能识别有效文件等功能,听过代码示例介绍的非常详细,... 目录一、问题场景:杂乱的视频文件名二、完整解决方案三、关键技术解析1. 智能路径处理2. 精准文件名

基于Python开发PDF转Doc格式小程序

《基于Python开发PDF转Doc格式小程序》这篇文章主要为大家详细介绍了如何基于Python开发PDF转Doc格式小程序,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 用python实现PDF转Doc格式小程序以下是一个使用Python实现PDF转DOC格式的GUI程序,采用T

Python使用PIL库将PNG图片转换为ICO图标的示例代码

《Python使用PIL库将PNG图片转换为ICO图标的示例代码》在软件开发和网站设计中,ICO图标是一种常用的图像格式,特别适用于应用程序图标、网页收藏夹图标等场景,本文将介绍如何使用Python的... 目录引言准备工作代码解析实践操作结果展示结语引言在软件开发和网站设计中,ICO图标是一种常用的图像

Java嵌套for循环优化方案分享

《Java嵌套for循环优化方案分享》介绍了Java中嵌套for循环的优化方法,包括减少循环次数、合并循环、使用更高效的数据结构、并行处理、预处理和缓存、算法优化、尽量减少对象创建以及本地变量优化,通... 目录Java 嵌套 for 循环优化方案1. 减少循环次数2. 合并循环3. 使用更高效的数据结构4

IDEA与JDK、Maven安装配置完整步骤解析

《IDEA与JDK、Maven安装配置完整步骤解析》:本文主要介绍如何安装和配置IDE(IntelliJIDEA),包括IDE的安装步骤、JDK的下载与配置、Maven的安装与配置,以及如何在I... 目录1. IDE安装步骤2.配置操作步骤3. JDK配置下载JDK配置JDK环境变量4. Maven配置下

使用Python开发一个图像标注与OCR识别工具

《使用Python开发一个图像标注与OCR识别工具》:本文主要介绍一个使用Python开发的工具,允许用户在图像上进行矩形标注,使用OCR对标注区域进行文本识别,并将结果保存为Excel文件,感兴... 目录项目简介1. 图像加载与显示2. 矩形标注3. OCR识别4. 标注的保存与加载5. 裁剪与重置图像

使用Python实现表格字段智能去重

《使用Python实现表格字段智能去重》在数据分析和处理过程中,数据清洗是一个至关重要的步骤,其中字段去重是一个常见且关键的任务,下面我们看看如何使用Python进行表格字段智能去重吧... 目录一、引言二、数据重复问题的常见场景与影响三、python在数据清洗中的优势四、基于Python的表格字段智能去重

Python中如何控制小数点精度与对齐方式

《Python中如何控制小数点精度与对齐方式》在Python编程中,数据输出格式化是一个常见的需求,尤其是在涉及到小数点精度和对齐方式时,下面小编就来为大家介绍一下如何在Python中实现这些功能吧... 目录一、控制小数点精度1. 使用 round() 函数2. 使用字符串格式化二、控制对齐方式1. 使用