C++ 扩展python(二)简单的mpi(使用SWIG)上

2023-12-27 02:32

本文主要是介绍C++ 扩展python(二)简单的mpi(使用SWIG)上,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 

上一篇实现了一个简单的C++函数对python的扩展,但是其实现方法需要对C/C++扩展python有很深的了解,对我而言目前的学习成本过高,因此有了这一篇博客:

swig是一个包装和接口生成器工具,可以为C/C++程序构建生成各种脚本语言的调用接口。

使用 SWIG 包装 C/C++ 程序是比较简单的,只需要编写一个 .i 接口文件,在其中声明调用接口和完成所需的类型映射即可。如要了解更多,可参考完整的 SWIG 使用文档,此处我们只以以下简单的例子来展示用 SWIG 包装 C 语言 MPI 程序以供 mpi4py 调用的方法。SWIG 的 .i 接口文件有点类似于 C/C++ 的头文件,最简单的包装 C 语言方法是直接将一段 C 程序代码放入 .i 接口文件的 %{ %} 之间,并在外面完成类型映射及声明要导出的函数接口。

我们将此函数放入接口文件 helloworld.i 的 %{ %} 之间,并在下面声明其函数原型,因为其参数为一个 MPI_Comm 类型的通信子,还需要指明一个由 mpi4py 中的通信子到 MPI_Comm 类型的映射,这个映射在 mpi4py 软件中包含的 mpi4py.i 中定义,因此需要 include mpi4py/mpi4py.i。

因为我的需求是扩展mpi通信,所以索性这次的例子先直接上手一个mpi点对点通信的简单测试。

完整的接口文件如下:

/* hello.i */%module hello%{#define MPICH_SKIP_MPICXX 1
#define OMPI_SKIP_MPICXX  1#include <mpi.h>
#include <stdio.h>int sayhello(MPI_Comm comm) {int size, rank;int value;MPI_Status status;char pname[MPI_MAX_PROCESSOR_NAME]; int len;if (comm == MPI_COMM_NULL) {printf("You passed MPI_COMM_NULL !!!\n");return -1;}MPI_Comm_size(comm, &size);MPI_Comm_rank(comm, &rank);MPI_Get_processor_name(pname, &len);pname[len] = 0;printf("Hello, World! I am process %d of %d on %s.\n",rank, size, pname);int x;if(rank == 0){value = 2;MPI_Send(&value, 1, MPI_INT, 1, 0, comm);}else{MPI_Recv(&value, 1, MPI_INT, 0, 0, comm, &status);}return value;
}%}%include mpi4py/mpi4py.i%mpi4py_typemap(Comm, MPI_Comm);int sayhello(MPI_Comm comm);

使用 swig 工具和以上的接口文件就可以产生两个包装文件:hello_wrap.c 和 hello.py,命令如下(注意将其中的头文件路径改成你的系统中实际的路径):

$ swig -python -I/path/to/python/lib/python3.8/site-packages/mpi4py/include -o hello_wrap.c hello.i

生成的 helloworld_wrap.c 文件是对 sayhello 函数的一个包装,而生成的 helloworld.py 中有如下语句:

...import _hello...def sayhello(*args):return _hello.sayhello(*args)
sayhello = _hello.sayhello

由此可见我们还需要由 hello_wrap.c 编译出一个名称为 _hello.so 的扩展库才能被 Python 导入和使用,编译所用的命令同我们在上一篇中介绍的命令几乎一致,此次我们使用mpi进行编译,如下(注意将其中的头文件路径改成你的系统中实际的路径):

mpicc -I/.../anaconda3/include/python3.8 -I/.../anaconda3/lib/python3.8/site-packages/mpi4py/include  -o _hello.so hello_wrap.c -fPIC -shared -lpthread -ldl -lutil -lm -lpython2.7

在编译时需要给出相应的库,如果不知道自己的自己的路径可以通过在命令行输入如下命令来获取依赖库的位置:

python -c "import sysconfig; print( sysconfig.get_path('include') )"
python -c "import mpi4py; print( mpi4py.get_include() )"

 

下面我们写一个test.py来进行简单的测试。 

import hello as ho
from mpi4py import MPIcomm = MPI.COMM_WORLD
rank = comm.Get_rank()
x = ho.sayhello(comm)
print("rank is %d, x= %d"%(rank,x))

测试结果如下,嗯简单实现成功了。

但是这种编译方式对于真正的项目开发而言还是有些繁琐,所以接下将近一步学习相应的扩展过程。

 

本文大部分内容借鉴自:

https://www.jianshu.com/p/558d4f3e4bfb

https://www.jianshu.com/p/104fd3775fed

感谢大佬的分享,这个博主详细的写了很多关于mpi4py的东西,从最基础的开始到后面的扩展部分,想快速学习mpi4py的童鞋可以去看看。

这篇关于C++ 扩展python(二)简单的mpi(使用SWIG)上的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/541617

相关文章

讯飞webapi语音识别接口调用示例代码(python)

《讯飞webapi语音识别接口调用示例代码(python)》:本文主要介绍如何使用Python3调用讯飞WebAPI语音识别接口,重点解决了在处理语音识别结果时判断是否为最后一帧的问题,通过运行代... 目录前言一、环境二、引入库三、代码实例四、运行结果五、总结前言基于python3 讯飞webAPI语音

基于Python开发PDF转PNG的可视化工具

《基于Python开发PDF转PNG的可视化工具》在数字文档处理领域,PDF到图像格式的转换是常见需求,本文介绍如何利用Python的PyMuPDF库和Tkinter框架开发一个带图形界面的PDF转P... 目录一、引言二、功能特性三、技术架构1. 技术栈组成2. 系统架构javascript设计3.效果图

Java使用Mail构建邮件功能的完整指南

《Java使用Mail构建邮件功能的完整指南》JavaMailAPI是一个功能强大的工具,它可以帮助开发者轻松实现邮件的发送与接收功能,本文将介绍如何使用JavaMail发送和接收邮件,希望对大家有所... 目录1、简述2、主要特点3、发送样例3.1 发送纯文本邮件3.2 发送 html 邮件3.3 发送带

Win32下C++实现快速获取硬盘分区信息

《Win32下C++实现快速获取硬盘分区信息》这篇文章主要为大家详细介绍了Win32下C++如何实现快速获取硬盘分区信息,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 实现代码CDiskDriveUtils.h#pragma once #include <wtypesbase

使用DeepSeek搭建个人知识库(在笔记本电脑上)

《使用DeepSeek搭建个人知识库(在笔记本电脑上)》本文介绍了如何在笔记本电脑上使用DeepSeek和开源工具搭建个人知识库,通过安装DeepSeek和RAGFlow,并使用CherryStudi... 目录部署环境软件清单安装DeepSeek安装Cherry Studio安装RAGFlow设置知识库总

Python如何在Word中生成多种不同类型的图表

《Python如何在Word中生成多种不同类型的图表》Word文档中插入图表不仅能直观呈现数据,还能提升文档的可读性和专业性,本文将介绍如何使用Python在Word文档中创建和自定义各种图表,需要的... 目录在Word中创建柱形图在Word中创建条形图在Word中创建折线图在Word中创建饼图在Word

Python Excel实现自动添加编号

《PythonExcel实现自动添加编号》这篇文章主要为大家详细介绍了如何使用Python在Excel中实现自动添加编号效果,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1、背景介绍2、库的安装3、核心代码4、完整代码1、背景介绍简单的说,就是在Excel中有一列h=会有重复

Python FastAPI入门安装使用

《PythonFastAPI入门安装使用》FastAPI是一个现代、快速的PythonWeb框架,用于构建API,它基于Python3.6+的类型提示特性,使得代码更加简洁且易于绶护,这篇文章主要介... 目录第一节:FastAPI入门一、FastAPI框架介绍什么是ASGI服务(WSGI)二、FastAP

Spring-AOP-ProceedingJoinPoint的使用详解

《Spring-AOP-ProceedingJoinPoint的使用详解》:本文主要介绍Spring-AOP-ProceedingJoinPoint的使用方式,具有很好的参考价值,希望对大家有所帮... 目录ProceedingJoinPoijsnt简介获取环绕通知方法的相关信息1.proceed()2.g

Python中Windows和macOS文件路径格式不一致的解决方法

《Python中Windows和macOS文件路径格式不一致的解决方法》在Python中,Windows和macOS的文件路径字符串格式不一致主要体现在路径分隔符上,这种差异可能导致跨平台代码在处理文... 目录方法 1:使用 os.path 模块方法 2:使用 pathlib 模块(推荐)方法 3:统一使