本文主要是介绍C++ 扩展python(二)简单的mpi(使用SWIG)上,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
上一篇实现了一个简单的C++函数对python的扩展,但是其实现方法需要对C/C++扩展python有很深的了解,对我而言目前的学习成本过高,因此有了这一篇博客:
swig是一个包装和接口生成器工具,可以为C/C++程序构建生成各种脚本语言的调用接口。
使用 SWIG 包装 C/C++ 程序是比较简单的,只需要编写一个 .i 接口文件,在其中声明调用接口和完成所需的类型映射即可。如要了解更多,可参考完整的 SWIG 使用文档,此处我们只以以下简单的例子来展示用 SWIG 包装 C 语言 MPI 程序以供 mpi4py 调用的方法。SWIG 的 .i 接口文件有点类似于 C/C++ 的头文件,最简单的包装 C 语言方法是直接将一段 C 程序代码放入 .i 接口文件的 %{ %} 之间,并在外面完成类型映射及声明要导出的函数接口。
我们将此函数放入接口文件 helloworld.i 的 %{ %} 之间,并在下面声明其函数原型,因为其参数为一个 MPI_Comm 类型的通信子,还需要指明一个由 mpi4py 中的通信子到 MPI_Comm 类型的映射,这个映射在 mpi4py 软件中包含的 mpi4py.i 中定义,因此需要 include mpi4py/mpi4py.i。
因为我的需求是扩展mpi通信,所以索性这次的例子先直接上手一个mpi点对点通信的简单测试。
完整的接口文件如下:
/* hello.i */%module hello%{#define MPICH_SKIP_MPICXX 1
#define OMPI_SKIP_MPICXX 1#include <mpi.h>
#include <stdio.h>int sayhello(MPI_Comm comm) {int size, rank;int value;MPI_Status status;char pname[MPI_MAX_PROCESSOR_NAME]; int len;if (comm == MPI_COMM_NULL) {printf("You passed MPI_COMM_NULL !!!\n");return -1;}MPI_Comm_size(comm, &size);MPI_Comm_rank(comm, &rank);MPI_Get_processor_name(pname, &len);pname[len] = 0;printf("Hello, World! I am process %d of %d on %s.\n",rank, size, pname);int x;if(rank == 0){value = 2;MPI_Send(&value, 1, MPI_INT, 1, 0, comm);}else{MPI_Recv(&value, 1, MPI_INT, 0, 0, comm, &status);}return value;
}%}%include mpi4py/mpi4py.i%mpi4py_typemap(Comm, MPI_Comm);int sayhello(MPI_Comm comm);
使用 swig 工具和以上的接口文件就可以产生两个包装文件:hello_wrap.c 和 hello.py,命令如下(注意将其中的头文件路径改成你的系统中实际的路径):
$ swig -python -I/path/to/python/lib/python3.8/site-packages/mpi4py/include -o hello_wrap.c hello.i
生成的 helloworld_wrap.c 文件是对 sayhello 函数的一个包装,而生成的 helloworld.py 中有如下语句:
...import _hello...def sayhello(*args):return _hello.sayhello(*args)
sayhello = _hello.sayhello
由此可见我们还需要由 hello_wrap.c 编译出一个名称为 _hello.so 的扩展库才能被 Python 导入和使用,编译所用的命令同我们在上一篇中介绍的命令几乎一致,此次我们使用mpi进行编译,如下(注意将其中的头文件路径改成你的系统中实际的路径):
mpicc -I/.../anaconda3/include/python3.8 -I/.../anaconda3/lib/python3.8/site-packages/mpi4py/include -o _hello.so hello_wrap.c -fPIC -shared -lpthread -ldl -lutil -lm -lpython2.7
在编译时需要给出相应的库,如果不知道自己的自己的路径可以通过在命令行输入如下命令来获取依赖库的位置:
python -c "import sysconfig; print( sysconfig.get_path('include') )"
python -c "import mpi4py; print( mpi4py.get_include() )"
下面我们写一个test.py来进行简单的测试。
import hello as ho
from mpi4py import MPIcomm = MPI.COMM_WORLD
rank = comm.Get_rank()
x = ho.sayhello(comm)
print("rank is %d, x= %d"%(rank,x))
测试结果如下,嗯简单实现成功了。
但是这种编译方式对于真正的项目开发而言还是有些繁琐,所以接下将近一步学习相应的扩展过程。
本文大部分内容借鉴自:
https://www.jianshu.com/p/558d4f3e4bfb
https://www.jianshu.com/p/104fd3775fed
感谢大佬的分享,这个博主详细的写了很多关于mpi4py的东西,从最基础的开始到后面的扩展部分,想快速学习mpi4py的童鞋可以去看看。
这篇关于C++ 扩展python(二)简单的mpi(使用SWIG)上的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!