Pybind11 在C++中运行python脚本操作内存数据

2024-02-26 01:36

本文主要是介绍Pybind11 在C++中运行python脚本操作内存数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

pybind11资料

官方Github:Pybind11 Github
Pybind11文档:Pybind11 文档
文档在深入使用后需要细细读懂,包括全局只能有一个解释器,如何从C++中返回指针/引用等。基本文档中需要注意的点都会遇到

Python环境安装及维护

对于正常使用人员,只要在自己机子上装好大于Python3.6的环境即可,这里我使用的是Python3.8.5:Python3.8.5 下载页

对于开发人员来说,最好是搭好一次,就随意移植。你拿到另外一个机器直接Copy还要能用。而显然原生Python是对这些不支持的,可以看博主另外一篇文章:Python环境移植

示例

下面是一个简单的示例,

// pybind11 头文件和命名空间
#include <pybind11/pybind11.h>
namespace py = pybind11;int add(int i, int j)
{return i + j;
}PYBIND11_MODULE(example, m)
{// 可选,说明这个模块是做什么的m.doc() = "pybind11 example plugin";//def( "给python调用方法名", &实际操作的函数, "函数功能说明" ). 其中函数功能说明为可选1,2为默认参数m.def("add", &add, "add function", pybind11::arg("i")=1, pybind11::arg("j")=2);
}

假如你的这个dll叫test.dll,你需要在cmake中添加改名,把他改成pyd,后缀是pyd不影响程序运行的,程序运行时还是可以正常索引,不要再生成个dll放到目录下避免内存不是同一块引起bug

#这条命令告诉cmake,我们想把生成的后缀改成pyd
set_target_properties(${PROJECT_NAME} PROPERTIES SUFFIX ".pyd")

外部如何使用呢?下面是一个python脚本,假设叫myTest.py,#执行这个脚本,result就是12

import test from *
result = add(10,2)

在C++中嵌入Python解释器

我们的程序如果要能执行外部的python脚本,我们需要
1.像示例那边。准备好我们需要导出的结构体或变量,生成pyd给外部python脚本使用
2.在程序里嵌入Python解释器
3.提供接口或界面,然后调用这个解释器执行脚本

可以直接执行导入pyd

#include <pybind11/embed.h>
#include <iostream>
namespace py = pybind11;
int main() {// 初始化Python解释器py::scoped_interpreter guard{};// 加载Python脚本py::module script = py::module::import("script");// 调用Python函数int result = script.attr("add")(1, 2).cast<int>();std::cout << "Result: " << result << std::endl;return 0;
}

或者直接执行自己写好的python文件,还可以在程序开始前设置启动参数等

 		//将环境变量添加到Python的模块搜索路径中pybind11::object sys_module = pybind11::module::import("sys");pybind11::list sys_path = sys_module.attr("path");sys_path.attr("append")(scriptDir);//清空argv,设置参数pybind11::list empty_list;sys_module.attr("argv") = empty_list;pybind11::list argv = sys_module.attr("argv");for (std::string oneArgv : rundata.allArgv){argv.append(oneArgv.toStdString());}//执行文件pybind11::eval_file(rundata.filePath.toStdString().c_str());//移除,否则影响下次执行sys_module.attr("argv") = empty_list;sys_path.attr("remove")(scriptDir);

一些BUG和注意的点

1.再次说明,Pybind11文档一定要细读
2.比如这个问题,并不一定所有模块都能被卸载,目前博主就遇到了cv2模块,安装完卸载了成功了。但是重新载入就会引发程序崩溃。目前做法是全局一个解释器,跟随程序周期走,只有其他小伙伴有内存占用特高的自写模块时才调用卸载接口,这样就能保证稳定运行
在这里插入图片描述

3.这个问题是一个多线程问题
3-1:python由于其实本身并发并不是并发,是靠锁来互斥的。
3-2:如果我们程序执行一个外部脚本出错或者崩溃了,我们解释器里try-catch会获取error的信息,问题就出在这里。
3-3:我们的解释器初始化肯定是在主线程的,但是我们为了不阻塞界面或其他任务,执行脚本时一般都是选择一个工作线程执行
3-4:这时候,工作线程执行就会出现在子线程里获锁,会出现死锁现象导致程序崩溃
3-5:如何解决?由于这个是python导致的,我们只需要将pybind11里几处错误获取锁的地方注释掉即可,我们只要外部程序保证好我们获取错误的顺序,不靠他这个锁保证互斥就没有任何问题了

这篇关于Pybind11 在C++中运行python脚本操作内存数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/747317

相关文章

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

基于MySQL Binlog的Elasticsearch数据同步实践

一、为什么要做 随着马蜂窝的逐渐发展,我们的业务数据越来越多,单纯使用 MySQL 已经不能满足我们的数据查询需求,例如对于商品、订单等数据的多维度检索。 使用 Elasticsearch 存储业务数据可以很好的解决我们业务中的搜索需求。而数据进行异构存储后,随之而来的就是数据同步的问题。 二、现有方法及问题 对于数据同步,我们目前的解决方案是建立数据中间表。把需要检索的业务数据,统一放到一张M

关于数据埋点,你需要了解这些基本知识

产品汪每天都在和数据打交道,你知道数据来自哪里吗? 移动app端内的用户行为数据大多来自埋点,了解一些埋点知识,能和数据分析师、技术侃大山,参与到前期的数据采集,更重要是让最终的埋点数据能为我所用,否则可怜巴巴等上几个月是常有的事。   埋点类型 根据埋点方式,可以区分为: 手动埋点半自动埋点全自动埋点 秉承“任何事物都有两面性”的道理:自动程度高的,能解决通用统计,便于统一化管理,但个性化定

python: 多模块(.py)中全局变量的导入

文章目录 global关键字可变类型和不可变类型数据的内存地址单模块(单个py文件)的全局变量示例总结 多模块(多个py文件)的全局变量from x import x导入全局变量示例 import x导入全局变量示例 总结 global关键字 global 的作用范围是模块(.py)级别: 当你在一个模块(文件)中使用 global 声明变量时,这个变量只在该模块的全局命名空

使用SecondaryNameNode恢复NameNode的数据

1)需求: NameNode进程挂了并且存储的数据也丢失了,如何恢复NameNode 此种方式恢复的数据可能存在小部分数据的丢失。 2)故障模拟 (1)kill -9 NameNode进程 [lytfly@hadoop102 current]$ kill -9 19886 (2)删除NameNode存储的数据(/opt/module/hadoop-3.1.4/data/tmp/dfs/na

异构存储(冷热数据分离)

异构存储主要解决不同的数据,存储在不同类型的硬盘中,达到最佳性能的问题。 异构存储Shell操作 (1)查看当前有哪些存储策略可以用 [lytfly@hadoop102 hadoop-3.1.4]$ hdfs storagepolicies -listPolicies (2)为指定路径(数据存储目录)设置指定的存储策略 hdfs storagepolicies -setStoragePo

Hadoop集群数据均衡之磁盘间数据均衡

生产环境,由于硬盘空间不足,往往需要增加一块硬盘。刚加载的硬盘没有数据时,可以执行磁盘数据均衡命令。(Hadoop3.x新特性) plan后面带的节点的名字必须是已经存在的,并且是需要均衡的节点。 如果节点不存在,会报如下错误: 如果节点只有一个硬盘的话,不会创建均衡计划: (1)生成均衡计划 hdfs diskbalancer -plan hadoop102 (2)执行均衡计划 hd

NameNode内存生产配置

Hadoop2.x 系列,配置 NameNode 内存 NameNode 内存默认 2000m ,如果服务器内存 4G , NameNode 内存可以配置 3g 。在 hadoop-env.sh 文件中配置如下。 HADOOP_NAMENODE_OPTS=-Xmx3072m Hadoop3.x 系列,配置 Nam

如何用Docker运行Django项目

本章教程,介绍如何用Docker创建一个Django,并运行能够访问。 一、拉取镜像 这里我们使用python3.11版本的docker镜像 docker pull python:3.11 二、运行容器 这里我们将容器内部的8080端口,映射到宿主机的80端口上。 docker run -itd --name python311 -p

【C++ Primer Plus习题】13.4

大家好,这里是国中之林! ❥前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。有兴趣的可以点点进去看看← 问题: 解答: main.cpp #include <iostream>#include "port.h"int main() {Port p1;Port p2("Abc", "Bcc", 30);std::cout <<