首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
被拉爆专题
【Python】使用 onnxruntime-gpu 进行推理,解决运行时间久了显存被拉爆了
1. 问题 使用 onnxruntime-gpu 进行推理,解决运行时间久了显存被拉爆了 2. C++/Python 配置 运行时,配置 provder , gpu_mem_limit 参数来进行限制,比如2G显存 21474836482 * 1024 * 1024 * 1024 Python providers = [("TensorrtExecutionProvid
阅读更多...