被拉爆专题

【Python】使用 onnxruntime-gpu 进行推理,解决运行时间久了显存被拉爆了

1. 问题 使用 onnxruntime-gpu 进行推理,解决运行时间久了显存被拉爆了 2. C++/Python 配置 运行时,配置 provder , gpu_mem_limit 参数来进行限制,比如2G显存 21474836482 * 1024 * 1024 * 1024 Python providers = [("TensorrtExecutionProvid