本文主要是介绍centos7 arm服务器编译安装onnxruntime-gpu,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
前言
ONNX Runtime是适用于Linux,Windows和Mac上ONNX格式的机器学习模型的高性能推理引擎,但在arm服务器上,onnxruntime只有CPU版的,GPU版的没有,因此需要自行去编译GPU版本的才可以。
环境准备
1、python3.8
2、cmake:2.26.0版本以上,可以直接下载aarch64版本的进行安装Releases · Kitware/CMake (github.com)
3、gcc:需要9.2版本以下,可以查看该篇文章进行编译【centos7 arm服务器编译安装gcc 9.2】
4、onnxruntime源码:GitHub - microsoft/onnxruntime: ONNX Runtime: cross-platform, high
这篇关于centos7 arm服务器编译安装onnxruntime-gpu的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!