本文主要是介绍【tensorrt】——插件写法及python plugin大体流程,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
tensorrt
1. python plugin 大体流程
这是参考torch2trt写的一个python插件的大体流程,因为tensorrt是没有开源的,所以具有不确定性。
2. code
项目,是做tensorrt测试的,包括c++/python api。因为tensorrt模型的构建不是api就是转换模型之后直接推理。如果想单独测试某个layer就需要这样的小项目。
tensorrt.test
reference
- torch2trt
- tensorrt.test
这篇关于【tensorrt】——插件写法及python plugin大体流程的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!