【tensorrt】——插件写法及python plugin大体流程

本文主要是介绍【tensorrt】——插件写法及python plugin大体流程，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

tensorrt

1. python plugin 大体流程

这是参考torch2trt写的一个python插件的大体流程，因为tensorrt是没有开源的，所以具有不确定性。

2. code

项目，是做tensorrt测试的，包括c++/python api。因为tensorrt模型的构建不是api就是转换模型之后直接推理。如果想单独测试某个layer就需要这样的小项目。

tensorrt.test

reference

1. torch2trt
2. tensorrt.test

这篇关于【tensorrt】——插件写法及python plugin大体流程的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---