【tensorrt】——could not find any supported formats consistent with input/output data types

本文主要是介绍【tensorrt】——could not find any supported formats consistent with input/output data types，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

tensorrt

1. 在supportsFormatCombination函数中需要返回true

  bool supportsFormatCombination(int pos,const nvinfer1::PluginTensorDesc *inOut,int nbInputs, int nbOutputs) override{cout << "in support format combination......." << endl;return true;}

2. 11893 segmentation fault (core dumped)
   这个报错就要好好找了，因为有很多可能的问题，我这里是：tensor申明错误，声明一个cpu类型，数据指针给的是GPU的。

3. 声明tensor
at::Tensor input = at::from_blob((void*) inputs[0], batch_input_sizes, [](void*){}, tensor_options);4. 上采样
at::upsample_bilinear2d_out(output, input, {size[0], size[1]}, align_corners);

5. terminate called without an active exception
   我采用pytorch写的tensorrt插件，使用的是torch2trt中的插件例子。其中有很多torchstream的事件。我注释掉哪些事件就好了。

6. 结果能出来，结果不对。
   

• 检查memcpy_htod_async数据拷贝，后面是否处理stream，不然直接换成cuda.memcpy_htod

cuda.memcpy_htod_async(d_input, h_input, stream)              # c++ 中需要处理 stream 事件
# cuda.memcpy_htod(d_input, h_input)

reference

1. torch2trt

这篇关于【tensorrt】——could not find any supported formats consistent with input/output data types的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

---