1 问题

今天使用TensorRT 8.5的trtexec工具转换具有动态维度输入的onnx模型时出现了以下的提示信息

Using PreviewFeaturekFASTER_DYNAMIC_SHAPES_0805 can help improve performance and resolve potential functional issues

意思 使用预览特征kFASTER_DYNAMIC_SHAPES_0805可以提供性能和处理潜在的函数问题，之前我的转换命令行如下

trtexec --onnx=example.onnx --saveEngine=example.trt --workspace=102400 --minShapes=video:1x10x512 --optShapes=video:1x232x512 --maxShapes=video:1x500x512

那么我们如果要使用kFASTER_DYNAMIC_SHAPES_0805，我们可以使用--preview命令行参数标志预览特征，那么修改之后的命令行如下

trtexec --onnx=example.onnx --saveEngine=example.trt --workspace=102400 --minShapes=video:1x10x512 --optShapes=video:1x232x512 --maxShapes=video:1x500x512 --preview=+fasterDynamicShapes0805

使用这个命令，在转换动态维度输入的onnx模型时就不会再出现上述警告了。