1 TensorRT中workspace的作用 TensorRT提供了workspace作为每层网络执行时的临时存储空间,该空间时共享的,目的是为了减少显存占用。 在使用TensorRT SDK时,在…
- TensorRT
- 2022-12-21
1 问题 今天使用TensorRT 8.5的trtexec工具转换具有动态维度输入的onnx模型时出现了以下的提示信息 Using PreviewFeaturekFASTER_DYNAMIC_SHAP…
- TensorRT
- 2022-12-15
1 使用TensorRT C++ SDK编译出现无法解析的外部符号 "class sample::Logger sample::gLogger" 错误 今天在使用TensorRT C++ SDK写模型…
- TensorRT
- 2022-12-12
1 比较onnx模型和TensorRT模型推理结果的必要性 在进行模型部署的时候,如果我们使用TensorRT对模型加速,那么一般都会采用深度学习框架>onnx模型>TensorRT模型的技术路线,在…
- TensorRT
- 2022-12-12
1 onnx_grapgsurgeon 1.1 onnx_grapgsurgeon简介 onnx_grapgsurgeon是NVIDIA提供的创建和修改onnx模型的便捷易用工具库。 Github:h…
- TensorRT
- 2022-12-05
1 Error Code 2: Internal Error (Slice_74 requires bool or uint8 I/O but node can not be handled by M…
- TensorRT
- 2022-12-02
1 TensortRT转换模型出现Could not locate zlibwapi.dll. Please make sure it is in your library path!错误 1.1 问…
- TensorRT
- 2022-12-01
1 TensorRT 8.2 EA版本支持爱因斯坦求和算子Einsum NVIDIA在2021年10月6日发布的TensorRT新版本 8.2 Early Access版本终于开始支持爱因斯坦求和算子…
- TensorRT
- 2021-10-12
1 问题:TensorRT暂时未实现einsum算子 在ST-GCN中使用了爱因斯坦求和算子torch.einsum, def forward(self, x, A): assert A.size(0…
- TensorRT
- 2021-10-08
1 切换python虚拟环境 在Anaconda中激活安装了Polygraphy包以及其依赖项的python环境,以下所有的操作都需要在此虚拟环境中操作,Polygraphy的安装可参考:https:…
- TensorRT
- 2021-10-05