1 TensorRT was linked against cuBLAS/cuBLAS LT 11.6.1 but loaded cuBLAS/cuBLAS LT 11.5.4

使用TensorRT推理模型时,有时候会看到以下TensorRT自己打出的日志

TensorRT was linked against cuBLAS/cuBLAS LT 11.6.1 but loaded cuBLAS/cuBLAS LT 11.5.4

这是因为我们系统环境中的cuda版本不对,我们下载TensorRT的时候,从下载的文件名上,比如

TensorRT-8.2.0.6.Windows10.x86_64.cuda-11.4.cudnn8.2

我自己以为只要是下载cuda 11.4的版本就行了,之后的小版本就没在意,所以当时下载的时候我就下载了cuda 11.4.1,但是cuda 11.4.1的cuBLAS的版本只有11.5.4.8,那么如何知道哪一个cuda版本中的cuBLAS版本呢?

从Nvidia的官网中找到cuda的历史版本页面:https://docs.nvidia.com/cuda/archive/

TensorRT – TensorRT was linked against cuBLAS/cuBLAS LT 11.6.1 but loaded cuBLAS/cuBLAS LT 11.5.4错误提示-StubbornHuang Blog

找到所有的cuda 11.4的链接,再每一个点进去看它的Release Notes,在其中找到CUDA cuBLAS,其后就有版本号,如下图所示

TensorRT – TensorRT was linked against cuBLAS/cuBLAS LT 11.6.1 but loaded cuBLAS/cuBLAS LT 11.5.4错误提示-StubbornHuang Blog

所以我们应该下载安装的版本是cuda 11.4.2,而不是cuda 11.4.1,所以为了避免出现问题(虽然不知道不适用对应的cuda版本会出现什么问题),还是一个版本一个版本慢慢校对,直到找到合适的cuda版本。