1 项目地址

Github地址：https://github.com/NVIDIA/TensorRT/tree/master/tools/Polygraphy

2 官方步骤

2.1 官方的安装步骤（未成功）

按官方的步骤没有成功，可能是我Anaconda的网络环境没有配置好。

2.1.1 从线上安装预处理包

python -m pip install colored polygraphy --extra-index-url https://pypi.ngc.nvidia.com

2.1.2 手动安装

详情请参考官方文档

2.2 自己的安装步骤（成功）

2.2.1 创建conda虚拟环境

先创建一个conda虚拟环境

conda create -n Polygrapgy python=3.7

2.2.2 手动使用Polygraphy的setup.py安装

先迁移整个TensorRT仓库：https://github.com/NVIDIA/TensorRT

然后进入仓库polygraphy工具所在目录：TensorRT-master\tools\Polygraphy，在该目录下有setup.py文件

TensorRT – 安装TensorRT工具Polygraphy-StubbornHuang Blog

在上一步创建的虚拟环境下使用命令：

pip setup.py install

安装polygraphy包。

3 polygraphy相关依赖库安装

3.1 自动安装依赖

官方文档上指明通过设置POLYGRAPHY_AUTOINSTALL_DEPS=1或者在代码中加上polygraphy.config.AUTOINSTALL_DEPS = True即可自动下载依赖库。

pycharm中设置环境变量可参考下图：

TensorRT – 安装TensorRT工具Polygraphy-StubbornHuang Blog

3.2 手动安装依赖

官方文档指出在仓库TensorRT-master\tools\Polygraphy\polygraphy\backend下每一个文件夹都有requirements.txt，可以通过以下的方式一个一个文件夹手动安装依赖项：

python -m pip install -r polygraphy/backend/<name>子文件夹名/requirements.txt

我将每个文件夹的requirements.txt都看了一下，主要的依赖库如下：

  • onnx
  • onnxruntime
  • numpy
  • onnx_graphsurgeon
  • torch
  • tensorflow

在安装的时候需要先安装onnxruntime 再安装onnxruntime-gpu=1.1.2，不然会出现找不到onnx相关module的问题。