PaddlePaddle – 使用Paddle2Onnx将Paddle模型导出为onnx模型

1 Paddle2ONNX简介

Github:https://github.com/PaddlePaddle/Paddle2ONNX

Paddle2ONNX 支持将 PaddlePaddle 模型格式转化到 ONNX 模型格式。通过 ONNX 可以完成将 Paddle 模型到多种推理引擎的部署，包括 TensorRT/OpenVINO/MNN/TNN/NCNN，以及其它对 ONNX 开源格式进行支持的推理引擎或硬件。

2 Paddle2ONNX使用

2.1 安装

建议使用pip安装

pip install paddle2onnx

2.2 获取PaddlePaddle的部署模型

使用Paddle2Onnx导出Onnx模型需要使用到PaddlePaddle的部署模型，有两个

• model_name.pdmodel: 表示模型结构
• model_name.pdiparams: 表示模型参数 [注意] 这里需要注意，两个文件其中参数文件后辍为 .pdiparams，如你的参数文件后辍是 .pdparams，那说明你的参数是训练过程中保存的，当前还不是部署模型格式。 部署模型的导出可以参照各个模型套件的导出模型文档。

一般来说，在PaddlePaddle的各个模型都会提供export.py脚本导出部署模型，以PaddleSeg中的Matting为例，在说明文档中有一小节专门说明如何导出模型，如

python tools/export.py \
    --config configs/quick_start/ppmattingv2-stdc1-human_512.yml \
    --model_path output/best_model/model.pdparams \
    --save_dir output/export \
    --input_shape 1 3 512 512

2.3 使用Paddle2ONNX导出Onnx

在获取模型的model_name.pdmodel和model_name.pdiparams之后就可以使用Paddle2Onnx导出Onnx了，一般可使用以下命令

paddle2onnx --model_dir saved_inference_model \
            --model_filename model.pdmodel \
            --params_filename model.pdiparams \
            --save_file model.onnx \
            --enable_dev_version True

Paddle2Onnx的所有参数如下

2.4 Onnx模型优化

onnx模型简化可以直接使用onnx-simplifier，也可以使用Paddle2Onnx模型自带的工具，命令如下

python -m paddle2onnx.optimize --input_model model.onnx --output_model new_model.onnx

如需要修改导出 ONNX 的模型输入形状，如改为静态 shape，可使用以下命令

python -m paddle2onnx.optimize --input_model model.onnx \
                               --output_model new_model.onnx \
                               --input_shape_dict "{'x':[1,3,224,224]}"

2.5 Onnx部署

导出为onnx模型之后就可以使用Onnxruntime、TensorRT、NCNN、OpenVINO进行部署了。