C++ – Yolo的letterbox图片预处理方法,缩放图片不失真
1 letter box预处理方法 在yolo家族的一系列目标检测模型或者其他与视觉相关的深度学习模型的部署过程中,一般来说,如果导出的是静态shape的模型,那么我们先要将输入的图片resize到给定的图片大小,如果使用常规的resize方法,比如将一张1920x1080的图片resize到640…
- C++
- 2023-07-17
TensorRT – 使用TensorRT C++ SDK部署模型时推理时间波动不稳定或者推理速度越来越慢的问题
1 使用TensorRT C++ SDK部署模型推理时间不稳定或者推理速度越来越慢的问题 最近今天在使用TensorRT C++ SDK部署PaddleSeg的PPMattingV2-512模型,如果只是对单张图片进行推理的话,推理一张图片在8-10ms左右。如果对摄像头或者是视频文件进行推理,前面…
- TensorRT
- 2023-07-07
PaddlePaddle – 抠图模型PP-MattingV2环境配置与Onnx模型导出
1 PaddleSeg/Matting的环境配置 PaddSeg Github:https://github.com/PaddlePaddle/PaddleSeg/,本文使用的为release/2.8版本。 PaddleSeg的有关抠图的Matting的模型都位于:https://github.co…
- PaddlePaddle
- 2023-07-05
PaddlePaddle – 使用Paddle2Onnx将Paddle模型导出为onnx模型
1 Paddle2ONNX简介 Github:https://github.com/PaddlePaddle/Paddle2ONNX Paddle2ONNX 支持将 PaddlePaddle 模型格式转化到 ONNX 模型格式。通过 ONNX 可以完成将 Paddle 模型到多种推理引擎的部署,包括…
- PaddlePaddle
- 2023-07-05
深度学习 – 监督学习、半监督学习、无监督学习、自监督学习、强化学习等机器学习方式的概念、区别、优缺点
在机器学习中,有几种主要的学习方式:监督学习、无监督学习、半监督学习、自监督学习和强化学习等,本文将详细介绍这几种学习方式的概念和优缺点。 1 机器学习方式 1.1 监督学习 监督学习(Supervised Learning)利用大量的标注数据来训练模型,通过对已有标记数据进行学习,训练模型可以对未…
- 深度学习
- 2023-06-25
Pytorch – 在Pytroch中实现图片HWC与CHW相互转换、RGB与BGR相互转换
在Pytorch中对图片数据的tensor进行HWC和CHW转换、RGB和BGR的转换是常常使用到的数据预处理操作。 1 HWC与CHW互转 HWC转CHW 假设输入图片tensor格式为BHWC,比如1x224x224x3,在Pytorch转成BCHW其实也就是简单的维度变换 x = x.perm…
- Pytorch
- 2023-06-07
OpenVINO – 在Windows系统上配置OpenVINO C++开发环境
1 OpenVino 运行时开发包下载 官网下载地址:https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/download.html 这里我们只使用OpenVino进行模型部署,所以我们主要选择运行时即可,操…
- OpenVINO
- 2023-06-02
Pytorch – 模型断点续训,optimizer.step()报错:RuntimeError Expected all tensors to be on the same device, but found cuda:0
1 模型断点续训,optimizer.step()报错:RuntimeError Expected all tensors to be on the same device, but found cuda:0 Pytroch在实现断点续训功能时,在保存模型文件时,需要同时保存model、optimi…
- Pytorch
- 2023-05-08
TensorRT – Invalid Node – TopK,This version of TensorRT only supports input K as an initializer
1 This version of TensorRT only supports input K as an initializer 今天使用TensorRT-8.5.1.7的trtexec工具转换onnx模型为trt模型时出现了以下错误: [04/27/2023-09:04:12] [E] [TR…
- TensorRT
- 2023-04-27
Pytorch – Pytoch结合Tensorboard实现数据可视化
1 Tensorboard 1.1 安装和卸载 使用以下命令安装 pip install tensorboard 卸载命令 pip uninstall tensorboard 1.2 Tensorboard的工作逻辑 Tensorboard的工作逻辑其实很简单,首先将你所关心的数据保存到你所指定的文…
- Pytorch
- 2023-04-18
Pytorch – 修改Pytoch中torchvision.models预置模型的方法
转载自https://chenglu.me/blogs/pytorch-model-modification-part1,少量修改,如侵权,请联系我进行删除。 在深度学习网络构建时,我们可能需要对Pytorch中的torchvision.models中的模型进行一些修改,比如说,将torchvisi…
- Pytorch
- 2023-03-28
OnnxRuntime – 模型部署笔记3,总结OnnxRuntime模型推理流程
1 OnnxRuntime模型推理流程 1.1 OnnxRuntime模型推理流程总体简介 OnnxRuntime模型推理的整个流程主要可以分为2个阶段,分别是初始化阶段、模型推理阶段。 初始化阶段需要依次执行以下任务: 设置env 设置session option,此阶段可以设置session的相…
- OnnxRuntime
- 2023-03-24