1 OpenVino 运行时开发包下载 官网下载地址:https://www.intel.cn/content/www/cn/zh/developer/tools/openvino-toolkit/d…
1 This version of TensorRT only supports input K as an initializer 今天使用TensorRT-8.5.1.7的trtexec工具转换o…
1 OnnxRuntime模型推理流程 1.1 OnnxRuntime模型推理流程总体简介 OnnxRuntime模型推理的整个流程主要可以分为2个阶段,分别是初始化阶段、模型推理阶段。 初始化阶段需…
1 在windows上转换onnx模型为ncnn的param,bin格式 在Windows系统上可以直接使用ncnn在windows上的发布包里面的onnx2ncnn.exe程序对onnx模型进行转换…
1 Pytorch中对图片的预处理 在Pytorch中一般使用torchvision.transforms对图片进行归一化处理,比如经常会使用以下的代码 transforms.Compose([ tr…
1 问题 这两天在Windows上使用NCNN进行模型部署,在VS项目中配置好NCNN的头文件、lib之后,编译项目出现了以下错误 fatal error C1083: 无法打开包括文件: “vulk…
1 安装Visual Studio 从微软官网下载Visual Studio,现在最新的版本是Visual Studio 2022, 下载Visual Studio 2022可以从这个网址下载:htt…
在使用onnx模型在其他框架进行部署时,一般都需要对onnx模型进行简化和优化。 1 onnx模型简化 对模型进行简化一般使用onnx-simplifier包 可以通过以下命令安装 pip insta…
1 使用onnx2ncnn转换onnx模型到ncnn格式出错 使用NCNN中的onnx2ncnn工具转换onnx模型到ncnn格式出现错误,使用的转换命令如下 ./onnx2ncnn.exe ./mo…
本文对在移动端深度模型部署时目前常用的框架进行粗略总结。 1 NCNN Github:https://github.com/Tencent/ncnn 企业:腾讯 NCNN是一个为手机端极致优化的高性能…
Onnx Runtime模型部署笔记系列: Onnx Runtime – 模型部署笔记1,Onnx Runtime简介 Onnx Runtime – 模型部署笔记2,在Visual Studio中配置…
OnnxRuntime模型部署笔记系列: Onnx Runtime – 模型部署笔记1,Onnx Runtime简介 Onnx Runtime – 模型部署笔记2,在Visual Studio中配置O…

关注我们的公众号

微信公众号