搜索到 84 篇相关的文章
OpenCV – 图片增加透明通道,图片合并透明通道
..."opencv2/opencv.hpp" #include "opencv2/cudaimgproc.hpp" #include "opencv2/cudawarping.hpp" #include "opencv2/cudaarithm.hpp" cv::Mat MergeAlphaCUDA…
- OpenCV
- 2023-07-12
资源分享 – OpenGL Development Cookbook 英文PDF下载
1 OpenGL Development Cookbook 英文PDF下载 1.1 书籍简介 OpenGL Development Cookbook 面向中级 OpenGL 程序员,可将您提升到一个新的水平,并在您的应用程序中创建令人惊叹的 OpenGL 图形。 概述: 从现代 OpenGL 3.3…
- 计算几何与计算机图形学资源
- 2021-11-03
移动端Android/ios深度学习模型部署框架总结
...的 XNNPACK 浮点内核库 为 8 位量化内核集成 QNNPACK。包括对每通道量化、动态量化等的支持 在Android和ios中提供高效的移动解释器,还支持构建级别优化和选择性编译,具体取决于用户应用程序所需的运算符(即,应用程序的最终二进制大小由应用程序所需的实际运算符决定)。 通过 …
- 模型部署
- 2023-03-21
TensorRT – 基于TensorRT的多线程并发推理方案
...2 对TensorRT的多线程并发推理方案的试验 根据第1节的理解,我选用了1.1节中的第1种并发方案,即 开一个线程池,在线程池中新开若干个工作线程,在每一个工作线程中独立的加载模型,创建引擎,然后再根据这个引擎创建执行上下文,然后使用上下文进行推理; 但是试验结果事与愿违,以我的推理任务来…
- TensorRT
- 2023-03-06
C++ – 使用cuda api获取本机显卡数量和显卡信息
...std::cout << "Error Message : " << cudaGetErrorString(err) << std::endl; } std::cout << "GPU num : " << gpu_devices_n…
- C++
- 2023-03-08
Pytorch – .to()和.cuda()的区别
1 Pytorch中.to()和.cuda()的区别 如果需要指定的设备是GPU则.to()和.cuda()没有区别,如果设备是cpu,则不能使用.cuda()。也就是说.to()既可以指定CPU也可以指定GPU,而.cuda()只能指定GPU。 1.1 .cuda() 1.单GPU os.envi…
- Pytorch
- 2022-07-11
Mediapipe – 将Mediapipe HolisticTracking封装成动态链接库dll/so,实现在桌面应用中嵌入全身关节点识别、手势识别、抬手放手检测识别功能
...deps = [ "//mediapipe/graphs/holistic_tracking:holistic_tracking_cpu_graph_deps", ], ) # Linux only cc_binary( name = "holistic_tracking_gpu", deps…
- 姿态估计
- 2022-01-20
NCNN – ncnn将onnx模型转换为fp16模型
...bool is_use_gpu) { m_net.clear(); m_blob_pool_allocator.clear(); m_workspace_pool_allocator.clear(); #if NCNN_VULKAN m_can_use_gpu = is_use_gpu &am…
- NCNN
- 2023-12-07
深度学习 – 在大数据集下,内存容量与磁盘IO速度影响模型训练速度的问题
1 模型训练时出现的问题 内存容量和磁盘IO速度影响GPU利用率,进而影响模型训练速度 如果要想在模型训练时利用GPU,提高GPU的利用率,不受限于IO瓶颈,一般常用的方式是: 数据预加载,将所有数据都预加载到内存中,内存的读写速度很快,从内存传递数据到GPU速度也很快 数据预先离线处理,然后存储在…
- 深度学习
- 2023-03-16
资源分享 – Learning Vulkan 英文PDF下载
...3D 场景输出。 使用纹理为渲染的 3D 场景带来真实感 Vulkan是下一代图形和计算 API,是 Khronos 的最新产品。此 API 是 OpenGL 的继承者,与 OpenGL 不同,它提供了极大的灵活性和高性能功能来控制现代 GPU 设备。通过本书,您将深入了解 Vulkan 的工…
- 计算几何与计算机图形学资源
- 2021-08-06
TensorRT – 自带工具trtexec的参数使用说明
...Actively synchronize on GPU events. This option may decrease synchronization time but increase CPU usage and power (default = disabled) --threads E…
- TensorRT
- 2021-09-17
Python – 使用onnxruntime加载和推理onnx模型
1 onnxruntime Onnx runtime是一个跨平台的机器学习模型加速器,可以在不同的硬件和操作系统上运行,可以加载和推理任意机器学习框架导出的onnx模型并进行加速。 如要使用onnxruntime,一般通过以下步骤: 从机器学习框架中将模型导出为onnx 使用onnxruntime加…
- 模型部署
- 2022-11-30