Attention和Self-Attention的区别
1 Attention和Self-Attention的区别 Attention:以Encoder-Decoder框架为例,输入Source和输出Target内容是不一样的,比如对于英-中机器翻译来说,Source是英文句子,Target是对应的翻译出的中文句子,Attention发生在Target的…
- Transformer
- 2024-03-08
GPU并发?理解CUDA的并发执行与计算资源调度
## 1 CUDA计算是否可以并发? CUDA程序运行中CPU端一般叫做host,GPU端一般叫做Device。 CPU端对计算资源进行划分的单位为进程,GPU端对计算资源进行划分的单位为context。多核心CPU可以同一时刻多个进程/线程并发执行,GPU一个时刻只允许一个context允许,也就…
- NVIDIA
- 2024-01-19
NCNN – ncnn将onnx模型转换为fp16模型
本篇文章将详细说明如何将onnx模型转换为在ncnn中可以使用的fp16半精度模型。 本文所使用的操作系统为Windows,使用的全部是ncnn发布包中自带的工具。首先使用onnx2ncnn将onnx模型转换为ncnn的param和bin模型,然后使用ncnnoptimize工具将上一步转换的par…
- NCNN
- 2023-12-07
轻量级目标检测模型和算法整理
1 轻量级目标检测模型 目标检测(Object Detection)的任务是找出图像中所有感兴趣的目标(物体),确定它们的类别和位置,是计算机视觉领域的核心问题之一。目前目标检测算法发展和更新非常快,各种改进的目标检测算法不仅在精度上越来越高,体积越来于晓,并且推理速度越来越快。许多考虑在边缘设备和…
- 目标检测
- 2023-12-06
目标检测 – 使用labelimg制作自定义目标检测数据集
1 下载labelimg标注工具 labelimg github地址:https://github.com/HumanSignal/labelImg 进入Release页面,为了避免需要创建Python环境,这里直接下载Windows的二进制exe包。 本文以Windows二进制包windows_v…
- 目标检测
- 2023-11-23
目标检测 – VOC数据格式和Yolo数据格式
在使用labelimg标注图片时,lable提供了两种标注信息保存格式,一种是VOC,另一种则是Yolo。 1 VOC数据格式 在labelimage中,对一个图片完成标注之后,如果默认选择的是PascalVOC格式 则会将标注信息保存为以下的xml文件,主要的信息包括: filename:图片名称…
- 目标检测
- 2023-11-23
词汇手语识别、连续手语识别、连续手语翻译开源数据集整理
1 Word-level Sign Language Recognition/Isolated Sign Language Recognition 手语词汇识别数据集 1.1 CSL-500 国家:中国 官方网站:https://ustc-slr.github.io/datasets/2015_cs…
- 深度学习
- 2023-11-15
语音识别的RTF和RTX评价指标
语音识别除了衡量语音识别的准确度之外,另外一个重要的指标就是处理的速度和延迟。其中RTF为衡量实时语音识别处理速度的重要指标,RTX为衡量离线语音识别处理速度的重要指标。 1 RTF RTF(Real Time Factor),为实时语音识别的处理速度评价指标,其计算公式如下 RTF=\frac{A…
- 深度学习
- 2023-10-30
yolov5 – 导出onnx模型教程
1 yolov5导出onnx模型 yolov5 Github:https://github.com/ultralytics/yolov5 yolov5 导出模型官方文档:https://docs.ultralytics.com/yolov5/tutorials/model_export/ 1.1 配…
- 深度学习
- 2023-10-25
OnnxRuntime – 从内存数据中加载onnx模型进行推理
1 从内存中加载onnx模型的必要性 使用OnnxRuntime部署onnx模型时,目前常用的的做法是直接从本地加载onnx模型文件。这种方式在做模型快速部署和测试时操作简单,节省部署时间。但是如果在一个商业项目中使用这种方式部署模型,其他人都可以很轻松的拿到你网络的onnx模型,低阶一点的就是直接…
- OnnxRuntime
- 2023-10-25
深度学习 – 常用的开源AI模型库
1 什么是AI模型库? AI模型库是一种集成了各种AI模型和算法的资源库,收集了不同AI任务的预训练SOTA模型,有的甚至提供用户进行模型训练、模型推理和AI应用开发的基础工具和组件。 AI模型库集成了各种经过训练和优化的基础模型和算法,用户可以直接使用所提供的模型进行部署和应用开发,无需从头开始训…
- 人工智能
- 2023-10-24