完全图解RNN、RNN变体、Seq2Seq、Attention机制
本文转载自:完全图解RNN、RNN变体、Seq2Seq、Attention机制,如侵联删 本文主要是利用图片的形式,详细地介绍了经典的RNN、RNN几个重要变体,以及Seq2Seq模型、Attention机制。希望这篇文章能够提供一个全新的视角,帮助初学者更好地入门。 1 从单层网络谈起 在学习RN…
- RNN
- 2024-03-14
理解Transformer
本文来自于知乎:为什么我还是无法理解Transformer的高赞回答 要理解和熟悉一个新的技术/新模型,比较好的方式是通过以下框架结构来熟悉: 为什么:一个新模型的诞生,一般是解决了现有的模型不能解决的一些问题。因此需了解该技术提出的背景和创新点。 是什么 :熟悉这个模型的内容和架构、训练过程等。 …
- Transformer
- 2024-03-12
Transformer的结构
以下内容摘自:https://transformers.run/back/transformer/,里面”原始结构“部分的内容对我自己理解Transformer结构有很大的帮助。 1 Transformer的结构 1.1 注意力层 Transformer 模型的标志就是采用了注意力层 (Attent…
- Transformer
- 2024-03-11
Seq2Seq模型和Attention机制
转载自:Seq2Seq模型和Attention机制,如侵联删 pdf: NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE 1 RNN的多种结构 首先从RNN的结构说起,根据输出和输入序列不同数量RNN可以有多种…
- Transformer
- 2024-03-08
Attention和Self-Attention的区别
1 Attention和Self-Attention的区别 Attention:以Encoder-Decoder框架为例,输入Source和输出Target内容是不一样的,比如对于英-中机器翻译来说,Source是英文句子,Target是对应的翻译出的中文句子,Attention发生在Target的…
- Transformer
- 2024-03-08
轻量级目标检测模型和算法整理
1 轻量级目标检测模型 目标检测(Object Detection)的任务是找出图像中所有感兴趣的目标(物体),确定它们的类别和位置,是计算机视觉领域的核心问题之一。目前目标检测算法发展和更新非常快,各种改进的目标检测算法不仅在精度上越来越高,体积越来于晓,并且推理速度越来越快。许多考虑在边缘设备和…
- 目标检测
- 2023-12-06
目标检测 – 使用labelimg制作自定义目标检测数据集
1 下载labelimg标注工具 labelimg github地址:https://github.com/HumanSignal/labelImg 进入Release页面,为了避免需要创建Python环境,这里直接下载Windows的二进制exe包。 本文以Windows二进制包windows_v…
- 目标检测
- 2023-11-23
目标检测 – VOC数据格式和Yolo数据格式
在使用labelimg标注图片时,lable提供了两种标注信息保存格式,一种是VOC,另一种则是Yolo。 1 VOC数据格式 在labelimage中,对一个图片完成标注之后,如果默认选择的是PascalVOC格式 则会将标注信息保存为以下的xml文件,主要的信息包括: filename:图片名称…
- 目标检测
- 2023-11-23
词汇手语识别、连续手语识别、连续手语翻译开源数据集整理
1 Word-level Sign Language Recognition/Isolated Sign Language Recognition 手语词汇识别数据集 1.1 CSL-500 国家:中国 官方网站:https://ustc-slr.github.io/datasets/2015_cs…
- 深度学习
- 2023-11-15
语音识别的RTF和RTX评价指标
语音识别除了衡量语音识别的准确度之外,另外一个重要的指标就是处理的速度和延迟。其中RTF为衡量实时语音识别处理速度的重要指标,RTX为衡量离线语音识别处理速度的重要指标。 1 RTF RTF(Real Time Factor),为实时语音识别的处理速度评价指标,其计算公式如下 RTF=\frac{A…
- 深度学习
- 2023-10-30
yolov5 – 导出onnx模型教程
1 yolov5导出onnx模型 yolov5 Github:https://github.com/ultralytics/yolov5 yolov5 导出模型官方文档:https://docs.ultralytics.com/yolov5/tutorials/model_export/ 1.1 配…
- 深度学习
- 2023-10-25
深度学习 – 监督学习、半监督学习、无监督学习、自监督学习、强化学习等机器学习方式的概念、区别、优缺点
在机器学习中,有几种主要的学习方式:监督学习、无监督学习、半监督学习、自监督学习和强化学习等,本文将详细介绍这几种学习方式的概念和优缺点。 1 机器学习方式 1.1 监督学习 监督学习(Supervised Learning)利用大量的标注数据来训练模型,通过对已有标记数据进行学习,训练模型可以对未…
- 深度学习
- 2023-06-25