深度学习

23篇文章
首页 › 文章标签 "深度学习"
深度学习 – 为什么要初始化网络模型权重？

深度学习 – 为什么要初始化网络模型权重？

1 为什么要进行网络模型权值初始化？ Pytorch中设计好网络结构，并搭建完成之后通常一个重要的步骤就是需要对网络模型中某些层的权值进行初始化，如下代码所示，我们搭建了一个三维卷积网络C3D，并使用…
深度学习 – 图像标准化与归一化方法

深度学习 – 图像标准化与归一化方法

如果深度学习的源数据为图像数据时，首先需要对图像做数据预处理，最常用的图像预处理方法有两种，正常白化处理又叫图像标准化处理，另外一种方法为图像归一化处理，本文将对这两种预处理方法进行简要介绍。 1 图…
深度学习 – 语音识别框架wenet的非流式与流式混合训练机制

深度学习 – 语音识别框架wenet的非流式与流式混合训练机制

1 wenet的非流式与流式混合训练机制 wenet实现了语音识别非流式与流式混合训练的机制。通过细读源码，其主要是通过动态修改网络的Encoder层（在wenet中主要使用了TransformerE…
深度学习 – 语音识别框架wenet源码wenet/utils/mask.py中的mask机制

深度学习 – 语音识别框架wenet源码wenet/utils/mask.py中的mask机制

在阅读工业级语音识别框架wenet的源码的过程中，wenet/utils/mask.py中提供的各种mask函数非常重要，其实现了wenet论文Unified Streaming and Non-st…
Transformer – 理解Transformer必看系列之，2 Positional Encoding位置编码与Transformer编码解码过程

Transformer – 理解Transformer必看系列之，2 Positional Encoding位置编码与Transformer编码解码过程

转载自： 链接：https://www.ylkz.life/deeplearning/p10770524/ 作者：空字符 少量行文修改 1 引言 经过此系列上一篇文章Transformer - 理解T…
Transformer – 理解Transformer必看系列之，1 Self-Attention自注意力机制与多头注意力原理

Transformer – 理解Transformer必看系列之，1 Self-Attention自注意力机制与多头注意力原理

转载自： 链接：https://www.ylkz.life/deeplearning/p10553832/ 作者：空字符 修改文章少量行文 1 引言 今天要和大家介绍的一篇论文是谷歌2017年所发表的…
深度学习 – 以一个极简单的中英文翻译Demo彻底理解Transformer

深度学习 – 以一个极简单的中英文翻译Demo彻底理解Transformer

转载自： 原文链接：https://zhuanlan.zhihu.com/p/360343417 作者：Algernon 少量行文修改。 Transformer并没有特别复杂，但是理解Transfor…
深度学习 – 从矩阵运算的角度理解Transformer中的self-attention自注意力机制

深度学习 – 从矩阵运算的角度理解Transformer中的self-attention自注意力机制

转载自https://zhuanlan.zhihu.com/p/410776234 之前我对Transformer中的Self-Attention的机制也是看了很多遍论文，看了很多博文的解读，直到看到…
深度学习 – Python实现CTC Decode解码算法Greedy Search Decode，Beam Search Decode，Prefix Beam Search Decode

深度学习 – Python实现CTC Decode解码算法Greedy Search Decode，Beam Search Decode，Prefix Beam Search Decode

在语音识别、OCR文字识别领域，我们在推理的最后一步就是从预测的概率矩阵中使用CTC解码算法找到可能性最大的序列。而常用的CTC解码算法一般有Greedy Search Decode（贪心搜索）、Be…
深度学习 – Transformer详解

深度学习 – Transformer详解

转载自： 链接：https://wmathor.com/index.php/archives/1438/ 作者：wmathor Transformer 是谷歌大脑在2017年底发表的论文Attenti…
深度学习 – Transformer详细注释

深度学习 – Transformer详细注释

译自： https://nlp.seas.harvard.edu/2018/04/03/attention.html http://nlp.seas.harvard.edu/annotated-tra…
深度学习 – 通俗理解Beam Search Algorithm算法

深度学习 – 通俗理解Beam Search Algorithm算法

1 Beam Search Algorithm 在本文中会尽量以通俗易懂的方式介绍Beam Search Algorithm的原理。 在机器翻译领域（Encoder-Decoder模型），将一种语言翻…

联系我

多么想成为别人口中的宝藏网站啊！

GitHub :  https://github.com/HW140701

CSDN :  https://blog.csdn.net/hw140701

Youtube :  https://www.youtube.com/channel/UCupPjyUgF5JLj9RE3psk3yw

QQ交流群:526867211

计算几何与计算机图形交流群 ，扫描下方二维码入群！

ComputerGraphicsQQGroupQrcode.png

地球访客

大家都在搜

关注我们的公众号

微信公众号