1 pytorch的torch.matmul()函数

函数形式

torch.matmul(input, other, *, out=None) → Tensor

该函数主要是用于求解两个tensor的矩阵乘积。

该函数根据输入的两个tensor的维度的不同进行不一样的张量运算,如下所示

  • 如果两个参数张量Tensor都是一维的,那么该函数返回两个张量的点积(标量)
  • 如果两个参数张量Tensor都是二维的,那么该函数返回二维矩阵与二维矩阵的乘积
  • 如果第一个参数张量Tensor是一维的,第二个张量Tensor是二维的,则先扩充第一个张量Tensor的维数,维数+1,然后进行二维矩阵乘法,在得到矩阵乘法结果后,移除结果张量的前置维度
  • 如果第一个参数张量Tensor是二维的,第二个张量Tensor是一维的,则返回矩阵向量积
  • 如果两个参数张量Tensor至少为一维且至少有一个参数N维(其中N>2),则返回batch矩阵乘法。如果第一个参数是一维的,则将 1 添加到其维度,以便批量矩阵相乘并在之后删除。如果第二个参数是一维的,则将 1 附加到其维度以用于批量矩阵倍数并在之后删除。非矩阵(即批量)维度是广播的(因此必须是可广播的)。例如,如果第一个参数张量Tensor为\left ( j\times 1\times n \times n \right )维张量,第二个参数张量Tensor为\left ( k\times n\times n \right )维张量,则结果为\left ( j\times k\times n\times n \right )维张量。

这里需要注意的是,在使用matmul函数在确定输入是否可以广播的时候,是通过两个输入张量Tensor的后两个维度是否满足矩阵相乘准则来判断的。比如说第一个输入张量维度为\left ( 100 \times 50 \times 3 \times 6 \right ),第二个输入张量的维度为\left ( 50 \times 6 \times 3 \right ),第一个张量的最后两个维度3 \times 6与第二个张量的最后两个维度6 \times 3可以根据二维矩阵乘法得到3 \times 3矩阵说明是可以广播,上面两个张量的计算的结果维度为\left ( 100 \times 50 \times 3 \times 3 \right )

2 使用torch.matmul()替换torch.einsum('nctw,cd->ndtw',(a,b))模式

torch.einsum('nctw,cd->ndtw',(a,b))

的意思是将第一个维度为nctw的张量与第二个维度为cd的张量进行batch矩阵相乘得到结果张量,结果张量维度为ndtw

所以这个einsum模式是可以通过torch.matmul()函数进行改写的。

首先我们观察这个einsum算子模式,再结合第1节说的使用torch.matmul()函数进行batch矩阵相乘的注意点,我们要保证两个相乘的张量的后两个维度符合二维矩阵运算法则,即第一个张量最后一个维度要与第二个张量的倒数第二个维度相等才能进行广播。

此文章剩余63%被隐藏需要付费查看,内容查看价格1饼子币立即购买,VIP免费
支付前请仔细阅读以下说明,如支付代表您了解并同意了以下说明(资源虽好,但请理性捐赠本站):
(1)请购买正版资源,支持原作者和出版社;
(2)资源收集自互联网,仅供自我学习,请在下载后24小时内删除该资源,如下载者将此资源用于其他非法用途,本站不承担任何法律责任;如有侵权,请立即联系我,马上删除!
(3)此捐赠下载方式无需注册+登录账号,当然如果您喜欢本站也可注册账号;
(4)所支付的款项为捐赠本站款项,而并非付费下载所付款项,本站会在您捐赠本站后显示隐藏内容,请知悉,先非常感谢您对本站的捐赠;
(5)本站支付使用Payjs,该第三方支付方式为微信官方授权的服务商,无支付风险,详情请查看:https://payjs.cn
(6)请不要使用浏览器无痕模式进行支付下载,以免造成支付成功但未显示隐藏内容。
(7)点击立即购买按钮后弹出选择支付方式页面,选择任意支付方式点击后会跳转到新的二维码支付页面,支付成功后会弹出支付成功的提示框,点击提示框会自动刷新页面显示隐藏内容;另外请不要重复支付,避免财产损失;
(8)在2021年7月27日前,本站采用注册+登录+评论的免费下载模式,旨在节省大家寻找宝贵资源的时间,为大家带来珍贵的知识来源,但是从2021年7月27日起,因遭受注册轰炸和恶意爬虫造成网站负载过大导致宕机,被迫无奈,为减少网站运营时间成本,对部分资源进行捐赠下载,添加支付是反爬虫的最好方式,在此对未享受到免费下载福利的访客表示歉意;
(9)如遇支付页面未弹出、支付成功但未显示隐藏内容、资源链接失效或者提取码出错等情况请发送邮件到stubbornhuang@qq.com或者直接联系QQ:623256052,会尽快为您解决!加我时请备注原因,谢谢!或者点击按钮点击反馈进入反馈页面进行问题反馈
(10)由以上捐赠下载带来的不便请您谅解,如出现重复付费的情况,请联系我,我会尽快返回您的退款!
支付过程请参考下图:
Pytorch – 使用torch.matmul()替换torch.einsum(‘nctw,cd->ndtw’,(a,b))算子模式-StubbornHuang Blog