在本文中,我将介绍如何使用普通算子matmul对torch.einsum('nkctv,kvw->nctw',(a,b))的算子模式进行替代。之前在另一篇文章:https://www.stubbornhuang.com/2065/中我已经详细介绍了pytorch的matmul方法,以及如何使用torch.matmul()替换torch.einsum('nctw,cd->ndtw',(a,b))模式,感兴趣的朋友可以看一下。

1 使用torch.matmul()替换torch.einsum(‘nkctv,kvw->nctw’,(a,b))算子模式

torch.einsum('nkctv,kvw->nctw',(a,b))

的意思是将第一个维度为nkctv的张量Tensor a与第二个维度为kvw的张量Tensor b进行batch矩阵相乘得到维度为nctw的结果张量Tensor。

这个einsum的算子模式的目的就是batch矩阵相乘,而这是可以通过matmul通过改写替换的。

首先我们将第二个张量a从nkctv调整为ncktv,这个时候第一个张量a的最后一个维度与调整后b的倒数第二个维度一致,这样就满足matmul的计算规则。然后使用torch.matmul()将两个Tensor进行batch矩阵相乘得到结果Tensor,而结果Tensor维度为ncktw,然后再在结果Tensor的k维上求和,得到维度为nctw的结果Tensor。

详细的替换代码和示例代码如下:

此文章剩余69%被隐藏需要付费查看,内容查看价格3小饼子立即购买,VIP免费
支付前请仔细阅读以下说明,如支付代表您了解并同意了以下说明:
(1)资源收集自互联网,仅供自我学习,请在下载后24小时内删除该资源,如下载者将此资源用于其他非法用途,本站不承担任何法律责任;如有侵权,请立即联系我,马上删除!
(2)下载单个资源则点击立即下载或者立即购买按钮;本站VIP可下载本站所有资源。
(3)请不要使用手机以及电脑浏览器的无痕模式进行支付操作,以免造成支付成功但未显示下载链接。
(4)如遇支付问题或者资源失效问题请点击按钮点击反馈进行反馈或者发送说明邮件到stubbornhuang@qq.com