• 计算机图形学与计算几何经典必备书单整理,下载链接可参考:https://www.stubbornhuang.com/1256/

  • 在本站开通年度VIP,无限制下载本站资源和阅读本站文章

  • 如果觉得本站的内容有帮助,可以考虑打赏博主哦!

  • 本站由于前段时间遭受到大量临时和国外邮箱注册,所以对可注册的邮箱类型进行了限制!

  • 工资「喂饱肚子」,副业「养活灵魂」!

  • 感谢大家访问本站,希望本站的内容可以帮助到大家!

  • 问题反馈可发送邮件到stubbornhuang@qq.com

  • 欢迎大家交换友链,可在https://www.stubbornhuang.com/申请友情链接进行友链交换申请!

  • 本站会放置Google广告用于维持域名以及网站服务器费用。

Pytorch – RuntimeError: No rendezvous handler for env://错误

Pytorch 发布于2022-08-25 阅读 4,975次 0次评论 0次点赞 本文共623个字,阅读需要2分钟。

1 RuntimeError: No rendezvous handler for env://

今天在Windows上使用torch.nn.parallel.DistributedDataParallel进行单机多卡分布式训练出现RuntimeError: No rendezvous handler for env://错误。

出问题代码如下:

import torch.distributed as dist
dist.init_process_group(backend="gloo",
                                world_size=args.world_size,
                                rank=args.local_rank)

在上述代码中,我们没有对init_process_group函数的参数init_method进行设置,所以参数init_method使用了默认值env://,但是在windows上并不支持env://,所以我们需要将代码调整如下:

import torch.distributed as dist
dist.init_process_group(backend="gloo",
                                world_size=args.world_size,
                                rank=args.local_rank,
                                init_method="file:///sharefile")

使用file:///sharefile作为参数init_method值即可消除RuntimeError: No rendezvous handler for env://错误。

欢迎扫码关注我的微信公众号,及时获取文章更新

微信公众号二维码

本文作者:StubbornHuang

版权声明:本文为站长原创文章,如果转载请注明原文链接!

原文标题:Pytorch – RuntimeError: No rendezvous handler for env://错误

原文链接:https://www.stubbornhuang.com/2326/

发布于:2022年08月25日 8:37:11

修改于:2023年06月21日 18:12:22

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

文章末尾
上一篇
深度学习 - 深度学习中的术语/专有名词归纳
深度学习
下一篇
深度学习 - 为什么要初始化网络模型权重?
深度学习
当前分类随机文章推荐

发表评论

您必须 [ 登录 ] 才能发表留言!

关注我们的公众号

微信公众号