Pytorch – RuntimeError: No rendezvous handler for env://错误
1 RuntimeError: No rendezvous handler for env://
今天在Windows上使用torch.nn.parallel.DistributedDataParallel进行单机多卡分布式训练出现RuntimeError: No rendezvous handler for env://错误。
出问题代码如下:
import torch.distributed as dist
dist.init_process_group(backend="gloo",
world_size=args.world_size,
rank=args.local_rank)
在上述代码中,我们没有对init_process_group
函数的参数init_method
进行设置,所以参数init_method
使用了默认值env://
,但是在windows上并不支持env://
,所以我们需要将代码调整如下:
import torch.distributed as dist
dist.init_process_group(backend="gloo",
world_size=args.world_size,
rank=args.local_rank,
init_method="file:///sharefile")
使用file:///sharefile
作为参数init_method
值即可消除RuntimeError: No rendezvous handler for env://
错误。
本文作者:StubbornHuang
版权声明:本文为站长原创文章,如果转载请注明原文链接!
原文标题:Pytorch – RuntimeError: No rendezvous handler for env://错误
原文链接:https://www.stubbornhuang.com/2326/
发布于:2022年08月25日 8:37:11
修改于:2023年06月21日 18:12:22
当前分类随机文章推荐
- Pytorch - 内置的CTC损失函数torch.nn.CTCLoss参数详解与使用示例 阅读2177次,点赞1次
- Pytorch - 模型保存与加载以及如何在已保存的模型的基础上继续训练模型 阅读751次,点赞0次
- Pytorch - transpose和permute函数的区别和用法 阅读1776次,点赞0次
- Pytorch - 一文搞懂如何使用Pytorch构建与训练自定义深度学习网络(数据集自定义与加载,模型训练,模型测试,模型保存与加载) 阅读1369次,点赞2次
- Pytorch - torch.nn.Conv2d参数详解与使用 阅读1203次,点赞0次
- Pytorch - torch.cat函数 阅读550次,点赞0次
- Pytorch - 使用opencv-python解码视频文件并将视频帧转换为Pytorch tensor作为网络模型输入数据 阅读3053次,点赞0次
- Pytorch - Pytoch结合Tensorboard实现数据可视化 阅读439次,点赞0次
- Pytorch - torch.stack参数详解与使用 阅读1173次,点赞0次
- Pytorch - 用Pytorch实现ResNet 阅读1000次,点赞0次
全站随机文章推荐
- Modern OpenGL - GLSL着色语言1:OpenGL着色器简介 阅读2967次,点赞0次
- 资源分享 - 游戏物理引擎开发, Game Physics Engine Development 中文版PDF下载 阅读2523次,点赞0次
- 移动端Android/ios深度学习模型部署框架总结 阅读877次,点赞0次
- 杂谈 - 2021年度总结 阅读1986次,点赞0次
- 资源分享 - Behavioral Mathematics for Game AI 英文高清PDF下载 阅读1370次,点赞0次
- OnnxRuntime - C++捕获OnnxRuntime中的异常 阅读77次,点赞0次
- 资源分享 - GPU Pro 6 - Advanced Rendering Techniques 英文高清PDF下载 阅读3009次,点赞0次
- 资源分享 - Game AI Pro 3 - Collected Wisdom of Game AI Professionals 英文高清PDF下载 阅读2756次,点赞0次
- WordPress - get_post_type():获取当前文章或者给定文章类型 阅读2378次,点赞0次
- ThreeJS - three.moudle.js报Uncaught SyntaxError:Unexpected token ‘export‘错误 阅读2165次,点赞0次
评论
169