Pytorch – RuntimeError: No rendezvous handler for env://错误
本文作者:StubbornHuang
版权声明:本文为站长原创文章,如果转载请注明原文链接!
原文标题:Pytorch – RuntimeError: No rendezvous handler for env://错误
原文链接:https://www.stubbornhuang.com/2326/
发布于:2022年08月25日 8:37:11
修改于:2022年08月25日 8:37:11
1 RuntimeError: No rendezvous handler for env://
今天在Windows上使用torch.nn.parallel.DistributedDataParallel进行单机多卡分布式训练出现RuntimeError: No rendezvous handler for env://错误。
出问题代码如下:
import torch.distributed as dist
dist.init_process_group(backend="gloo",
world_size=args.world_size,
rank=args.local_rank)
在上述代码中,我们没有对init_process_group
函数的参数init_method
进行设置,所以参数init_method
使用了默认值env://
,但是在windows上并不支持env://
,所以我们需要将代码调整如下:
import torch.distributed as dist
dist.init_process_group(backend="gloo",
world_size=args.world_size,
rank=args.local_rank,
init_method="file:///sharefile")
使用file:///sharefile
作为参数init_method
值即可消除RuntimeError: No rendezvous handler for env://
错误。
当前分类随机文章推荐
- Pytorch - 手动调整学习率以及使用torch.optim.lr_scheduler调整学习率 阅读661次,点赞0次
- Pytorch - 模型断点续训,optimizer.step()报错:RuntimeError Expected all tensors to be on the same device, but found cuda:0 阅读75次,点赞0次
- Pytorch - reshape和view的用法和区别 阅读340次,点赞0次
- Pytorch - 使用pytorch自带的Resnet作为网络的backbone 阅读372次,点赞0次
- Pytorch - 创建随机Tensor的常用方法 阅读244次,点赞0次
- Pytorch - torch.cat参数详解与使用 阅读1440次,点赞1次
- Pytorch - RuntimeError: No rendezvous handler for env://错误 阅读1040次,点赞0次
- Pytorch - torch.nn.Conv2d参数详解与使用 阅读485次,点赞0次
- Python - list/numpy/pytorch tensor相互转换 阅读1710次,点赞0次
- Pytorch - 检测CUDA、cuDNN以及GPU版本的Pytorch是否安装成功、GPU显存测试 阅读3480次,点赞1次
全站随机文章推荐
- Mediapipe - 将Mediapipe handtracking封装成动态链接库dll/so,实现在桌面应用中嵌入手势识别功能 阅读10098次,点赞21次
- C++ - 使用标准库实现事件和委托,信号和槽机制 阅读403次,点赞0次
- Pytorch - torch.cat函数 阅读309次,点赞0次
- 资源分享 - An Integrated Introduction to Computer Graphics and Geometric Modeling 英文高清PDF下载 阅读1760次,点赞0次
- C++ - C++使用cuda api获取当前GPU显卡的总共的显存容量、已使用显存容量、剩余显存容量 阅读4438次,点赞2次
- 如何正确的选择深度学习模型工业化部署的方式 阅读1364次,点赞0次
- Ubuntu编译安装FFmpeg+libx264以及编译+安装Opencv+FFmpeg保姆教程 阅读2532次,点赞1次
- 资源分享 - Learning Vulkan 英文高清PDF下载 阅读2158次,点赞0次
- C++ - 阿拉伯数字字符串转换为中文读法的中文字符串,支持小数点 阅读1332次,点赞0次
- 常用的三维图形库以及软件所使用的坐标系以及旋转正方向 阅读3420次,点赞0次
评论
169