When downloading models through Torch Hub, models are automatically downloaded in
export TORCH_HOME=/my/path/
export TRANSFORMERS_CACHE=/my/path/ will update hugging face model path
python -m torch.distributed.run --nproc_per_node=16 will add WORLD_SIZE in os.environ
当通过TorchHub下载模型时,它们会自动保存到指定的TORCH_HOME路径。同时,TRANSFORMERS_CACHE路径用于更新HuggingFace模型。使用`python-mtorch.distributed.run`命令,可以设置`nproc_per_node`参数为16,这将添加WORLD_SIZE到环境变量中。
676

被折叠的 条评论
为什么被折叠?



