mindspore单机多卡算子使用方式

小乐快乐

于 2024-11-15 10:59:53 发布

阅读量347

点赞数 7

CC 4.0 BY-SA版权

文章标签：深度学习 YOLO 算法

本文链接：https://blog.youkuaiyun.com/weixin_45666880/article/details/143789463

问题描述：

import mindspore.ops as ops
import mindspore.nn as nn
from mindspore.communication import init
from mindspore import Tensor
import numpy as np

init()
class Net(nn.Cell):
    def __init__(self):
        super(Net, self).__init__()
        self.depend = ops.Depend()
        self.send = ops.Send(st_tag=0, dest_rank=8, group="hccl_world_group")

    def construct(self, x):
        out = self.depend(x, self.send(x))
        return out

input_ = Tensor(np.ones([2, 8]).astype(np.float32))
net = Net()
output = net(input_)

这是mindspore的通信算子里的例子，我想知道这样的程序我在一个8卡910的服务器上如何运行，因为send的功能是我的项目需要的，我在网上看到很多包括msrun启动，ranktable一类的，不知道具体使用哪个？