MultiRunner是一个进程级别的Python并行框架，专为深度学习调参设计。它简化了多主机并行运行任务的过程，支持自动冲突处理和结果存储。只需少量代码修改，即可实现多节点并行实验，同时具备错误处理和显卡优化功能。通过run方法的if_torch_use_best_nvidia_gpu参数，还能自动选择最空闲的NVIDIA GPU。对于优化实验效率，框架能防止慢速主机拖慢整体进度。
MultiRunner说明文档
这是一个进程级别的python并行框架，可用于深度学习调参等任务，可通过 pip install MultiRunner 安装，开源于 https://github.com/Statham-stone/MultiRunner
注意，本包的使用极度简洁，原代码完全无需改动，使用本包的时候，包含import语句在内，仅需加入四行代码。
如果你遇到了以下问题之一，你可能需要这个包：
你是一个机器学习调参侠，你有多台共享硬盘的主机（节点，CPU，GPU，aws等），你需要以不同的参数运行一个函数多次，该函数针对每个参数返回一个结果（你可能想知道最好的那个结果所对应的参数，没错，我说的就是深度炼丹）。你想让这些主机并行地为你跑程序，但是你懒得手动一个个输入命令，且由于不同的主机运算能力不同，你不知道该如何为不同的节点分配不同的任务量，你不愿意坐在电脑前等着程序运行结束，也不想一个个手动输入命令
你有一台普通电脑，你需要以不同的参数运行一个函数多次并得到结果，你想尽力将其并行化，但是你不想学习Multiprocessing库
先看一个例子，你原来的代码可能是这样的：
# old_run.py
def train_a_model(batch_size,hidden_layer_number,learning_rate):
最低0.47元/天 解锁文章
扫一扫
2295
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
