OneFlow v0.8.0正式发布

OneFlow开源项目迎来v0.8.0版本,加强PyTorch兼容性,支持更多API和算子。新增Global Tensor功能,优化Graph性能,引入OneEmbedding组件,适用于大规模推荐系统。此外,还改进了硬件适配、调试工具和异常处理,提供更完善的API文档。用户现在可以下载体验新版本。

3bf1672b18475c609ad27a8feedf067f.png

今天是 OneFlow 开源的 717 天,OneFlow v0.8.0 正式发布。本次更新包含523个commit,完整更新列表请查看链接:https://github.com/Oneflow-Inc/oneflow/releases/tag/v0.8.0,欢迎下载体验新版本,期待你的反馈。

OneFlow v0.8.0 主要包括以下新增亮点功能和优化:

1.兼容性

PyTorch compatible API 更加完善。新增一系列与 PyTorch 1.10.0 兼容的功能和接口,包括新增与 PyTorch 对齐的 68 个 API, 修复了 84 个算子与接口兼容性 bug,支持用户将更多 PyTorch 模型一键迁移为 OneFlow。

2.Global 算子支持

所有算子对 Global Tensor 的支持更加完备且高效。修复了 28 个 Global Tensor 相关的 bug,新增 180 个 Global 算子单测,用户可以更加简单且高效地用 Global Tensor 进行分布式模型开发。

3.性能

Graph 高级特性的性能更加成熟完善:

  • 除原本的 ZeRO-DP 以外,ZeRO 零冗余优化器可以与 MP,2-D,3-D 并行搭配使用,进一步节省显存开销。

  • Graph 提出了新的流水并行 API,在简化流水并行配置的同

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值