MFTCoder 重磅升级v0.5.0发布，支持SST加训与DPO

CodeFuse 在 2023 年 9 月开源了一种多任务框架—— MFTCoder，它可以在多个任务上实现同时进行个性化。通过结合多种损失函数，我们有效地解决了多任务学习中常见的任务间数据量不平衡、难易不一和收敛速度一致性等挑战。大量的实验结果表明，我们首先要对单个任务进行更更新或者忽略多任务混合后再进行更大的，多任务方法表现优。

此外，MFTCoder 具备高效特征训练，包括提供的数据标记化模式，支持 PEFT 调音和全量调音，能够提升高效调音训练速度并降低对资源的需求。MFTCoder 是轻量的、简单清晰的、易于使用二次的、持续不断的前沿技术开发的开源框架。

目前MFTCoder迭代到了v0.5.0版本，新增了对SST继续训练、离线标记化、DPO等支持，可以进行预训练加训与强化训练。

新升级代码也已经到了GitHub：https://开源github.com/codefuse-ai/MFTCoder/tree/main/mftcoder_accelerate

MFTCoder v0.5.0 新增功能