一些机器学习相关的框架

元天

• introduce: https://tech.ifeng.com/c/7v70nteB48l
• code: https://github.com/MegEngine/MegEngine
• 一些值得注意的地方：

• 一键切换训练推理
  • 在机器学习中，训练与推理一直不是一体的，当我们设计算法时，首先需要训练框架的支持，然后再把训练好的模型转移到推理框架上，从而将后续的推理计算放到各种硬件上。这中间会存在训练与推理的转换，这个过程需要手动完成，甚至转换后也不能保证模型性能与进度。
  • 「训练推理一体化能把繁杂的模型生产流程简化到一步、两步，我们也希望它能够极大缩短算法研发和部署的时间，真正支持大规模的生产级诉求」，田忠博说，「为此，天元框架需要做到三点：无需模型转换就能做推理；训练的速度、精度与推理保持一致；在不同设备上做推理需要保证模型精度可以对齐。」

飞桨

• intro: https://baike.baidu.com/item/%E9%A3%9E%E6%A1%A8/23472642?fr=aladdin

triton

https://github.com/triton-inference-server