学习模型服务MaaS、CI/CD、ML 流水线、模型部署、本地 AI 和 Docker,以简化 ML 工作流程、自动化流水线并有效部署可扩展、可移植的 AI 解决方案。
机器学习运维(或运营)(通常称为 MLOps)是一个庞大的领域,有时会让人感到不知所措。然而,它是唯一可能在后人工智能时代蓬勃发展的领域,因为我们仍然需要将人工智能模型部署到生产中。
为了帮助您驾驭学习之旅,我将 GitHub 上的七个项目从初学者到专家级别进行了排名。这些项目由我@kingabzpro创建,涵盖了部署、自动化、编排等基本 MLOps 概念。
初级项目
1. FastAPI-for-ML
涵盖的关键技能:FastAPI、模型推理、API 开发
该项目非常适合想要学习如何通过 API 提供机器学习模型的初学者。它将引导您构建一个简单的 FastAPI 应用程序以进行模型推理。在完成本项目后,您将了解如何将您的 ML 模型公开为 REST API,这是在实际应用程序中部署 ML 解决方案的基本技能。
2.机器学习的 CICD
涵盖的关键技能:CI/CD、GitHub Actions、模型训练和部署
这个适合初学者的项目向您介绍了机器学习的持续集成/持续部署 (CI/CD)。您将学习如何使用 GitHub Actions 自动执行 ML 模型的训练、评估、版本控制和部署。这是了解自动化如何简化 ML 工作流程并减少手动错误的好方法。
中级项目
3. ML-Workflow-Orchestration-With-Prefect
涵盖的关键技能:ML 流水线、工作流编排、通知
该项目向您介绍了使用 Prefect 进行工作流编排,Prefect 是一款用于管理复杂 ML 管道的强大工具。您将学习如何简化数据提取、模型训练和保存等任务,同时还集成 Discord 通知以监控管道进度。对于那些希望有效管理多步骤 ML 工作流的人来说,这是一个非常棒的项目。
4.自动化机器学习测试
涵盖的关键技能:GitHub Actions、DeepChecks、模型测试
测试是机器学习中一个关键但经常被忽视的方面。这个项目教你如何使用 GitHub Actions 和 DeepChecks 自动化 ML 测试。你将学习如何测试数据完整性和模型漂移等问题,以确保你的模型长期保持可靠。这个项目非常适合想要将强大的测试实践纳入其 ML 工作流程的中级学习者。
高级项目
5.使用 Docker 部署 LLM 应用程序
涵盖的关键技能:Docker、Hugging Face、LLM、LlamaIndex、Gradio
该项目专注于使用 Docker 在 Hugging Face 云上部署由大型语言模型 (LLM) 支持的文档问答应用程序。这是了解容器化和部署可扩展 ML 应用程序的好方法。高级学习者将享受 LLM 现代部署实践的实践经验。
6.使用-llama3-locally
涵盖的关键技能:Ollama、LangChain、Chroma、法学硕士
该项目适合那些想要在本地试用 Llama 3 的人。您将使用 Ollama-Python、LangChain 和 Chroma 等工具来运行模型并构建用于交互的用户界面。这是一个深入了解 LLM 管道内部并了解如何在本地使用尖端模型的绝佳机会。
7.部署-Llama-3.3-70B
涵盖的关键技能:vLLM、AWQ 量化、BentoCloud、BentoML
这是列表中最先进的项目。它教您如何使用 vLLM 和 AWQ 量化部署 Llama 3.3 以优化性能。您还将在 BentoCloud 上部署模型,从而获得在生产环境中大规模部署模型的经验。该项目非常适合希望突破 LLM 部署界限的专家。
最后的想法
每个项目都能教给你一些关于模型服务、测试、自动化和部署的新知识。初级项目侧重于创建 API 端点和设置 CI/CD;中级项目可帮助你建立机器学习工作流程,并介绍自动化整个机器学习生命周期的简单方法;高级项目主要涉及处理大型语言模型、构建 LLM 应用程序、使用 Docker 部署它们以及在云端提供更大模型参数。