不要只关注算法与模型，这里有份产品级深度学习开发指南

关注

转载最新推荐文章于 2026-01-24 22:12:19 发布 380 阅读 AI 写同款· GEO 优化 ›

tensorboard的可视化及模型可视化待整理How to Check-Point Deep Learning Models in KerasLossWise Tensorboard 中文社区谷歌发布TensorBoard API，让你自定义机器学习中的可视化查找tensorflow安装的位置pip show tensorflow-gpuName: tensorflow-gpu Version: 1.0.1 Summary: Tens 阅读详情

深度学习模型距离实际的应用往往还十分遥远，选择合适的工具进行开发、部署和测试十分重要，这份面向互联网产品经理和开发者的技术指南，可以帮助你寻找到合适的解决方案。

众所周知，深度学习模型仅仅只是构建 AI 产品的重要步骤，但并不是全部。一个互联网产品（如 APP）想要集成深度学习能力，往往还需要走完很多设计、开发和测试方面的工作。如何部署深度学习往往成为了系统设计中更关键的问题。

近日，GitHub 上有这样一个项目，专门介绍了如何将深度学习算法和模型融入到互联网产品中。项目基本以流程、架构图为主，目前仍在完善中，适合产品经理和开发者学习。

项目地址：https://github.com/alirezadir/Production-Level-Deep-Learning

深度学习产品架构概览

训练深度学习模型不及在生产阶段部署算法模型那样困难。如图所示，模型仅仅只是整个系统中的一部分。

在深度学习模型之前，有配置、服务基础设施、数据获取、特征抽取等步骤，而在其之后则有数据验证、分析、监控、流程管理和机器资源管理等。生产级别的深度学习应用非常复杂。

而涉及这些环节的程序、应用、工具和硬件则更加复杂多样，因此需要遵循特定的流程和步骤，选择合适的工具进行项目。

为了介绍必要的产品构建流程，项目作者将其分为多个部分，包括数据管理、开发训练评估、测试等步骤。

数据管理

数据管理是产品级深度学习应用需要解决的第一个问题。选择合适的工具，可以保证模型获得稳定、标注正确、平衡的数据。

数据源

怎样获取数据？这是一个常见的问题。通常有以下三种方法：

使用公开数据——刚开始构建产品的时候可以使用；
数据增强，如图像数据的旋转裁剪等；
合成数据；

数据标注

正确的数据标注对模型的影响非常大，会影响着整个应用的性能。

标注数据的工作可以交给人工进行，或使用标注平台辅助。

人工标注

- 众包；
- 数据标注公司： FigureEight、雇佣专门的标注人员

标注平台：

- Prodigy ：一个由 Spacy 团队开发者开发的标注工具，使用主动学习，适用于文本和图像数据；
- HIVE：AI 标注平台，针对图像数据；
- Supervisely：计算机视觉数据标注平台；
- Labelbox：计算机视觉标注；
- Scale：AI 数据平台，适用于计算机视觉和 NLP 领域。

数据存储

数据存储则需要选择合适服务器和数据库，方便业务使用。

按对象存储：（即将数据存储为二进制数据，包括图像、音频文件和压缩文本）

- Aamzon S3
- Ceph Object Store

数据库：（保存存储文件路径、标签和用户活动等信息）

- Postgres：对大部分应用都适用的数据库，支持 SQL 和无结构 json 文件；

数据湖：（用于收集数据库获得不了的特征，如日志）

- Amazon Redshift

特征存储：（保存机器学习的特征）

- FEAST：基于谷歌云，目前已开源；
- Michelangelo：Uber 的开源平台；

版本控制

DVC：开源的机器学习版本控制工具；
Pachyderm：数据版本控制；
Dolt：SQL 数据库的版本控制；

处理流程

训练生产级模型时，通常会将不同来源的数据提取出来，包括存储在数据库和对象存储中的数据、日志，以及其他分类器的输出结果；
此外，如果不同任务之间有依赖，则需要在上一个任务完成后将其移除出工作流；
工作流管理：Airflow

开发、训练和评估

在这一阶段，项目开发者需要选择合适的工具，对深度学习模型、应用框架等进行开发。

软件工程

编辑器

- Vim
- Emacs
- VS Code (https://code.visualstudio.com/)
- 有着内置的 git 和 diff 工具，可以通过 ssh 远程打开项目；
- Jupyter Notebook：适合项目的开始阶段，但是扩展较困难；
- Streamlit：交互式数据科学工具；

开发设备推荐配置

- 对于个人和初创公司：开发用 4 核图灵架构电脑；训练和评估用同样的 4 核带 GPU 的电脑，如果需要运行很多实验，可以购买云服务；
- 对大型公司：开发上每个机器学习工程师都可以配备 4 核图灵架构电脑，或者直接使用 V100 等服务器；训练和评估则购买云服务，并配置合适的运行环境和崩溃处理机制。

资源管理

资源管理的作用在于向系统中的任务提供计算资源，提高效率；
资源管理工具：

- 集群任务管理系统（如 Slurm）；
- Docker + Kubernetes；
- Kubeflow；
- Polyaxon （付费版本）。

深度学习框架

除非有充分的理由，否则使用 Tensorflow/Keras 或 PyTorch；
以下图表表示了不同框架在「开发」到「生产」的程度：

实验管理

开发、训练和评估流程：

从简单的方法开始：训练一个小模型，使用小批的数据。如果这一方法可行，则扩展到更大的数据量和模型上，然后进行调参；
实验管理工具：

- Tensorboard；
- - 提供机器学习可视化工具；
- Losswise ：用于深度学习监控；
- Comet：可以让用户追踪代码、实验和结果；
- Weights & Biases ：记录并可视化研究的每个细节；
- MLFlow Tracking：用于记录参数、代码版本、评估指标和输出文件，并可视化结果。

调参

调参则是很重要的一个步骤，能让模型发挥更好的效果。