9、AI系统开发与部署全解析

AI系统开发与部署全解析

1. 模型交互与中间层

在模型交互方面，假设模型的客户端被打包为容器，它们会与一个中间层进行交互，而中间层再与模型交互。这个中间层可用于缓冲模型的变化。可以应用经典的策略模式，让不同版本的实现切换更轻松。例如，当模型的新版本修改了接口，中间层会将客户端的调用转换为新接口，这样客户端无需改变，对模型接口变化的修改也局限于中间层。使用中间层管理接口变化是缓解部署期间版本偏差的有效技术。

2. 非AI模块开发

模块是具有连贯功能的部分，服务通过在构建步骤中集成多个模块及其支持库来构建。采用微服务架构时，每个服务可由所属团队选择的语言和技术开发。服务内的各个模块需遵循团队成员的选择，但不同团队无需就语言或支持库的选择进行协调。

单元测试是针对单个模块的测试，有一组定义好的输入和输出。输入通过测试框架提供给模块，测试框架会将模块的输出与预期输出进行比较。单元测试通常在开发期间和系统测试阶段运行。测试框架中包含负载均衡器等依赖基础设施很有用，这样可以测试模块与基础设施的交互。依赖服务可以进行模拟或存根处理以执行测试。单元测试应涵盖以下方面：
- 常见用例
- 边缘情况（不寻常的输入或意外情况）
- 负面情况（应导致错误或适当警告的输入）

3. 构建阶段

构建阶段是准备虚拟机或容器的可执行镜像的阶段，此时AI模块和非AI模块会合并为可执行镜像。构建环境在AI模型发布或非AI模块提交到版本控制时被激活。由于AI模型被打包为代码模块，在构建过程中，AI模型和非AI模块会被同等对待。构建环境使用持续集成（CI）服务器（如Jenkins）创建可部署的可执行文件。