16、机器学习模型部署与服务：从基础概念到实践应用

机器学习模型部署与服务：从基础概念到实践应用

1. 授权网络访问Kubeflow部署

在Azure上使用Kubeflow时，其采用Istio入口网关作为入口点。不过，默认安装不会创建外部端点。若要测试新的Kubeflow部署，可按以下步骤操作：
- 设置端口转发 ：在命令行中执行以下命令：

kubectl port-forward svc/istio-ingressgateway -n istio-system 8080:80

• 访问Kubeflow ：在浏览器中访问 http://localhost:8080 。

在将Kubeflow仪表盘作为公共IP开放之前，需设置网络访问以防止未经授权的访问。

2. 机器学习模型管理基础概念

机器学习操作涉及多个核心概念，同时要结合多种技术来实现，具体如下：

2.1 核心概念

概念	描述
模型训练与推理	训练是对输入数据集多次迭代调整参数；推理是使用训练好的模型对新数据进行预测
推理延迟	推理操作所需的时间，通常以毫秒计