16、AI在电子供应商招标流程中的创新应用

AI在电子供应商招标流程中的创新应用

1. 实现可观测性的方法

在人工智能系统中，实现可观测性是一个重要的目标。以下是一些关键的方法和技术：
- 独立监控代理 ：可以使用独立的监控代理来执行监控任务，并跟踪系统是否符合相关法规。这些代理能够设置生成警报的阈值，确保系统在出现异常时及时发出通知。
- 集成可解释性工具 ：将LIME和SHAP等可解释性技术集成到监控仪表板中，能够可视化特征重要性、决策路径和潜在偏差等信息。这些信息是在模型测试期间收集的，有助于用户更好地理解模型的行为。
- 独立监督代理 ：设计独立的监督代理作为外部系统，观察和分析基于基础模型（FM）的系统行为。这些代理可以确保FM系统负责任地运行，避免生成冒犯性或不期望的内容和行为。如果检测到问题，它们可能会采取措施，如通知人类或停止特定操作。

可观测性的架构机制

实现可观测性涉及一些架构机制，包括：
- 监控器 ：用于实时监测系统的运行状态。
- SBOM访问模块 ：访问软件物料清单（SBOM），了解系统的组件和依赖关系。
- 数据准备和构建模块 ：访问在数据准备和构建过程中创建的各种存储库。

在数据准备和构建阶段，应使用谱系捕获工具和模型版本控制工具。这些工具可以在操作期间访问，帮助解释为什么会生成特定的输出或决策。

目前，解释基础模型行为的技术仍然有限，但这是一个非常活跃的研究领域。