18、人工智能在制造业与银行业的应用：创新与挑战

人工智能在制造业与银行业的应用：创新与挑战

1. 制造业中的AI服务进展

在制造业领域，随着大型语言模型（LLM）产品的不断发展和客户需求的日益增长，相关服务也在持续拓展。主要的发展方向包括：
- 数据整合 ：满足客户将结构化和运营数据（如机器数据）与非结构化数据整合的需求，以提升聊天机器人的感知能力。借助与Databricks的合作，可将结构化数据融入向量搜索，供基于检索增强生成（RAG）的聊天机器人使用，推动数据民主化，使制造商能用英语查询数据。其他平台如LangChain SQL和Spark English SDK也提供了类似的自然语言接口。
- 输出评估 ：评估LLM输出的质量并选择合适的指标一直是LLM解决方案面临的挑战。目前正在探索“以LLM为评判者”的方法来评估聊天机器人回复的质量，有望更细致地评估其生成相关且准确回复的性能。
- MLOps评估 ：作为LLM服务提供商，积极监测其他平台的端到端MLOps服务。当前重点评估AWS Bedrock，了解其模型供应和相关成本，判断是否符合自身服务要求和价值主张。
- 功能增强 ：提升聊天机器人识别用户意图并采取相应行动的能力。例如，在客户支持系统中，当客户报告产品问题时，客服人员可通过集成聊天机器人更清晰地了解问题，进而将相关信息传达给工程团队进行深入分析，安排预约或创建支持工单，迈向可操作AI的方向。

2. 制造业AI服务案例分析

以一家支持中小企业（SME）采用技术的非营利组织为例，其提供的数据和AI即服务具有创新性。该服务