大模型在智能客服领域的应用思考_大模型在客服领域的应用-优快云博客

本文链接：https://blog.youkuaiyun.com/2401_85373691/article/details/140343255

智能客服领域可以说是大模型落地的前沿领域之一，那么这其中，有哪些应用方向值得我们关注？这篇文章里，作者就做了相应的构想和探讨，一起来看。

前言

随着大模型技术的飞速发展，其在商业化应用的落地实践上仍面临着挑战，不论是面向C端用户的付费服务模式，还是面向B端企业的业务赋能策略，目前都尚未形成成熟且清晰的商业模式。

在我所专注的智能客服领域，作为人工智能落地应用的前沿阵地，我深刻感受到大模型的生成能力、泛化能力以及增强检索等核心技术的巨大潜力。基于此，我构想了一系列应用方向，并期望通过分享结合大模型工具的实验经验，与大家共同探讨这些可能性。

一、呼入场景

客户服务领域，无论是在线聊天还是语音交流，都已成为了现代业务运作中不可或缺的一部分。目前，基于NLP（自然语言处理）、ASR（自动语音识别）和大数据等先进技术，已经涌现出了一系列智能化的客户服务应用。

然而，这些产品在功能边界和特色上往往差异不大，难以在激烈的市场竞争中脱颖而出。大模型的加持，从运营成本和用户体验上考虑，也许可以为这一领域带来了新的发展机遇。

1. 问答机器人

在呼入场景中，问答机器人（包括在线客服机器人和语音导航机器人）的广泛应用凸显了ASR转译准确率和NLP自然语言处理语义理解能力的重要性。在实际业务运营中，为了提升问答机器人的识别准确率，往往需要维护一个尽可能大的相似问题库。

[

然而，这种维护方式不仅耗时耗力，而且需要大量的运营成本。考虑到大模型的泛化生成能力，我们可以设想一种创新的方法：**通过输入特定的prompt（指令），让大模型生成更多的相似问题，经过业务审核后入库。这种方法有望显著降低运营成本，同时提升问答机器人的识别准确率。**为了验证这一想法，使用了文言一心、Kimi助手等大模型工具进行了实验，如下：

2. 话务小结抽取

席在接听完一通会话后进行话务小结是一个重要的环节，用于记录通话的核心内容、问题以及解决方案等信息。传统上，这个过程需要坐席在通话结束后手动输入，既耗时又可能因人为因素导致信息遗漏或偏差。

**大模型的主题抽取能力可以用于自动生成小结，坐席只需审核确认后录入，这有助于缩短通话时长，提高效率。**验证如下：

3. 多轮对话的处理

多轮对话在问答机器人技术中向来是颇具挑战性的环节，目前主要局限于特定的简单场景，由运营人员在流程画布上进行详细设定，涉及多个交互节点和路径。

为了更灵活、精准地响应客户的问题，我们可以借助大模型的生成能力和增强的检索功能。这种方法在阿里的相关文章中得到了具体体现（参考：https://mp.weixin.qq.com/s/0THyHxpuIo9MI8MY9tLHiA），即通过大模型生成提示性的快捷短语，引导用户更明确地表达需求，同时结合增强的检索技术，缩小答案的搜索范围，从而生成更为可靠和准确的回答。

二、呼出场景

在当前的AI外呼场景中，虽然普遍采用基于预设流程的问答模式，结合ASR（自动语音识别）和NLP（自然语言处理）技术来执行外呼任务，但这种方式在个性化服务和转化率提升上存在一定局限性。借助大模型的生成能力，我们可以实现更为智能化的外呼策略。

具体来说，**通过大模型分析不同用户的属性标签，如年龄、性别、兴趣偏好、消费习惯等，AI外呼系统可以为用户定制差异化的呼叫内容和方式，真正做到“千人千面”。**验证如下：

三、后线管理应用

1. 智能质检规则的泛化

在搭建质检系统的过程中，作者从0到1深度参与，深刻体会到了质检规则维护的复杂性和重要性。这些规则通常涉及关键字识别和正则表达式的使用，需要业务团队投入大量时间和精力去详细罗列和测试，以确保质检的准确率。

然而，**借助大模型的泛化能力，我们可以极大地提升这一过程的效率和效果。大模型能够通过学习大量的数据，自动生成与业务相关的关键字和正则表达式，从而帮助业务团队减轻工作量，并提高质检规则的全面性和准确性。**以正则表达式验证如下：

2. 坐席知识库

传统坐席知识库在搜索和匹配信息时，依赖于搜索引擎、索引、关键字匹配或语义理解进行排序，这种方式可能导致用户查找信息耗时较长，并且高度依赖于知识维护人员的规范性和及时性。大模型能力也许会将未来的知识库搜索体验进行颠覆性的改进。

具体想法如下：**首先，将知识库中的信息进行结构化处理，并存储到向量库中。这样，知识库中的每一条信息都能以向量的形式存在，便于进行高效的数学运算和相似性比较。接着，将这些向量数据投喂给大模型进行训练，为后续的搜索和生成任务打下基础。**用户搜索时，给出明确promote指令，大模型将相关的内容检索出来，再直接生成内容返回给到用户。

这和当前使用的一些大模型助手的情况相似，举例说明，如：给出近三年的国内GDP数据。

结束语

以上是我基于对大模型能力的理解以及对客服业务场景的洞察，所产生的一些初步思考。这些思考得到了我在开源工具上进行的验证的支持，尽管目前这些思考尚显零散，但我期待能与各位同仁共同探讨和完善。

再者，在探讨大模型在业务场景中的落地应用时，我们不可忽视垂直领域的训练优化。每个行业都有其独特的业务逻辑和需求，因此，通过针对垂直领域的特定训练，能够进一步提升大模型的性能和适应性。

最后，在实际落地过程中，我们需要保持开放的心态，勇于提出大胆的假设，但同时又要谨慎求证。为了降低风险并加速验证过程，建议在前期采用插件化的形式来逐步验证和优化大模型的应用效果。

零基础如何学习AI大模型

领取方式在文末

为什么要学习大模型？

学习大模型课程的重要性在于它能够极大地促进个人在人工智能领域的专业发展。大模型技术，如自然语言处理和图像识别，正在推动着人工智能的新发展阶段。通过学习大模型课程，可以掌握设计和实现基于大模型的应用系统所需的基本原理和技术，从而提升自己在数据处理、分析和决策制定方面的能力。此外，大模型技术在多个行业中的应用日益增加，掌握这一技术将有助于提高就业竞争力，并为未来的创新创业提供坚实的基础。

大模型典型应用场景

①AI+教育：智能教学助手和自动评分系统使个性化教育成为可能。通过AI分析学生的学习数据，提供量身定制的学习方案，提高学习效果。
②AI+医疗：智能诊断系统和个性化医疗方案让医疗服务更加精准高效。AI可以分析医学影像，辅助医生进行早期诊断，同时根据患者数据制定个性化治疗方案。
③AI+金融：智能投顾和风险管理系统帮助投资者做出更明智的决策，并实时监控金融市场，识别潜在风险。
④AI+制造：智能制造和自动化工厂提高了生产效率和质量。通过AI技术，工厂可以实现设备预测性维护，减少停机时间。
…
这些案例表明，学习大模型课程不仅能够提升个人技能，还能为企业带来实际效益，推动行业创新发展。