从“智障客服”变智能客服，大模型终于落地了｜甲子光年

关注

原创最新推荐文章于 2026-06-06 09:17:01 发布 2.4k 阅读 AI 写同款· GEO 优化 ›

构建一个智能客服Agent：提升服务效率的实践一个好的智能客服不仅要能准确回答问题,更要有同理心,能够理解和回应客户的情感需求。它就像一个经验丰富的客服主管,在合适的时候给出恰当的回应。在下一篇文章中,我会讲解如何开发一个数据分析Agent。如果你对智能客服的开发有什么想法,欢迎在评论区交流。阅读详情

智能客服从成本中心到价值中心的蜕变。

2024年春节期间，经过半年多的摸索，瓴羊Quick Service在内部发布了一个新产品版本，定义了在to B场景下智能客服Agent的产品形态。

在当时的时间点，这可能是国内第一个可落地的大模型加持的智能客服Agent。

瓴羊Quick Service部门面临一个选择：要不要面向市场公开发布这个初步成型的产品？要知道，Agent是一个炙手可热的大模型风口，市场上成熟的产品寥寥可数，一旦发布，一定会引发行业不小的关注。

但瓴羊毕竟不是一个学术研究部门，它是阿里巴巴在2021年成立的聚焦于数据服务的全资子公司，Quick Service是其中的智能客服部门。瓴羊最核心的任务，还是要解决客户的实际业务问题。‍

瓴羊智能客服产品总监张双颖告诉「甲子光年」：“关于先说后做还是先做后说，我们最终决定选择后者。这个产品要想推向市场，应当是等技术水平真正能够达到实际可使用、可商用，能够被客户认可的状态才行。”

此后，瓴羊进入产品的深入打磨期，一晃又是半年多。直到昨天（8月28日），瓴羊Quick Service的大模型产品终于交卷。

瓴羊最新发布的Quick Service 2.0，在上一版本的基础上全面升级了三大核心功能：AI问答、AI辅助和AI知识库，是业内首个将AI Agent完整落地、可覆盖客服“全场景”的智能客服产品。

智能客服是大模型最快落地的场景之一。近期，「甲子光年」采访了张双颖，来回答一个行业本质问题：大模型升级智能客服，这件事到底如何发生，又带来什么价值？

1.智能客服，不够智能

一提到智能客服，大家可能会立马联想到电话推销，电话推销就是通过智能客服呼叫中心的外呼机器人来实现的。很多人常把外呼机器人与智能客服划等号，但实际上外呼机器人只是智能客服的场景之一。

智能客服还有很多场景。张双颖告诉「甲子光年」：“从消费者视角来看，智能客服会贯穿售前、售中、售后三个主要消费环节，为消费者提供一贯式的咨询服务；从客服员工的视角来看，当处理消费者的咨询时，需要用到员工培训、工单、知识库等多款配套工具；从商家的客服部门管理者的视角来看，需要一个工具来了解客服的整体效果，涉及质量检验、消费者综合洞察等。”

因此，智能客服远不止一款产品，而是一个覆盖线上与线下全渠道，涉及售前、售中与售后各个环节与角色的全场景客服系统。

但智能客服行业存在一个长久的痛点，那就是没有体现“智能”。

先简单回溯一下智能客服的发展历史。客服就是“客户服务系统”，最早的形态可以追溯到1956年由泛美航空公司推出的客服中心，通过电话的形式进行客户机票预订，后来逐渐在全球范围内兴起为以电话呼叫中心的客服系统。

20世纪90年代以后，随着互联网的兴起，客服系统跳出单一的电话呼叫中心，出现了网页在线客服、客服软件等多种客服渠道。近十年以来，随着移动互联网、云计算、大数据与AI技术的发展，传统呼叫中心与客服软件进入SaaS与智能化时代。智能客服就是引入了机器学习、深度学习技术的客服系统。

客服的20年技术变革历史，图片来自瓴羊

早期的智能客服基于专家系统，依赖于预设的关键词模板，能够提供基本的信息查询服务，但缺乏灵活性与理解复杂语境的能力。后来智能客服引入机器学习、深度学习技术，能够处理更复杂的问题，提供更个性化的服务，但其实仍然没有达到“智能”的水平。

因此，客服系统需要庞大的人工客服来应对各种问题。可以说有多少智能，就有多少人工。

在很多企业，智能客服就是纯粹的成本中心，降本增效就是最核心的诉求。客服人员流动性大、培训成本高、客服效果难以把控、大量重复性问题过度消耗人工客服。同时，如何提升售前转化、如何优化客服流程、如何从客服数据中发现企业业务问题等，一直困扰着各大企业。

直到ChatGPT的出现，让从业者看到了智能客服的理想状态。一个机器人回答所有问题，似乎不再是遥不可及的梦想。

这也是瓴羊Quick Service看到的机会。

2.拿着钉子找锤子

虽然瓴羊Quick Service是智能客服的行业专家，但在大模型的探索上，也是摸着石头过河。

2023年春节——ChatGPT发布一个多月后，瓴羊Quick Service团队就基于海外已有的大模型做出了文本总结、摘要等功能。但团队发现，由于准确度与幻觉等限制，无法在真实的商业环境中落地。

等到2023年年中，OpenAI研究员发布了一篇著名的关于Agent的论文。论文指出，如果说大模型是一个大脑，那么Agent就是一个可执行任务的四肢。这给瓴羊团队如何做大模型的落地打开了新的视角。

Agent架构图，来自OpenAI研究员的论文

在深入研究了Agent的规划、记忆、工具使用等核心组件能力之后，瓴羊的算法、产品团队做了细致的推演，发现Agent这条路是可落地的。2024年春节前后，瓴羊智能客服团队把第一个Agent的产品雏形做了出来。

于是，就有了文章开篇所述团队面临的两种选择。最终，瓴羊决定先把产品打磨好再发布，客户是检验产品的唯一标准。

将大模型与智能客服结合，瓴羊做了大量的工作。

第一步是通用大模型底座的选择。瓴羊Quick Service的默认选择是阿里通义千问，如果企业有其他选择技术上也完全支持。

张双颖解释了选择通义千问的理由：“第一，虽然市场上开源大模型也很多，但很多是不可合规商用的。在可商用的模型里，通义千问是测评效果最优秀的模型之一，这是最重要的一点；第二，通义千问毕竟是阿里自研的模型，从产品协同的角度来说，跟通义家族产品团队的合作会更加顺畅。”

通用大模型虽然具备丰富的世界知识，但这往往不是企业最需要的。企业更需要的是在智能客服这一特定领域的行业知识，比如PDF文档里的规章制度、Word文档里的业务流程，非结构化数据的知识库管理等等。

所以，**瓴羊在通用大模型的基础上，通过知识预处理、特征抽取、检索引擎等技术，训练得到客服垂直大模型——瓴羊称之为行业模板。**瓴羊面向零售、汽车等多个行业，借助通义千问为底座的RAG方案，针对步骤类、流程类、政策类等文档，生成了与之对应的8种模板。

行业模板针对大模型的内容生成做了约束，有助于解决大模型幻觉问题。此外，在大模型生成知识之后，瓴羊团队还专门做了一个防幻觉的检测模型，确保是安全合规、符合企业要求的信息。

大模型的泛化能力相比传统的小模型节省了重新调整算法的成本，其带来的优势非常明显。比如一个简单的订票场景，以前仅仅是多出一个票种分类，也需要再去专门训练一个小模型来适配，而现在一个大模型就能解决。张双颖表示：“我们发现大模型对新场景的容纳率，的确比小模型要好得多。”

做大模型，也不能盲目迷信大模型。在一年多的摸索里，瓴羊团队得出的结论是，大模型不能解决所有问题，最实用、高效的路线还是大小模型结合的方式。

在智能客服的一些场景中，有一些问题的答案是一丁点都不能出错的，比如食品安全、产品价格，它需要100%的确定性。这类问题，实际上更适合传统的小模型，也就是特定的算法来回答特定的问题，给出预先匹配好的100%确定性的答案。

为了区分复杂问题与专精问题，瓴羊团队研发了一个“路由算法”，就像大模型的路由器一样，智能识别与分发不同的问题。遇到专精问题就匹配给小模型，遇到需要长上下文理解、语义理解、情感识别的问题，就匹配给大模型来处理。

张双颖表示，小模型的核心能力不在于技术水平高低，而在于贴近客户做业务。而现在，智能客服行业涌入了不少大模型公司，试图用新的AI技术改变行业的业务模式。

他认为，许多公司的商业逻辑更像是“拿着锤子找钉子”，而瓴羊恰恰相反，属于“拿着钉子找锤子”。Quick Service沉淀了阿里巴巴二十多年客户服务的经验，这些深厚的行业积累，是短时间内很难被超越的壁垒。

3.大模型智能客服长什么样？

在经过一年多的探索、半年多的沉淀之后，瓴羊Quick Service的大模型产品终于交卷了。

直观理解大模型加持的智能客服，就像是在传统的客服软件系统里植入了聪明的大脑。但这些能力要想发挥出最大的价值，离不开瓴羊过去构建起来的“全场景”能力。

瓴羊最新发布的Quick Service 2.0，在上一版本的基础上全面升级了三大核心功能：AI问答、AI辅助和AI知识库，是业内首个将AI Agent完整落地、可覆盖“全场景”的智能客服产品。

瓴羊Quick Service 2.0产品架构图

第一个产品AI问答，将传统热线和在线对话机器人进行了智能化转型，解决了企业智能机器人在处理客户个性化需求时常答非所问的问题，解答准确率达到93%。

比如，零售行业的星巴克已经与瓴羊合作五年。在此期间，瓴羊与星巴克先后完成了天猫、饿了么、口碑、支付宝、高德、星巴克私域App商城以及会员服务、PC网站、线下门店、微信公众号以及微信小程序等10+个渠道，涵盖会员、外卖等多个星巴克明星业务，帮助星巴克提供多渠道的客户服务支撑。

借助瓴羊的智能化客服系统，星巴克解决了87%的客户咨询问题，客户投诉处理时效提升50%。

Quick Service 2.0第二个产品AI辅助，是为企业客服团队提供效率工具，实现多渠道的高效协同。

某头部零售企业此前一个工单需要经过客服、城市经理、奶站站长等多个环节才能到达最终的处理人员（送奶工）。而接入瓴羊Quick Service后，通过大模型智能填单技术与自动化任务分配系统，工单可以直接精准下发至对应处理人员，线上线下任务协同时长可缩短95%。

某头部运营商存在大量的员工和代理商咨询需要处理，过去主要使用电话沟通、单点私聊或者群内留言等传统方式，客服缺乏统一的标准化服务。在接入瓴羊AI辅助产品后，客服可以借助瓴羊客服的灵活渠道部署，高效整合知识库机器人、人工客服、热线入口、OA流程、公告留言板、消息主动推送等各种支撑能力，客服支撑效能提升50%以上，支撑响应接起率超过99%，一般性诉求解决时间由30分钟压缩到5分钟以内。

Quick Service 2.0第三个产品AI知识库，面向服务运营，减少客服运营繁琐的知识库配置工作，知识库部署从“7天”缩短至“5分钟”。

某头部家电企业，内部协作需要照顾到研发、生产、供链、销售、服务等10万名员工，这些员工每天会产生5000多个问题。但这些数量庞大的提问的重复率高达40%，运维人员的回答也存在不统一、专业性知识跨部门支持等难题。

Quick Service 2.0通过知识批量导入结合Query的相似度模型及知识冲突模型，将问题进行删除合并，同时利用大语言模型的话术润色能力生成出更具专业性、亲和力的答案。而面对格式多、内容广的文档知识，产品团队只需按模板上传，即可为员工生成准确的答案。

此外，高频的产品迭代、数以百计的渠道入口，员工问题繁杂，都给机器人维持准确率带来了不小的困难。对此，Quick Service为企业打造了统一知识生产流程，即使在每季度2-3个功能上线、10%产品更新的节奏之下，也可保证机器人的准确率。当员工在问询不属于某一入口的功能时，智能类目还会帮助机器人自动路由到其他类目，检索原入口没有的知识，解决“大而全”与“小而精”难以兼顾的矛盾。

目前，该企业的机器人问题准确率达80%以上，员工平均咨询量、运维工单咨询发起量分别降低18%与8%。

4.从成本中心到价值升级

客服一直都是企业的成本中心，在做好客户服务的前提下，数字化工具发展的本质一直都是围绕着降本增效展开。而大模型的出现不仅加速了降本增效的进程，还促进了客服的价值典范转移。

张双颖告诉甲子光年：“过去要想提高知识库问答的准确率，从冷启动到调优可能需要一到两个月的爬坡时间，才能逐渐达到一个比较高的准确率。但有了大模型之后，这个爬坡过程可能只需要几周；过去一个服饰商家在换季时节上新，一下子几千个SKU，客服团队需要花两周的时间去学习，现在通过大模型，一两天就能整理出结构化的知识。”

当降本增效从量变来到质变，智能客服会发生什么？

瓴羊看到了一个价值升级的可能性，也就是智能客服从成本中心向业务增长转变，客服与业务甚至是产品的边界会越来越模糊。

瓴羊副总裁林永钦，图片来自瓴羊

这在一些行业已经发生，比如新能源汽车行业。

在汽车新能源浪潮之下，汽车品牌销量与门店数量激增，这对客服中心的智能化能力、响应速度乃至获客能力都提出了更高要求。

上汽在升级为三个子品牌、销量达百万以上后，开始思考客服中心的升级问题：如何改观用户对品牌智能化水平不高的印象、如何提升客服总体满意度、如何使客服从成本中心转为利润中心，主动创造经济价值？

Quick Service的“三全”解决方案，对以上问题一一进行了回应。所谓“三全”，一是打造“全场景”，从售前线索产生、试乘试驾，到售后招揽咨询、赠换购各环节为客户提供完备的咨询服务。二是覆盖“全触点”，通过APP、官网、小程序的统一接入与IM的升级，整合零散获客渠道；三是实现全智能，升级售前/售后机器人、人工客服智能化能力，提升工作效率。

其中，客服系统的智能化升级，为用户提供了“能共情”的体验。Quick Service帮品牌设计了具备丰富情绪表达的形象，使机器人能够与用户同喜同悲，交互界面不再是冷冰冰的机械问答，而是多了几分共情的温度。此外，横滑交互、颜色、高亮等创新交互体系的优化，以及千人千面的“猜你想问”，都使用户感知到更多价值认同与个性化体验。

机器人不仅“能共情”，还“能对话”、“能创新”。通过大模型对活动类、操作步骤类文档知识的抽取，Quick Service有效提升了知识的生产效率，对门店营销、车机使用等高频问题的回答更加游刃有余。

而且在售前环节，机器人还能帮助品牌完成老客的回电保养、潜客的信息搜集等任务，完成向利润中心的价值转移。

张双颖认为，客服产品的特点就是做企业与人的连接，而连接消费者就是最有价值的事情，未来会有越来越多的企业在想办法维系消费者的同时，去思考能不能带来更多的业务增长。而智能客服，很有可能会在这个过程中发挥重要的价值。

今天整体的市场大环境渐渐进入存量时代。对于很多企业来说，挖掘老客户的价值，比获取新客户的性价比更高。

在大模型的加持下，智能客服正是在市场快速变化下，实现业务价值升级的一个切口。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述