大模型在业务领域的应用是2024年的风向标,可能有些人还不知道如何去优化提示词,本文已新意图识别举例来展示优化过程。
提示词的目标是让大模型按照你的指令输出预期的结果。我们可以把大模型看作是一个工作助手(是一个”人“)。那么与人交流,就必须掌握与这个”人“的交流方式,这个交流方式就是提示词。
新意图识别一直是比较难的,传统的方式是聚类,但聚类准确性很低,也有人使用机器学习或深度学习的方式进行了大量的研究,但都停留理论可行,实际不太可行的层面。本文想通过新意图识别这个业务难题,来看看大模型是如何轻松解决的。
在与客户沟通过程中,通常都需要识别客户的意图,通过意图识别后,给予合适的回复。通常意图识别第三方接口都是使用检索的方式实现,主要是通用、成本低,若是使用机器学习或深度学习,一是不通用,二是需要标注,有大量的标注成本,大模型应用阶段,谁还愿意去标注呢?三是需要一定的算力成本。在大模型应用阶段,7B模型在1张T4卡上也可以跑2-3个实例了。离线应用场景比较适合使用大模型来实现,一是简单,二是操作也方便,三是需要一定的业务理解能力,输出结果需要符合业务人员的口味。
下面直接给出迭代过程(使用的是deepseek,本地可以使用qwen2.5):
一、先让大模型给模拟一段账单分期业务坐席与客户的对话
客服(张经理): 您好!我是来自XX银行的张经理,我们近期正在推广一款账单分期服务,可以帮助您轻松管理账单支付。请问现在是您可以接听电话的时间吗? 客户: 是的,您好!请问这方面的服务可以具体说明一下吗?我对这个产品不太了解。 客服: 当然可以。这款服务适用于各种消费场景,比如购物、旅游和餐饮等产生的消费。在您消费之后,可以选择将账单分成几期来支付,这样可以避免一次性大额支付带来的财务压力,并且我们提供多种灵活的分期方案。 客户: 听起来不错!那具体的还款方式是怎样的呢? 客服: 我们支持按月或按季度自动扣款的方式进行偿还。您可以自由选择自己喜欢的方式,同时我们会确保您的个人信息安全并严格遵守相关法律法规保护隐私数据。另外,在首次申请成功后,您将享受一定的优惠利率。 客户: 那分期利息是多少?还有其他费用吗? 客服: 这个问题问得好。我们将为每位客户提供一个合理的起始年化利率,并且在合同中明确展示所有可能产生的成本,包括但不限于手续费、提前还款罚息等。不过,具体费率会根据您的信用状况和银行政策有所不同。 客户: 嗯嗯,那申请需要准备哪些资料? 客服: 为了帮助您快速办理分期手续,请准备好以下几项信息:1. 您的身份证明文件(身份证或护照);2. 银行借记卡/信用卡;3. 最近的账单截图或者消费记录。如果方便的话,我们也可以通过在线平台直接提交相关资料。 客服: 除此之外,如果您对我们的服务有任何疑问或需求帮助的地方,请随时联系我或其他工作人员。我们将竭诚为您解答和提供支持!同时也可以预约一个合适的时间进行面谈,以便更详细地了解您的个人情况并制定适合的分期方案。
二、写出第一个提示词
针对“对话内容”对话,要求从以下角度对客户的提问进行分类,如:不需要(没兴趣)、不需要(我有钱)、不需要(利息太高)、不需要(分期太长)、客户忙(在开车/在做饭)、需要(询问申请资料),若客户提问不在以上分类范围内,请仅给出新的分类名称和原文,以JSON格式输出,不需要具体的分析过程。
模型输出结果:

很显然,结果没有达到预期,输出了已知的分类。
三、第一次优化提示词
针对“对话内容“对话,要求从以下角度对客户的提问进行分类,如:不需要(没兴趣)、不需要(我有钱)、不需要(利息太高)、不需要(分期太长)、客户忙(在开车/在做饭)、需要(询问申请资料),若客户提问不在以上分类范围内,请仅给出新的分类名称和原文,以上JSON格式输出,不需要具体的分析过程,不需要显示已知分类。
输出结果:

很显然,还是没有达到预期,没有按指令给出新的分类,统一为“其他”。
四、第二次优化提示词
针对“对话内容””对话,要求从以下角度对客户的提问进行分类,如:不需要(没兴趣)、不需要(我有钱)、不需要(利息太高)、不需要(分期太长)、客户忙(在开车/在做饭)、需要(询问申请资料),若客户提问不在以上分类范围内,请仅给出新的分类名称和原文,以JSON格式输出,不需要具体的分析过程,不要显示已知分类。新的分类名称参考已知分类的方式给出。
输出结果:

很显然,结果是达到预期的,然后就可以解析JSON格式存入数据库了。通常大模型也存在准确率的问题,那么就需要人工审核后,才能使用。若是需要审核的内容比较多,可以采用随机抽样的方式进行人工审核,以减少审核的工作量。
179

被折叠的 条评论
为什么被折叠?



