夏天又到了的专栏

做传统 Web/后端的人转大模型应用，最容易卡在一个地方：API 能调通、Prompt 能写两句，但一旦老板说“做个智能客服”或“把投研信息自动摘出来”，就不会拆系统了。王晓华这本《DeepSeek原生应用与智能体开发实践》（清华大学出版社，人工智能技术丛书）的价值，就在于它不停在“聊天层”，而是把​ 写成一条能跑的线。

几本AI应用及智能体开发书的全文试读链接-优快云博客【新书介绍】《DeepSeek原生应用与智能体开发实践》-优快云博客王晓华DeepSeek开发AI应用入门书《DeepSeek原生应用与智能体开发实践》全文分享~持续更新-优快云博客在全球化电商生态中，多语种交互能力不足已成为制约服务效能的关键瓶颈。随着DTC（Direct-to-Consumer，直接面向消费者）模式的崛起并渗透到新兴市场，传统客服体系面临三重挑战：其一，非通用语种覆盖不足导致20%~30%的海外用户咨询流失；其二，时区差异引发响应

例如，在一个复杂的机器人控制任务中，机器人的每一个动作都可能受到多种环境因素的影响，设计者需要精确衡量这些动作在不同情境下的合理性，才能制定出合适的过程奖励规则。未来，大模型后训练有着广阔的发展前景。一方面，可以设计专门的数学逻辑任务集，如数学证明题、逻辑推理题等，作为模型训练的数据源，通过大量实践让模型在“做中学”，逐步积累数学逻辑经验。另一方面，可借鉴人类解决数学问题的思维方式，如归纳推理、演绎推理等，将这些思维方法融入模型的后训练过程中，使模型能够模拟人类的逻辑思考过程，提高解题效率和准确性。

例如，在机器人控制领域，机器人需要在复杂多变的环境中快速做出决策并执行动作，GRPO算法能够凭借其简洁高效的优化机制，使机器人更快地学习到最优策略，提高任务完成的效率和准确性。CartPole是用于强化学习的一种常用环境，在CartPole场景中，有一辆小车，智能体的任务是通过左右移动保持车上的杆竖直，若杆的倾斜度数过大，或者车子离初始位置左右的偏离程度过大，或者坚持时间到达最大帧，则游戏结束。这一额外的模型不仅增加了算法的复杂度，还在一定程度上提升了计算成本，对算法的实时性和可扩展性造成了一定的影响。

在线蒸馏强调在训练过程中，大模型与小模型之间的动态交互与知识共享，通过实时调整学习策略，促进小模型在保持轻量化的同时，尽可能接近大模型的性能表现。大模型教小模型的示意如图13-2所示。模型蒸馏作为提升模型效率与性能的关键技术，其种类繁多，每种方法的目的都是通过不同的策略将复杂大模型的知识迁移到更加轻量、高效的小模型中。DeepSeek在开源之初就公布了一个完整的大型推理模型，在带来准确性的同时，也引入了一个问题，模型的规模越来越大，计算成本也越来越高，这对中小型开发者来说无疑是一个巨大的挑战。

人工智能模型在文本生成、信息检索和问答领域展现出了卓越的性能，这背后离不开其初始的训练过程。然而，模型的训练成本极其高昂，需要庞大的计算资源和海量的数据，这令一般人难以承受，也导致了一些研究人员难以重复和验证先前的研究成果。为了解决这个问题，研究人员开始致力于研究大模型微调技术，以提高预训练模型在新任务上的性能，从而减轻大型预训练模型的训练成本。12.1.1。

DeepSeek中的MTP（Multi-Token Prediction，多词元预测）技术是其提升模型训练和推理效率的关键。MTP允许模型在训练阶段一次性预测多个未来token（词元），而不仅仅是下一个token，这种机制通过密集的监督信号显著提高了数据利用效率。此外，MTP还迫使模型学习更长的token依赖关系，从而更好地理解上下文，避免陷入局部决策的学习模式。在推理阶段，MTP通过并行预估多个token，实现了推理速度的显著提升，使得模型能够更快地生成高质量的输出。

值得注意的是，最新研究开始探索动态MoE架构，通过可重构专家网络和自适应路由算法，使系统在保持模型容量的同时，能根据硬件负载动态调整激活的专家数量，这种混合设计有望在未来弥合两种架构的效率鸿沟。具体来看，如果输入图像大小为28×28×1，这是一个单通道的灰度图，则Patch Embedding将图像分为固定大小的patch，patch大小为4×4，则每幅图像会生成28×28 / 4×4=49个patch，这个数值可以作为映射后序列长度，值为49，而每个patch的大小则是4×4×1=16。

在金融行业，资讯获取的重要性无须赘言。对于金融从业者而言，全面且及时地掌握最新金融资讯，堪称一项艰巨的挑战。一方面，海量的资讯信息如汪洋大海，仅仅是进行阅读与筛选，便要耗费大量的时间与精力，让人应接不暇；另一方面，在这纷繁复杂、真假难辨的资讯迷宫中，要做出精准且合理的分析与判断，更是犹如雾里看花，困难重重。不过，随着大模型技术的迅猛发展，这一长期困扰金融从业者的难题，终于迎来了全新的解决方案。

在前面的章节中，我们已经详细讲解了基于DeepSeek的各类应用，展现了它在不同场景下的强大功能与实用价值。然而，我们深知，DeepSeek之所以能在众多领域大放异彩，取得令人瞩目的成功，其背后离不开内在性能的显著提升。性能的提升犹如坚实的基石，支撑着DeepSeek不断拓展应用边界，实现更卓越的表现。从本章开始，我们将深入探索DeepSeek的核心技术，揭开其性能提升背后的神秘面纱。通过对这些核心技术的剖析，我们不仅能更全面地理解DeepSeek的运作机制，还能领略到其研发团队在技术创新上的智慧与匠心。

大模型的工具调用（Function Calling）功能，作为人工智能领域的一项关键技术，赋予了大模型与外部世界进行交互和协作的能力。在这一领域，DeepSeek所实现的工具调用机制，以其高效、灵活的特点，成为众多开发者和研究者关注的焦点。它不仅能够让模型根据需求精准地调用各类外部工具，还极大地拓展了模型的应用场景并增加了其实用价值。而MCP（Model Context Protocol，模型上下文协议），作为一种具有开创性的开放协议，其核心目标在于标准化人工智能模型与外部数据源、工具之间的交互方式。

随着人工智能技术的迅猛发展，语言模型在处理复杂任务方面的能力正以前所未有的速度提升。其中，思维链技术作为一种极具创新性的方法，正逐步彰显出其在增强模型推理能力方面的巨大潜力。本小节将深入剖析DeepSeek思维链技术的内涵，包括其定义、触发方式、优缺点，并通过具体示例展示其在实际应用中的卓越表现。1. 思维链的定义思维链是一种借助提示大语言模型（LLM）生成中间推理步骤的技术，旨在提高模型在复杂任务（尤其是涉及逻辑、算术推理的任务）上的表现。

除了朋友对话提示，我们还讲解了系统提示的作用与使用方法，从精准性与专业性角度来看，定义DeepSeek角色并限定任务描述范畴，使得模型的回复如同经过专业校准的仪器，具有高度的精准性。同时，提示库的智能化程度也将不断提高，能够更好地理解用户的模糊表达和复杂需求，为用户提供更加精准、高效的解决方案。对于初学者而言，库中配备了详细的基础提示词示例和清晰的使用说明，就像是一位耐心的导师，手把手地引导他们熟悉DeepSeek模型的基本操作和提示词的使用方法，帮助他们快速上手，迈出探索人工智能世界的第一步。

DeepSeek拥有一套全新的大模型调用方法，既可以通过对话的方式开启大模型的对话，也可以使用API调用的形式来使用大模型。DeepSeek对话窗口如图2-22所示。图2-22 开启免费的DeepSeek对话读者可以免费使用和测试基于网页的DeepSeek大模型，下面我们将以在线大模型API调用的形式对大模型进行讲解。DeepSeek官网是提供大模型服务的开放平台，读者可以通过注册获取API调用服务，首先在DeepSeek官网首页进行注册，如图2-23所示。

大模型时代的到来，标志着人工智能技术迈入了一个全新的发展阶段。在这一阶段，以深度学习等前沿技术为核心的大型神经网络模型成为主流。这些模型以其海量的参数规模和极高的计算复杂度著称，其训练与应用高度依赖于海量的数据、强大的计算资源以及先进的算法优化能力。

减少空间占用的生成模型实战与推理资源消耗量化对比。章　大模型驱动的即时金融信息采集与分析平台。在线蒸馏的损失函数与经典微分方程的求解方法。对于智能客服模型垂直领域知识注入的补充讲解。微调的目的：让生成的结果更聚焦于任务目标。减少空间占用的自回归模型代码实现与详解。驱动的即时金融信息采集与分析平台实战。未运行缓存的生成模型推理资源量化展示。自回归模型中的单分类与多分类激活函数。使用微调后的智能客服基座模型完成推理。驱动的即时金融信息采集与分析平台。在缓存的生成模型推理资源量化展示。