实战1 基于Qwen2的简单计算器实现

在本案例中，我们将探讨插件在大模型中的应用。通过插件，模型可以查询实时信息（如天气）、进行复杂计算（如数学解题），从而大幅度提升其应用广度与深度。

LLM缺陷

 大模型为我们带来了前所未有的自然语言处理能力，然而它们依然存在两大主要限制：

1. 缺乏最新信息：由于大模型的训练周期长、成本高，其知识通常滞后于当前现实。比如GPT-3.5的知识截至2022年1月，GPT-4截至2023年4月，这意味着模型无法回答近期发生的事件。

2. 没有「真实逻辑」：大模型基于统计规律生成语言，缺乏真正的逻辑推理能力。它并不理解数学或推理的本质，只是记住了特定数据范围内的统计模式。当遇到超出训练数据范围的问题时，模型的回答可能失真。

这两大缺陷使得大模型在一些具体任务上表现不足。因此，为了克服这些局限性，让大模型能够与实时信息和真实逻辑系统互动，插件（Plugins）的使用应运而生。

工作原理

• 首先用户向应用发送请求

• 应用向LLM传入function的参数等信息

• LLM决定是直接响应应用，还是调用一个或多个函数

• API 返回给应用，指定要调用的函数及其参数。

• 应用使用给定的参数执行该函数。

• 你的应用程序再次调用 API，提供提示词和代码刚刚执行的函数结果。

• LLM组合回答后返回答案

Plugins 的局限性

虽然 Plugins 为大模型赋予了外部工具调用的能力，但其实现仍面临诸多挑战：

1. 缺少「强 Agent」调度：目前模型只能手动选择最多三个插件，操作复杂且使用成本高。理想情况下，解决这一问题的方案类似于「App Store + Siri」，实现智能调度，甚至可能挑战现有手机操作系统的地位。

2. 缺乏「场景」支持：Plugins 无法提供端到端的一站式服务，因为它们不在特定场景中运行。解决这一问题可以让模型成为全能的私人助理，能够根据具体需求，自动调用适合的插件，实现从需求到结果的闭环服务。

3. 高资源消耗：调用插件往往需要多次生成和API调用，导致资源消耗大。这种开销不仅增加了使用成本，也降低了操作的流畅性和用户体验。

这些问题同样是开发「智能应用」时需要克服的挑战。

GPTs 的解决方案

为解决这些问题，GPTs 引入了一些创新方法：

1. 每个 GPT 聚焦特定场景：每个 GPT 针对特定任务或角色设计，如「写代码」、「教小孩数学」、「模仿某某人的性格」等，使其在特定情境中表现更优。

2. 自动调用绑定的 Actions：GPTs 可以自动调用与特定场景绑定的 Actions，简化了调度难度，提升智能性。

3. 优化性能和成本：GPT-4 在新版本中速度更快、成本更低，为用户带来了更优的体验。

作为开发者的机会

开发者可以通过以下方式参与并拓展 GPTs 的应用：

1. 开发自定义 Actions，构建专属 GPTs：通过自定义的 Actions，为特定场景创建独特的 GPTs。

2. 利用 Assistants API 构建独立的智能应用：不依赖 ChatGPT 本体，开发独立的智能应用，拓展应用场景。