qq_40713201的博客

首先，需要注册一个豆包账号，网址是这里： https://www.marscode.cn/home?在这个小项目中，会利用豆包进行编程，拿到代码一键运行，实现一个番茄钟的小应用。然后把左边index.html和script.js的代码依次替换生成的代码。番茄钟的项目就完成了！恭喜你，完成第一节的开发。右侧就会显示出运行的结果。在右边对话框中输入要求。点击右上角进行工作台。

首先导入相关的依赖，在这里已经提前建立了.env保存一些环境，比如openAI的API key，thread_id，assistant_id，如果没有创建assistant，也可以重新创建，相关方面在前面的（一）（二）节有提到。如果需要上传文件的话，可以通过下面这种方式创建vector store并更新assistant：（第二节的相关内容，完成可以跳过）之前创建的assistant如下：（第一节的内容，如果已经有assistant可以跳过）

上一节中我们新创建了一个assistant并且把ID写入了.env文件，这个时候用os.getenv就可以直接从文件中获取到了。然后，更新assistant，把vector store和assistant绑定，这样就可以通过助手来使用我们上传的文件了。接下来上传文件，在file_paths中可以放置多个文件，直接填入文件的地址即可。这里的thread_id很重要，需要存下来，放到.env文件里。现在可以进行对话了，我们用一个loop来表示连续的对话。好了，现在可以运行起你的assistant进行对话了。

这里解释一下description和instructions的区别，description是用来定义assistant的身份的，即“你是谁”。instructions是描述assistant的功能，name是助手的名字，tools包含调用的相关工具，tool_resources是工具调用的具体资源这里是vector_store，model是选用的模型类型。assistant是今年openAI发布的允许用户在自己的应用程序中构建的 AI 助手，并可以利用模型、工具和知识来响应用户的查询。

L {本地机器_PORT}:127.0.0.1:{开发机_PORT}：这是设置本地端口转发，将本地机器的指定端口（由 {本地机器_PORT} 表示）转发到远程主机（这里即 ssh.intern-ai.org.cn）的 127.0.0.1。-p 37489：是指定 SSH 连接的端口为 37489，root@ssh.intern-ai.org.cn：表示要以 root 用户身份连接到 ssh.intern-ai.org.cn 这个主机。接下来，启动端口转发，这一步要退出远程登录状态，在本地终端执行。

mindspore.dataset模块提供了一些常用的公开数据集和标准格式数据集的加载API。对于MindSpore暂不支持直接加载的数据集，可以构造自定义数据加载类或自定义数据集生成函数的方式来生成数据集，然后通过GeneratorDataset接口实现自定义方式的数据集加载。GeneratorDataset支持通过可随机访问数据集对象、可迭代数据集对象和生成器(generator)构造自定义数据集，下面分别对其进行介绍。

张量（Tensor）是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数，这些线性关系的基本例子有内积、外积、线性映射以及笛卡儿积。其坐标在  𝑛  维空间内，有  𝑛^𝑟 个分量的一种量，其中每个分量都是坐标的函数，而在坐标变换时，这些分量也依照某些规则作线性变换。𝑟 称为该张量的秩或阶（与矩阵的秩和阶均无关系）。张量是一种特殊的数据结构，与数组和矩阵非常相似。张量（Tensor）是MindSpore网络运算中的基本数据结构，本教程主要介绍张量和稀疏张量的属性及用法。

第二节快速入门举了一个例子，可以更加清晰地看到数据是如何被处理、模型是如何被训练的。

此处我们另外要求模型创建一个 JSON 摘要，方便我们发送给订单系统。因此我们需要在上下文的基础上追加另一个系统消息，作为另一条指示 (instruction)。我们说创建一个刚刚订单的 JSON 摘要，列出每个项目的价格，字段应包括 1）披萨，包括尺寸，2）配料列表，3）饮料列表，4）辅菜列表，包括尺寸，最后是总价格。此处也可以定义为用户消息，不一定是系统消息。请注意，这里我们使用了一个较低的温度，因为对于这些类型的任务，我们希望输出相对可预测。

扩展是将短文本（例如一组说明或主题列表）输入到大型语言模型中，让模型生成更长的文本（例如基于某个主题的电子邮件或论文）。这种应用是一把双刃剑，好处例如将大型语言模型用作头脑风暴的伙伴；但也存在问题，例如某人可能会使用它来生成大量垃圾邮件。因此，当你使用大型语言模型的这些功能时，请仅以负责任 (responsible) 和有益于人们 (helps people) 的方式使用它们。在本章中，你将学会如何基于 OpenAI API 生成针对每位客户评价优化的客服电子邮件。

LLM非常擅长将输入转换成不同的格式，典型应用包括多语种文本翻译、拼写及语法纠正、语气调整、格式转换等。本章节将介绍如何使用编程的方式，调用API接口来实现“文本转换”功能。首先，我们需要OpenAI包，加载API密钥，定义getCompletion函数。

推断任务可以看作是模型接收文本作为输入，并执行某种分析的过程。其中涉及提取标签、提取实体、理解文本情感等等。如果你想要从一段文本中提取正面或负面情感，在传统的机器学习工作流程中，需要收集标签数据集、训练模型、确定如何在云端部署模型并进行推断。这样做可能效果还不错，但是执行全流程需要很多工作。而且对于每个任务，如情感分析、提取实体等等，都需要训练和部署单独的模型。LLM 的一个非常好的特点是，对于许多这样的任务，你只需要编写一个 Prompt 即可开始产出结果，而不需要进行大量的工作。

当今世界上文本信息浩如烟海，我们很难拥有足够的时间去阅读所有想了解的东西。但欣喜的是，目前LLM在文本概括任务上展现了强大的水准，也已经有不少团队将概括功能实现在多种应用中。本章节将介绍如何使用编程的方式，调用API接口来实现“文本概括”功能。首先，我们需要引入 OpenAI 包，加载 API 密钥，定义 getCompletion 函数。

接着是对模型的训练，再往上是跟算法开发相关的用户更加贴近，包括存放大量的AI算法模型库ModelZoo，提供面向不同领域的开发工具套件MindSpore DevKit，另外还有高阶拓展库MindSpore Extend。output[channel] = (input[channel] - mean[channel]) / std[channel]，其中 channel 代表通道索引，channel >= 1。下面是MindSpore的总体架构图，介绍了MindSpore的几大优势。

当使用 LLM 构建应用程序时，实践层面上很难第一次尝试就成功获得适合最终应用的 Prompt。但这并不重要，只要您有一个好的迭代过程来不断改进您的 Prompt，那么您就能够得到一个适合任务的 Prompt。虽然相比训练机器学习模型，在 Prompt 方面一次成功的几率可能会高一些，但正如上所说， Prompt 是否一次完善并不重要。最重要的是层层迭代为您的应用程序找到有效 Prompt 的过程。

写在前面的话：作者 吴恩达教授欢迎来到本课程，我们将为开发人员介绍 ChatGPT 提示词工程（Prompt Engineering）。本课程由 Isa Fulford 教授和我一起授课。Isa 是 OpenAI 的技术团队成员，曾开发过受欢迎的 ChatGPT 检索插件，并且在教授 LLM （Large Language Model, 大语言模型）技术在产品中的应用方面做出了很大贡献。她还参与编写了教授人们使用 Prompt 的 OpenAI cookbook。

登陆微调平台https://training.xfyun.cn/overview。在SparkApi.py文件的108行，引号中填入你的resourceId。SparkApi.py的内容如下，稍等会用到。train.json需要到官网上下载。打马赛克的部分是待会需要用到的。test_data在官网下载。点击详情，选择发布为服务。

报名链接：https://challenge.xfyun.cn/h5/detail?申请大模型API：https://console.xfyun.cn/app/myapp新用户可以申请领取1亿token：https://console.xfyun.cn/sale/buy?