yitahutu79-优快云博客

原创 Datawhale AI冬令营利用豆包进行编程开发（一）番茄钟

首先，需要注册一个豆包账号，网址是这里： https://www.marscode.cn/home?在这个小项目中，会利用豆包进行编程，拿到代码一键运行，实现一个番茄钟的小应用。然后把左边index.html和script.js的代码依次替换生成的代码。番茄钟的项目就完成了！恭喜你，完成第一节的开发。右侧就会显示出运行的结果。在右边对话框中输入要求。点击右上角进行工作台。

2024-12-27 14:03:41 191

原创 localhost本地启动https服务调试

首先安装mkcert，mkcert是一个使用 go 语言编写的生成本地自签证书的小程序，具有跨平台，使用简单，支持多域名，自动信任 CA 等一系列方便的特性可供本地开发时快速创建 https 环境使用。这就帮助我们将 mkcert 使用的根证书加入了本地可信 CA 中，以后由该 CA 签发的证书在本地都是可信的。这将启动一个简单的 HTTPS 服务器，可以通过浏览器访问 https://localhost/ 来测试。在之前运行的代码后面加上证书配置，地址就是刚刚生成的两个文件的地址。

2024-12-12 14:05:56 1119

原创使用OpenAI创建通用AI聊天机器人（三）利用openAI构建语音对话交互

首先导入相关的依赖，在这里已经提前建立了.env保存一些环境，比如openAI的API key，thread_id，assistant_id，如果没有创建assistant，也可以重新创建，相关方面在前面的（一）（二）节有提到。如果需要上传文件的话，可以通过下面这种方式创建vector store并更新assistant：（第二节的相关内容，完成可以跳过）之前创建的assistant如下：（第一节的内容，如果已经有assistant可以跳过）

2024-12-04 11:52:32 404

原创使用OpenAI创建通用AI聊天机器人（二）运行一个assistant

上一节中我们新创建了一个assistant并且把ID写入了.env文件，这个时候用os.getenv就可以直接从文件中获取到了。然后，更新assistant，把vector store和assistant绑定，这样就可以通过助手来使用我们上传的文件了。接下来上传文件，在file_paths中可以放置多个文件，直接填入文件的地址即可。这里的thread_id很重要，需要存下来，放到.env文件里。现在可以进行对话了，我们用一个loop来表示连续的对话。好了，现在可以运行起你的assistant进行对话了。

2024-12-04 11:36:15 386

原创使用OpenAI创建通用AI聊天机器人（一）创建一个assistant

这里解释一下description和instructions的区别，description是用来定义assistant的身份的，即“你是谁”。instructions是描述assistant的功能，name是助手的名字，tools包含调用的相关工具，tool_resources是工具调用的具体资源这里是vector_store，model是选用的模型类型。assistant是今年openAI发布的允许用户在自己的应用程序中构建的 AI 助手，并可以利用模型、工具和知识来响应用户的查询。

2024-12-04 11:26:20 378

原创 PyAudio ImportError: symbol not found in flat namespace ‘_PaMacCore_SetupChannelMap‘

此外，如果运行的时候出现了Couldn‘t find ffmpeg or avconv - defaulting to ffmpeg, but may not work“, RuntimeWarning。pyaudio还需要其他依赖，在当前环境中下载sounddevice和portaudio。我用的是mac，下载命令是。最后查看一下是否下载成功。还需要下载ffmpeg。

2024-12-04 10:03:24 230

原创创建bing API key

我们返回home点击bing resources，就会看见新增一条。点击新创建的名字，黄色框内是endpoint地址以及key。填写相关内容，名字随便起，价格选择F开头（free）点击链接可以看到有两条key。核对一下没问题点击创建。登录账号之后新创资源。

2024-11-25 18:18:55 2308 2

原创 google colab安装conda环境

官网地址：https://repo.anaconda.com/miniconda/拿到python版本后去官网下载对应版本的conda。电脑上没有nvdia，所以借用colab跑代码。进入到代码目录中开始创建环境变量。首先把GitHub代码拷贝过来。查看conda和python。查看环境变量和conda列表。查看分配的内存大小、GPU。这一步需要先更改设置。

2024-11-25 10:48:00 812

原创 npm error request to https://registry.npm.taobao.org/pnpm failed, reason: certificate has expired

用的还是老版的淘宝镜像https://registry.npm.taobao.org。已经变成https://registry.npmmirror.com。用npm下载软件突然报错，提示registry过期了。查看一下目前的registry。查看一下是否更新成功。接下来重新下载，成功。

2024-11-20 11:32:23 861 1

原创 python: /project/lib/Analysis/Allocation.cpp:47: std::pair＜llvm::SmallVector＜unsigned int＞

然后我把 enable_chunked_prefill=True,这一行给注释掉了，好像是因为填充的问题导致的。终于能跑起来chatglm-4v-9b了，但是刚填完信息，就又报错了。查遍资料都不知道为什么，在vllm的一个帖子下面发现不少人都这样。再来一次，总算成功了。

2024-11-19 14:52:59 814

原创 ValueError: No available memory for the cache blocks. Try increasing `gpu_memory_utilization`

可以看出来基本占满了，gpu_memory_utilization默认开到了0.9，这个参数的高低代表了在使用GPU时，分配给模型和缓存的内存比例。果将 gpu_memory_utilization 设置为较高的值，这意味着模型可以使用更多的GPU内存。这通常会提高模型的性能，因为可以缓存更多的数据和中间结果，从而加快计算速度。虽然高的 gpu_memory_utilization 可以提高性能，但如果设置得过高，可能会导致GPU内存不足（OOM）错误，尤其是在处理大型模型或数据集时。

2024-11-19 14:48:30 1926

原创在远程服务器上使用本地资源

但是运行的代码在远程服务器上，一遇到GitHub或者huggingface的git clone就显示443。ssh -R 云服务器IP:云服务器上的端口:127.0.0.1:本地VPN的代理端口用户名@云服务器IP。在服务器上使用curl IP查询网站加上转发参数，查看当前 IP 会发现变成了本机计算机的 IP。本地VPN的代理端：打开你的软件查看代理端口，一般是7890，也可能是其他，只要一致就好。云服务器IP：region-41.seetacloud.com，你的远程服务器的IP。

2024-11-11 17:50:07 235

原创火山方舟 Python SDK豆包模型环境配置错误集锦（Mac电脑）

解决方案就是降级setuptools到70或者70以下。通过官方给的下载方式总是提示。

2024-11-07 17:12:57 621

原创 No matching distribution found for langchain-chatchat

用pip下载langchain-chatchat失败，找不到相对应的版本。执行 chatchat kb -r 初始化知识库。接下来进入到chatchat-server中。再次输入，正确的返回结果应该是true。该环境的python版本是3.11。更改方式，使用poetry安装。成功之后可以看到这样的界面。这个是下载结束后的结果。首先安装poetry。

2024-11-07 09:28:43 449

原创 CondaHTTPError: HTTP 404 NOT FOUND for url

用conda创建新环境时出现问题了。

2024-11-05 19:33:37 886 1

原创书生大模型实战营01 Linux+InternStudio 关卡

L {本地机器_PORT}:127.0.0.1:{开发机_PORT}：这是设置本地端口转发，将本地机器的指定端口（由 {本地机器_PORT} 表示）转发到远程主机（这里即 ssh.intern-ai.org.cn）的 127.0.0.1。-p 37489：是指定 SSH 连接的端口为 37489，root@ssh.intern-ai.org.cn：表示要以 root 用户身份连接到 ssh.intern-ai.org.cn 这个主机。接下来，启动端口转发，这一步要退出远程登录状态，在本地终端执行。

2024-10-31 18:42:09 849 1

原创昇思25天学习打卡营第4天｜数据集

mindspore.dataset模块提供了一些常用的公开数据集和标准格式数据集的加载API。对于MindSpore暂不支持直接加载的数据集，可以构造自定义数据加载类或自定义数据集生成函数的方式来生成数据集，然后通过GeneratorDataset接口实现自定义方式的数据集加载。GeneratorDataset支持通过可随机访问数据集对象、可迭代数据集对象和生成器(generator)构造自定义数据集，下面分别对其进行介绍。

2024-07-25 17:22:44 941

原创昇思25天学习打卡营第3天｜张量tensor

张量（Tensor）是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数，这些线性关系的基本例子有内积、外积、线性映射以及笛卡儿积。其坐标在 𝑛 维空间内，有 𝑛^𝑟 个分量的一种量，其中每个分量都是坐标的函数，而在坐标变换时，这些分量也依照某些规则作线性变换。𝑟 称为该张量的秩或阶（与矩阵的秩和阶均无关系）。张量是一种特殊的数据结构，与数组和矩阵非常相似。张量（Tensor）是MindSpore网络运算中的基本数据结构，本教程主要介绍张量和稀疏张量的属性及用法。

2024-07-25 15:29:49 1053

原创昇思25天学习打卡营第2天｜快速入门

第二节快速入门举了一个例子，可以更加清晰地看到数据是如何被处理、模型是如何被训练的。

2024-07-25 14:45:35 951

原创提示工程07聊天机器人

此处我们另外要求模型创建一个 JSON 摘要，方便我们发送给订单系统。因此我们需要在上下文的基础上追加另一个系统消息，作为另一条指示 (instruction)。我们说创建一个刚刚订单的 JSON 摘要，列出每个项目的价格，字段应包括 1）披萨，包括尺寸，2）配料列表，3）饮料列表，4）辅菜列表，包括尺寸，最后是总价格。此处也可以定义为用户消息，不一定是系统消息。请注意，这里我们使用了一个较低的温度，因为对于这些类型的任务，我们希望输出相对可预测。

2024-07-24 17:15:59 1327

原创提示工程06文本扩展

扩展是将短文本（例如一组说明或主题列表）输入到大型语言模型中，让模型生成更长的文本（例如基于某个主题的电子邮件或论文）。这种应用是一把双刃剑，好处例如将大型语言模型用作头脑风暴的伙伴；但也存在问题，例如某人可能会使用它来生成大量垃圾邮件。因此，当你使用大型语言模型的这些功能时，请仅以负责任 (responsible) 和有益于人们 (helps people) 的方式使用它们。在本章中，你将学会如何基于 OpenAI API 生成针对每位客户评价优化的客服电子邮件。

2024-07-24 17:05:46 595

原创提示工程05文本转换

LLM非常擅长将输入转换成不同的格式，典型应用包括多语种文本翻译、拼写及语法纠正、语气调整、格式转换等。本章节将介绍如何使用编程的方式，调用API接口来实现“文本转换”功能。首先，我们需要OpenAI包，加载API密钥，定义getCompletion函数。

2024-07-24 16:46:11 945

原创提示工程04推断

推断任务可以看作是模型接收文本作为输入，并执行某种分析的过程。其中涉及提取标签、提取实体、理解文本情感等等。如果你想要从一段文本中提取正面或负面情感，在传统的机器学习工作流程中，需要收集标签数据集、训练模型、确定如何在云端部署模型并进行推断。这样做可能效果还不错，但是执行全流程需要很多工作。而且对于每个任务，如情感分析、提取实体等等，都需要训练和部署单独的模型。LLM 的一个非常好的特点是，对于许多这样的任务，你只需要编写一个 Prompt 即可开始产出结果，而不需要进行大量的工作。

2024-07-24 16:29:24 796

原创提示工程03文本概括

当今世界上文本信息浩如烟海，我们很难拥有足够的时间去阅读所有想了解的东西。但欣喜的是，目前LLM在文本概括任务上展现了强大的水准，也已经有不少团队将概括功能实现在多种应用中。本章节将介绍如何使用编程的方式，调用API接口来实现“文本概括”功能。首先，我们需要引入 OpenAI 包，加载 API 密钥，定义 getCompletion 函数。

2024-07-24 16:13:17 1029

原创提示工程02迭代优化

当使用 LLM 构建应用程序时，实践层面上很难第一次尝试就成功获得适合最终应用的 Prompt。但这并不重要，只要您有一个好的迭代过程来不断改进您的 Prompt，那么您就能够得到一个适合任务的 Prompt。虽然相比训练机器学习模型，在 Prompt 方面一次成功的几率可能会高一些，但正如上所说， Prompt 是否一次完善并不重要。最重要的是层层迭代为您的应用程序找到有效 Prompt 的过程。

2024-07-24 16:01:03 949

原创提示工程01编写 Prompt 的原则

写在前面的话：作者吴恩达教授欢迎来到本课程，我们将为开发人员介绍 ChatGPT 提示词工程（Prompt Engineering）。本课程由 Isa Fulford 教授和我一起授课。Isa 是 OpenAI 的技术团队成员，曾开发过受欢迎的 ChatGPT 检索插件，并且在教授 LLM （Large Language Model, 大语言模型）技术在产品中的应用方面做出了很大贡献。她还参与编写了教授人们使用 Prompt 的 OpenAI cookbook。

2024-07-24 15:40:34 1036

原创基于星火大模型的群聊对话分角色要素提取挑战赛02

登陆微调平台https://training.xfyun.cn/overview。在SparkApi.py文件的108行，引号中填入你的resourceId。SparkApi.py的内容如下，稍等会用到。train.json需要到官网上下载。打马赛克的部分是待会需要用到的。test_data在官网下载。点击详情，选择发布为服务。

2024-07-24 15:27:20 406

原创基于星火大模型的群聊对话分角色要素提取挑战赛01

报名链接：https://challenge.xfyun.cn/h5/detail?申请大模型API：https://console.xfyun.cn/app/myapp新用户可以申请领取1亿token：https://console.xfyun.cn/sale/buy?

2024-07-24 14:59:21 305

原创昇思25天学习打卡营第1天｜基本介绍

接着是对模型的训练，再往上是跟算法开发相关的用户更加贴近，包括存放大量的AI算法模型库ModelZoo，提供面向不同领域的开发工具套件MindSpore DevKit，另外还有高阶拓展库MindSpore Extend。output[channel] = (input[channel] - mean[channel]) / std[channel]，其中 channel 代表通道索引，channel >= 1。下面是MindSpore的总体架构图，介绍了MindSpore的几大优势。

2024-07-17 16:33:35 264

原创 ‘Textbox‘ object has no attribute ‘style‘. Did you mean: ‘scale‘?

原因：gradio版本太高。解决方法：重新安装低版本。

2024-06-20 14:41:52 442

原创 linux卸载openssl重装git

【代码】linux卸载openssl重装git。

2024-06-19 19:29:24 352

原创 mac下载安装来源不明，不受信任的软件

如果安全性只有两个选项，没有第三个，打开终端输入下面这条语句。首先需要允许安装任何来源的应用程序。如果还是提示不行，输入下面这条语句。

2024-06-04 19:42:10 3565

原创 error: external filter git-lfs smudge -- %f failed 2 error: external filter git-lfs smudge -- %f fai

第二步: git config --global core.longpaths true。第一步： git lfs install --skip-smudge。第三步：初始化.git文件： git init。

2024-04-16 19:49:54 506 1

原创蓝桥题库|矩形切割

【代码】蓝桥题库|矩形切割。

2024-03-11 22:12:09 544

原创 RPC failed； curl 18 HTTP/2 stream 5 was reset 5974 bytes of body are still expected fetch-pack: unex

如果 git 项目太大，拉代码的时候可能会出现这个错误。

2023-12-27 15:35:14 2029

原创 centos安装miniconda

更换清华源：在用户目录（/home/xxx）下新建.condarc文件。用vim打开.condarc文件，写入下方内容保存后退出。下载软件：wget后面的地址就是上一步复制的下载链接。执行以下命令清除索引缓存，保证用的是镜像站提供的索引。安装软件：安装过程中根据提示输入enter或yes。配置完毕，执行以下命令查看是否已经换源。可以看到已经更换为清华源了。

2023-06-18 11:13:19 879