weixin_43808729的博客

原创 大模型学习——L2G3000Lagent LMDeploy 量化部署进阶实践

运行对应的结果：python /root/internlm2_5_func.py。建立对应文件夹：touch /root/internlm2_5_func.py。运行如下命令，激活conda环境并启动命令行客户端。发现此时显存占了80%

原创 大模型学习——L2G2000Lagent 自定义你的 Agent 智能体

，展示如何协调不同的智能代理完成内容生成和优化的任务。：负责审阅生成的内容，指出不足，推荐合适的文献，使文章更加完善。：负责根据用户的主题提示生成一篇结构化、专业的文章或报告。接下来，我们通过源码安装的方式安装 lagent。首先，创建一个新的 Python 文件。来构建一个多智能体系统 (通过API调用，然后利用。# 创建目录以存放代码。

原创 大模型闯关学习——L1G6000 OpenCompass 评测书生大模型实践

internlm_url = 'https://internlm-chat.intern-ai.org.cn/puyu/api/v1/' # 你前面获得的 api 服务地址。d['reader_cfg']['test_range'] = '[0:1]' # 这里每个数据集只取1个样本, 方便快速评测.path='internlm2.5-latest', # 请求服务时的 model name。openai_api_base=internlm_url, # 服务地址。获取对应的API后进行对应的配置和评测。

原创 大模型闯关学习——L1G5000XTuner 微调个人小助手认知

对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。模型转换的本质其实就是将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件，那么我们可以通过以下命令来实现一键转换。- '请给我介绍五个上海的景点', 'Please tell me five scenic spots in Shanghai'修改模型路径后，对应进行。

原创 大模型闯关学习-L1G4000InternLM + LlamaIndex RAG 实践

messages=[{"role": "user", "content": "xtuner是什么？将 Streamlit+LlamaIndex+浦语API的 Space 部署到 Hugging Face。# api_key = "sk-请填写准确的 token！api_key = "sk-请填写准确的 token！下载 Sentence Transformer 模型。调用：python test_internlm.py。发现运行后得到很好的效果。

原创 大模型闯关学习-L1G3000-浦语提示词工程实践

请告诉我您需要撰写或修改的公文类型，以及任何具体的要求或背景信息，我会根据您的需求提供专业的写作支持。- ✍ 写作：能根据用户需求撰写各类公文，如通知、报告、总结、请示等，确保语言规范、得体，结构严谨。- 🔍 校对与修改：帮助检查和修改公文中的语言、结构、格式等方面的问题，提升文档质量。- 为公文写作提供详细的内容建议，包括背景分析、问题陈述、解决方案、结论等。你是一个经验丰富的公文写作专家，专注于撰写清晰、正式、逻辑严谨的公文。- 理解用户的需求，分析公文的类型、背景、目标受众及写作目的。

原创 大模型闯关学习-L1G2000-玩转书生「多模态对话」与「AI搜索」产品

首先是MindSearch，我的问题是：目前生成式AI在学术和工业界有什么最新进展？接下来是书生浦语问题：我要去重庆旅游，请告诉我重庆必吃的10大美食然后是书生万象知乎回答：目前生成式AI在学术和工业界有什么最新进展？

原创 大模型闯关学习-L1G1000-书生大模型全链路开源体系

原创 大模型闯关学习-L0G4000玩转HF/魔搭/魔乐社区

找到该目录文件夹下的index.html文件，修改我们的html代码。通过对应clone，并创建对应的space。

原创 大模型学习闯关-L0G3000-Git 基础知识

检查与核对。

原创 大模型学习闯关-L0G2000-Python基础知识

已经是一个有效的 JSON 字符串，但它的格式是一个字典，所以直接输出即可。# 遍历 ransomNote，检查每个字符是否有足够的数量。# 统计 magazine 中每个字符的出现次数。运行得到这个结果：“Failed to decode JSON.”对于对应的例子，通过debug功能定位到报错原因并做修正。

原创 大模型学习第四期-L0G1000-Linux 基础知识

大模型学习

原创 基础岛第六关-书生大模型-OpenCompass 评测 InternLM-1.8B 实践

上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。

原创 基础岛第五关-书生大模型-XTuner 微调个人小助手认知

对于在 InternStudio 上运行的小伙伴们，可以不用通过 HuggingFace、OpenXLab 或者 Modelscope 进行模型的下载，在开发机中已经为我们提供了模型的本地文件，直接使用就可以了。为了让模型能够认清自己的身份弟位，在询问自己是谁的时候按照我们预期的结果进行回复，我们就需要通过在微调数据集中大量加入这样的数据。在 PART 1 的部分，由于我们不再需要在 HuggingFace 上自动下载模型，因此我们先要更换模型的路径以及数据集的路径为我们本地的路径。

原创 基础岛第四关-书生大模型-InternLM + LlamaIndex RAG 实践

正式介绍检索增强生成（Retrieval Augmented Generation，RAG）技术以前，大家不妨想想为什么会出现这样一个技术。给模型注入新知识的方式，可以简单分为两种方式，一种是内部的，即更新模型的权重，另一个就是外部的方式，给模型注入格外的上下文或者说外部信息，不改变它的的权重。第一种方式，改变了模型的权重即进行模型训练，这是一件代价比较大的事情，大语言模型具体的训练过程，可以参考技术报告。第二种方式，并不改变模型的权重，只是给模型引入格外的信息。

原创 入门岛第一关-书生大模型-书生大模型全链路开源体系

大模型已成为通用人工智能的重要途径，能够解决多种任务和多种模态。书生葡语大模型具有超长上下文能力，综合性能得到全面提升，能够实现结构化创作和可靠的数据分析。同时，模型还强化了内生计算能力和代码解释器，在多个能力维度上都取得了不错的评测结果。大模型本质是进行建模，目的是让模型得到很好的数据识别能力。但是综合能力有待提升。

原创 基础岛第三关—书生大模型—浦语提示词工程实践

description: 你是一个数学专家，擅长解决各种数学问题，特别是比较不同精度的代数数值，帮助用户进行精确的数值比较和相关计算。3. 在可能的情况下，提供不同的比较方法以供选择，并说明每种方法的适用条件。1. 分析用户提交的代数数值比较问题，确定其具体类型、精度要求和难度。4. 必要时，提供不同的比较方法，并解释每种方法的优缺点和适用场景。2. 使用适当的代数方法和公式进行数值比较，考虑数值的精度。1. 提供详细且准确的数值比较过程，考虑数值的精度问题。3. 提供详细的数值比较过程和最终结果。

原创 基础岛第二关-书生大模型-8G 显存玩转书生大模型 Demo

1.首先来为 Demo 创建一个可用的环境。# 创建环境# 激活环境# 安装 torch# 安装其他依赖创建一个目录，用于存放我们的代码。并创建一个。然后，我们将下面的代码复制到中。通过来启动我们的 Demo。

原创 入门岛3-书生大模型-Git 基础知识

【本课程学习基础】：深度学习，了解tensorflow架构，有一定python基础。在 GitHub 上创建一个 Pull Request。【本期活动目标】：希望有项目经历，可以提升自己。【专业/职业】：基础数学研究生。2.实践项目：构建个人项目。【兴趣爱好】：吉他，游戏。1.破冰活动：自我介绍。【坐标】：成都，哈尔滨。【大家可以叫我】：帅。【组队情况】：未组队。

原创 入门岛-书生大模型闯关第二关-Python 基础知识

同时也可以通过create a lauch.json file来得到配置的json文件来得到出现了debug选项。2.然后接下来是wordcount函数在开发机上进行debug。首先通过VScode来远程登录开发机，然后按照必要的插件。

原创 入门岛-书生大模型实战营第三期-第一关学习

并直接打开网页后可以显示，成功实现完成SSH连接与端口映射并运行。然后接下来进行了SSH密钥的配置以及vscode的端口映射。接下来尝试进行了一些Linux的语言的基础的学习与调试。接下来通过在powershell中运行。接下来就是在conda环境下的一个配置。首先按照教程进行了开发机的激活。