书生大模型第四期基础岛第五关

原创 已于 2024-12-06 21:10:32 修改 · 259 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #语言模型 #深度学习

于 2024-11-10 23:53:17 首次发布
部署运行你感兴趣的模型镜像

1.首先配置好虚拟环境

然后安装Xtuner

创建一个新的文件夹用于存储微调数据

创建一个文件来生成我们需要的数据

将代码中的机智流改成想要的称呼

然后运行代码

将模型软连接起来

在终端运行一下命令获取Config

然后修改五处代码

在终段运行命令启动微调

在终端运行这段命令，用于权重转换

在终端运行这段命令，用于模型合并

进去这个文件

将文件中的代码更改

在终端运行这段命令，并且开启端口映射

然后访问网址，并且提问

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调

第四期书生大模型实战营 基础岛 第5关
2401_87331158的博客
11-23 1144
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。表示合并后的模型最终的保存路径。然后，我们可以直接启动应用。
书生大模型第四期—基础第五关：Xtuner 微调
NULLL123的博客
10-06 2165
环境安装：我们想要用简单易上手的微调工具包 XTuner 来对模型进行微调的话，第一步是安装 XTuner ！安装基础的工具是一切的前提，只有安装了 XTuner 我们才能够去执行后续的操作。前期准备：在完成 XTuner 的安装后，我们下一步就需要去明确我们自己的微调目标了。我们想要利用微调做一些什么事情呢，然后为了实现这个目标，我们需要准备相关的硬件资源和数据。启动微调：在确定了自己的微调目标后，我们就可以在 XTuner 的配置库中找到合适的配置文件并进行对应的修改。修改完成后即可一键启动训练！训练好
第四期书生大模型实战营-基础岛 第五关
2401_86139790的博客
12-23 822
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。表示微调的模型权重文件路径，即要转换的模型权重，
第四期书生大模型实战营-基础岛 第四关
2401_86139790的博客
12-20 1017
基于 LlamaIndex 构建自己的 RAG 知识库，寻找一个问题 A 在使用 LlamaIndex 之前 InternLM2-Chat-1.8B 模型不会回答，借助 LlamaIndex 后 InternLM2-Chat-1.8B 模型具备回答 A 的能力，截图保存。正常情况下，其会自动从互联网上下载，但可能由于网络原因会导致下载中断，此处我们可以从国内仓库镜像地址下载相关资源，保存到服务器上。messages=[{"role": "user", "content": "xtuner是什么？
书生大模型第四期基础营作业第五关
cold_cookies的博客
12-30 154
关卡名称：XTuner 微调个人小助手认知。关卡编号：L1G5000。
InternLM第四期基础岛第6关OpenCompass 评测书生大模型实践
KK_427的博客
11-13 1092
这种评测方式虽然前期准备工作相对繁琐，需要考虑硬件资源，但好处是评测过程完全在本地完成，不依赖网络状态，而且你可以更灵活地调整模型参数，深入了解模型的性能表现。评测通过 API 访问的大语言模型，整个过程其实很简单。以 OpenAI 的 GPT 模型为例，你只需要在 OpenAI 官网申请一个 API Key，然后在评测配置文件中设置好这个密钥和相应的模型参数就可以开始评测了。通过完整开源可复现的评测框架，OpenCompass能够支持各类模型的高效评测，并帮助用户快速上手评测工具，迅速开展模型能力评估。
第四期书生大模型实战营 基础岛 第1关
2401_87331158的博客
11-17 808
InternLM2.5与之前版本的模型性能有了质的飞跃。推理能力领先综合推理能力领先社区开源模型，相对于 InternLM2 性能提升 20%。支持 100 万字上下文支持百万字长文的理解和精确处理，性能处于开源模型前列。自主规划和搜索完成复杂任务通过信息搜索和整合，针对复杂问题提供专业回答，效率提升 60 倍。
书生大模型第4期课程—入门岛第2关：Python基础知识
weixin_54052852的博客
10-30 1000
书生大模型第4期课程入门岛第2关闯关任务
InternLM第四期基础岛第1关书生大模型全链路开源体系
KK_427的博客
11-08 480
2024年7月4日，InternLM2.5开源，推理能力领先，支持100万字上下文，可以自主规划和搜索完成复杂任务。轻量级智能体框架Lagent，支持多种类型的智能体能力，灵活支持多种大语言模型，简单易拓展，支持丰富的工具。huixiangdou是群聊场景LLM知识助手，忽视无关的问题，直接回复明确的回答，不违背核心价值观。2023年7月6日，InternLM-7B开源率先免费商用，发布全链条开源工具体系。给模型一个超长的背景知识，模型是否能够非常准确的定位到相关的位置。b.基于模型的数据扩充。
书生大模型实战营（第3期）入门岛第2关Python基础知识
aman_he的博客
08-01 1039
书生大模型实战营（第3期）入门岛第2关Python基础知识
TensorRT笔记（5）：研究timingCache
ouliten的博客
12-02 904
在里出现了大量的timingCache，但是当时没有取研究这是干啥的，本文就来解析一下。样例都基于上面的文章。
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
minhuan的专栏
12-03 961
本文介绍了MapReduce编程模型及其在大模型训练中的应用。MapReduce通过"分治-并行-聚合"思想处理大规模数据，传统Hadoop MapReduce侧重结构化数据计算，而大模型MapReduce则针对自然语言处理任务。文章详细对比了两者在架构、处理对象和核心算力等方面的差异，并提供了中文词频统计的Python实现示例，包括单机版和分布式版本。分布式实现利用多进程模拟集群计算，展示了数据分片、Map、Shuffle和Reduce的完整流程。
07_Spring AI 干货笔记之提示词
在科技的浪潮中，我们寻找着创新的火种，在代码的海洋里，我们编织着智慧的网。腾飞开源，就是这样一个由技术精英汇聚而成的博客平台，我们致力于分享在Java、Python、IoT和人工智能等领域的最新研究成果和实战经验。 在腾飞开源的博客上，你会看到紧跟技术前
11-30 1813
本文详细介绍了Spring AI中的提示词核心概念与API设计。提示词作为引导AI模型生成特定输出的关键输入，其结构从简单字符串演进为包含多角色消息的复杂形式。Spring AI通过Prompt和Message接口提供结构化提示词管理，支持系统、用户、助手等角色分配。PromptTemplate类实现动态内容渲染，并支持自定义模板引擎。文章还涵盖提示词工程的最佳实践与令牌机制，为开发者提供完整的提示词设计解决方案。
昇腾平台 vLLM 部署与性能优化实战：高吞吐推理落地指南
热门推荐
二哈喇子！
12-01 1万+
昇腾平台vLLM部署与性能优化实战摘要
【AI是否能替代IT从业者？】
博文致力于人工智能算法的探索研究；前后端分离项目的技术分享交流；专升本计算机基础课程内容讲解；各种中间件技术分享
12-03 664
2025年IT行业面临AI深度重构：基础开发、测试、运维岗位替代率超60%，但AI相关新兴岗位激增380%。人类在复杂系统设计、伦理决策和跨界融合领域仍具不可替代性。微软等企业实践显示，人机协作可使效率提升40%。从业者需转型高价值领域（如Agent开发、大模型工程），掌握"技术+领域"双轨能力。AI本质是职业生态重构器，持续学习者的薪资溢价可达150%。建议立即评估岗位AI暴露指数，优先学习分布式架构优化、多智能体开发等技能。
建筑数字孪生与AI：工地数据化与智能决策解析
Azhiyuanshijie的博客
12-04 153
数字孪生整合BIM模型、无人机影像、传感器数据，构建工地虚拟模型。施工状态、材料使用、设备运行数据被实时采集，支撑预测与优化。服务，将算法嵌入实际施工管理系统，实现数据采集、分析、优化和决策闭环。系统可与BIM、ERP集成，形成完整数字孪生解决方案。通过虚拟映射和AI算法，施工过程从经验驱动转向数据驱动。数字孪生+AI，让工地变成“数据实验室”，提升效率、降低风险，并推动建筑企业迈向智能化时代。，企业可展示施工技术实力，实现品牌影响力和潜在客户转化。：AI提出最优施工方案，提升效率和安全。
AI时代新合同系统_07_未来形态_对话框与工厂装配
最新发布
sxwuyanzu的博客
12-04 363
如果你把今天常见的合同系统截图打印出来，放在三五年后的会议室里，可能会引来一种略带怀旧的笑声：「那时候我们还在点菜单，真可爱。屏幕上是一排排熟悉的导航栏：合同登记、流程审批、模版管理、台账查询、统计报表。每个入口规整、克制，像一座老式机关里的科室牌匾。那时的你习以为常，如今的你却会觉得，它们似乎更多是为系统本身而设计，而不是为正在为合同奔波的人而设计。而那时桌上的另一块屏幕，或许只剩下一条对话框和几个简洁的卡片：「我想用对方提供的模板签一份三年的技术服务合同，帮我看看风险。
抖音灵感重生计划
yesyesido的博客
12-01 937
水印不应是创意的终点，而是再创作的起点。
【模式识别与机器学习（16）】惰性学习kNN（聚类分析）【1】：基础概念与常见方法
hiliang521的博客
12-02 985
【模式识别与机器学习（16）】聚类分析【1】：基础概念与常见方法
书生浦语大模型
03-26
### 关于书生·浦语大模型 书生·浦语是由上海人工智能实验室推出的大规模预训练语言模型，其设计目标是在多个自然语言处理任务上表现出卓越性能的同时保持高效性和易用性[^1]。该模型不仅支持多种应用场景下的开箱...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值