16、Swift框架微调实战（1）-自我认知数据LORA微调

最新推荐文章于 2025-04-06 10:06:29 发布
最新推荐文章于 2025-04-06 10:06:29 发布
阅读量1.1k 收藏 13
点赞数 25
分类专栏： 大模型学习 文章标签： swift LORA 微调
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Andy_shenzl/article/details/146981409
版权

1、Swift介绍

ms-SWIFT GitHub项目主页： https://github.com/modelscope/swift

ms-swift（ Scalable lightWeight Infrastructure for Fine-Tuning）是由魔搭社区（ModelScope） 开发的高效微调和部署框架，旨在为研究人员和开发者提供一站式的大模型与多模态大模型的训练、推 理、评测、量化和部署解决方案。 的模型支持： ** ms-swift 支持超过 450 种大型模型（LLMs）和 150 多种多模态大模型（MLLMs）的训练和部署** ，包括最新的模型版本，如 Qwen2.5、 InternLM3、GLM4、 Llama3.3、 Mistral、 DeepSeek-R1、Yi1.5、 Baichuan2、 Gemma2 等，以及多模态模型如 Qwen2.5-VL、 Qwen2-Audio、 Llama3.2-Vision、 Llava、 InternVL2.5 等。

  • 多样化的训练技术： 框架集oRA、 Llama-Pro、 LonoRA、 GaLore、 Q-GaLore、 LoRA+、 LISA、 DoRA、 FourierFt、 ReFT、 UnSloth 和 Liger 等
了解本专栏 订阅专栏 解锁全文 超级会员免费看
开源模型应用落地-qwen2-7b-instruct-LoRA微调-ms-swift-单机单卡-V100（十二）
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
08-30 4174
使用ms-swift高效微调qwen2-7b-instruct
编程实践：使用SWIFT框架进行 自我认知微调
微风❤水墨
02-23 1340
如果设置了self_cognition_sample，则调用add_self_cognition_dataset。3：生成self_cognition_sample个随机索引。5：将自我认知数据和其他训练数据拼接到一起，作为最终训练数据。1：加载本地的self_cognition.jsonl数据。2：替换name与author。4：根据索引生成自我认知数据集。
SWIFT - 轻量级微调模型框架 [魔搭]
最新发布
技术文档翻译分享
04-06 1766
🍲 ms-swift是魔搭社区提供的大模型与多模态大模型微调部署框架，现已支持450+大模型与150+多模态大模型的训练（预训练、微调、人类对齐）、推理、评测、量化与部署。其中大模型包括：Qwen2.5、InternLM3、GLM4、Llama3.3、Mistral、DeepSeek-R1、Yi1.5、TeleChat2、Baichuan2、Gemma2等模型；
【LLM大模型】介绍一个大语言模型的微调框架Swift
2301_81940605的博客
07-18 1549
微调（Fine-tuning）是指在已经预训练好的大语言模型基础上，使用特定领域或任务的数据集进行进一步的训练，使模型能够更好地适应并完成该领域或任务的具体要求。预训练的大语言模型通常在大规模通用语料库上进行训练，学习了语言的普遍规律和特征，但对于特定领域或任务的专业知识和特定需求，往往需要通过微调来优化。
ModelScope ms-swift：轻量级模型微调框架
engchina的专栏
01-02 1326
ModelScope ms-swift：轻量级模型微调框架
swift框架微调Qwen2.5-VL-3B
qq_40241816的博客
02-17 1343
微调Qwen2.5-VL模型
开源模型应用落地-qwen2-7b-instruct-LoRA微调-ms-swift-单机多卡-RTX 4090双卡（十四）
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
09-01 3996
使用ms-swift高效微调qwen2-7b-instruct
17、Swift框架微调实战（2）-QWQ-32B LORA微调cot数据集
Andy_shenzl的博客
04-03 1729
QwQ 是 Qwen 系列的大模型之一，专注于 推理能力（reasoning）。相比于传统的 指令微调（instruction-tuned） 模型，QwQ 具备 思考与推理（thinking and reasoning） 的能力，因此在各种下游任务（特别是复杂问题）上，能实现 显著的性能提升。 QwQ-32B 是该系列的 中等规模推理模型，其性能可媲美当前最先进的推理模型，如 DeepSeek-R1 和 o1-mini。QwQ 32B 模型，具有以下特性：下载地址：https://www.modelscop
开源模型应用落地-qwen2-7b-instruct-LoRA微调&合并-ms-swift-单机多卡-RTX 4090双卡（十五）
热门推荐
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
09-02 1万+
使用ms-swift合并微调后的模型权重
通义千问模型微调——swift框架
W_extend的博客
03-19 899
服务器CUDA Version: 12.2。
swift微调款框架使用自定义数据集进行通义千问1.5的微调
Climbman的博客
08-20 951
通义千问（T2IQA）是一个基于Transformer架构的问答系统，本文将介绍如何使用自定义数据集对Swift语言版本的通义千问进行微调，以适应特定的问题和领域。答：选择合适的超参数是微调过程中的一个重要步骤，可以根据经验和实验结果来选择超参数，也可以使用网格搜索等方法进行超参数调优，以获得最佳的微调效果。2、准备自定义数据集：收集与所需领域相关的问题和对应的正确答案，并将其整理成适合训练的形式，确保数据集的质量和多样性，以提高微调的效果。swift微调款框架使用自定义数据集进行通义千问1.5的微调。
SWIFT框架lora微调MiniCPM-V-2 2.8B
qq_40241816的博客
11-05 752
4.微调数据集准备。具体可参考：https://github.com/modelscope/ms-swift/blob/main/docs/source/Instruction/%E8%87%AA%E5%AE%9A%E4%B9%89%E4%B8%8E%E6%8B%93%E5%B1%95.md#-%E6%8E%A8%E8%8D%90%E5%91%BD%E4%BB%A4%E8%A1%8C%E5%8F%82%E6%95%B0%E7%9A%84%E5%BD%A2%E5%BC%8F。3.swift推理测试，可参考。
利用swift框架微调面壁小钢炮2.0
weixin_51074012的博客
07-01 2059
【代码】利用swift框架微调面壁小钢炮2.0。
Swift实战（微调多模态模型Qwen2.5 vl 7B）
Guo_Python的博客
03-18 1794
本教程利用Swift框架微调Qwen2.5 vl 7B模型，是用的数据集是OCR识别数据集，一共10万张图片。
【大模型微调】SWIFT：一种可扩展的轻量级基础设施用于微调
数智笔记
08-13 2827
最近在大型语言模型（LLMs）和多模态大型语言模型（MLLMs）方面的发展，利用基于注意力的Transformer架构，实现了卓越的性能和泛化能力。它们已经涵盖了传统学习任务的许多领域。例如，基于文本的任务，如文本分类和序列标注，以及以前使用不同模型解决的多模态任务，如视觉问答（VQA）和光学字符识别（OCR），现在可以基于一个基础模型处理。因此，LLMs和MLLMs，尤其是基于Transformer架构的模型的训练和轻量级微调，变得尤为重要。
LLM/MLLM之SWIFT：SWIFT(一个用于微调的可伸缩轻量级基础设施的工具)的简介、安装和使用方法、案例应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
03-28 5363
​ LLM/MLLM之SWIFT：SWIFT(一个用于微调的可伸缩轻量级基础设施的工具)的简介、安装和使用方法、案例应用之详细攻略 目录 SWIFT的简介 SWIFT的安装和使用方法 SWIFT的案例应用 SWIFT的简介 SWIFT(Scalable lightWeight Infrastructure for Fine-Tuning)是一个用于微调的可伸缩轻量级基础设施的工具，支持近200种LLM和MLLM（多模
swift 框架大全
2401_84153177的博客
05-14 811
自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。深知大多数初中级Android工程师，想要提升技能，往往是自己摸索成长，自己不成体系的自学效果低效漫长且无助。因此收集整理了一份《2024年Web前端开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Android开发知识点！
SWIFT:让大模型微调变得简单高效
步子哥的博客
08-03 1510
SWIFT的出现,无疑为大模型的定制化应用铺平了道路。它集成了当前最先进的训练技术,提供了全面的模型支持,同时保持了简单易用的特性。无论是初学者还是经验丰富的AI研究人员,都能在SWIFT中找到适合自己的工具。随着AI技术的不断发展,像SWIFT这样的开源框架将发挥越来越重要的作用。它不仅推动了技术的民主化,也为AI创新提供了重要的基础设施支持。可以预见,在SWIFT的助力下,更多创新的AI应用将会涌现,为各行各业带来新的机遇和变革。
lora微调多模态大模型实战
04-01
<think>嗯，用户想了解如何使用LoRA对多模态大模型进行微调的实际操作方法。首先，我需要回忆一下LoRA的基本原理。LoRA通过低秩分解来模拟参数变化，这样可以减少训练参数量，适合大模型微调。用户提到的多模态大模型，比如DeepSeek Janus-Pro 7B，可能需要同时处理文本、图像等多种数据，所以微调时要考虑不同模态的参数调整。 接下来，我得结合用户提供的引用内容。引用[1]提到LoRA的核心思想，引用[2]介绍了ms-swift框架支持多模态模型的训练和微调，而引用[3]则提供了一些学习资料。所以，我需要整合这些信息，给出一个实战教程的步骤。 首先，可能需要准备环境，安装ms-swift框架，因为引用[2]提到它支持多模态模型的训练和部署。然后，数据准备部分，要处理多模态数据，比如文本-图像对。接着，配置LoRA参数，确定rank和模块选择。在微调过程中，可能需要加载预训练的多模态模型，并应用LoRA到特定的模块，比如视觉编码器和文本解码器。 然后，用户可能关心具体的代码示例，所以需要提供一个使用ms-swift的代码片段，展示如何配置和启动训练。此外，还要考虑模型融合，将LoRA适配器合并回原模型，以便推理时使用。最后，性能优化和注意事项也是关键点，比如混合精度训练和参数调整。 用户可能还希望了解如何验证微调效果，比如在多模态任务上的评估指标，以及常见问题的解决方法。需要确保回答结构清晰，步骤详细，并且引用相关的资料，比如引用[1]和[2]来支持技术点。同时，生成的相关问题需要围绕LoRA微调的优化、多模态数据处理和框架使用等方面，帮助用户进一步深入学习。</think>### LoRA微调多模态大模型实战教程 ### 一、环境准备 1. 安装ms-swift框架（魔搭大模型训练框架） ```bash pip install ms-swift[multi-modal]>=1.6.0 ``` 2. 准备预训练模型（以DeepSeek Janus-Pro 7B为例）[^2] ```python from modelscope import snapshot_download model_dir = snapshot_download('deepseek-ai/DeepSeek_Janus-Pro-7B') ``` ### 二、数据准备（以图文对数据为例） ```python # 示例数据集格式 dataset = [ { "image": "path/to/image.jpg", "text": "一只橘色猫咪在窗台上晒太阳" }, # 更多多模态样本... ] ``` ### 三、LoRA配置 ```yaml # config/lora.yaml train_args: learning_rate: 1e-4 max_epochs: 5 per_device_train_batch_size: 2 lora: rank: 8 # 低秩矩阵维度[^1] target_modules: ['q_proj', 'v_proj', 'vision_encoder'] # 多模态特殊模块[^2] ``` ### 四、微调执行 ```python from swift import LoRAConfig, Swift from swift.llm import DatasetName, ModelType, get_model_tokenizer # 加载多模态模型 model, tokenizer = get_model_tokenizer( ModelType.deepseek_janus_pro_7b_chat, model_kwargs={'device_map': 'auto'} ) # 创建LoRA适配器 lora_config = LoRAConfig( rank=8, target_modules=['q_proj', 'v_proj', 'vision_proj'] ) model = Swift.prepare_model(model, lora_config) ``` ### 五、训练过程 ```bash # 启动训练命令 swift sft \ --model_type deepseek-janus-pro-7b-chat \ --dataset coco-en-2k \ --lora_rank 8 \ --gradient_checkpointing true \ --use_flash_attn true ``` ### 六、模型融合（部署准备） ```python # 合并LoRA权重到原模型 Swift.merge_and_unload(model) model.save_pretrained('merged_model') ``` ### 关键参数解析 1. **Rank选择**：通常取8-64之间，数值越大训练能力越强但参数量增加 2. **目标模块**： - `vision_proj`: 视觉编码器投影层 - `text_decoder`: 文本解码器层 3. **混合精度训练**：推荐使用`bfloat16`减少显存占用 ### 性能优化技巧 1. 使用梯度检查点技术节省显存 2. 开启Flash Attention加速计算 3. 冻结非关键模块参数（如部分视觉编码器层） ### 效果验证 ```python # 推理测试样例 response = model.generate( images=[Image.open("cat.jpg")], text="描述这张图片的内容" ) print(response) # 输出："一只橘色猫咪在窗台上晒太阳" ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Andy_shenzl

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值