使用LLaMA-Factory进行模型微调

微调框架Llama-factory和Unsloth:应该选择哪个? 测试表明,UNSLOTH和LLAMA-FACTORY在社区支持、模型种类和易用性上相近,但UNSLOTH在微调速度上表现突出。尽管处理的数据量是LLAMA-FACTORY的20倍,UNSLOTH的速度仍快约2.5倍,极大优化了时间成本,尤其在大规模数据处理中的效率优势显著。 阅读详情
AI摘要

本文详细介绍了使用LLaMA-Factory进行AI大模型微调的全过程,包括安装、数据集准备、界面预览、参数设置、模型推理评估、模型对话、模型导出以及发布API等关键步骤。同时,还提供了学习AI大模型的资源和路线,帮助读者更好地掌握大模型技术。

前言

模型微调的工具和框架有很多,本节来看下LLaMA-Factory的用法,也可参考之前的文章《使用Unsloth进行模型微调》。

安装

本次我们依然以Windows的WSL为例进行操作,WSL安装和用法可参考上一篇内容,安装命令如下。

git clone https://github.com/hiyouga/LLaMA-Factory.git
conda create -n llama_factory python=3.10
conda activate llama_factory
cd LLaMA-Factory
pip install -e '.[torch,metrics]'

这里-e加点代表执行当前目录下的setup.py进行相关库的安装,而不是直接从pypi上安装,中括号中的是可选仓库,意思是你安装的时候可以把中括号以及里面的仓库去掉,这里我们按官网命令,也安装一下。

安装后可以通过下面代码来验证下,看安装是否成功。

import torch
torch.cuda.current_device()
torch.cuda.get_device_name(0)
torch.__version__

torch是一个深度学习框架,cuda是一个并行计算程序,可以让开发者调用Nvidia的显卡进行高性能计算,PyTorch和TensorFlow等深度学习框架都有用到cuda。

current_device用来获取当前使用CUDA的GPU设备索引号,如果机器上只有一个GPU,则该索引通常为0,get_device_name接收设备索引号,可得到设备的名称,torch的version可获取当前PyTorch和CUDA的版本,效果如下。

img

数据集准备

LLaMA-Factory自带了一些数据集,都以json格式存在data目录下,后面通过图形化界面微调时,可以直接通过下拉框进行选择,同时也可以添加自己的数据集,如果要添加自己的数据集,需要进行一些配置。

我们先来看下data下面的一个叫做identity.json的数据集,也叫做身份数据集,这个数据集打开后,发现问题都是类似于询问模型你是谁,然后回答是类似于我是XX开发的XX模型,如果我们想把微调后的模型给它个身份,比如让他回答我是AiSec团队训练的AI安全助手模型,那么就需要修改下这个数据集,将里面的{{name}}和{{author}}进行替换,替换为模型的名字和开发者。

批量替换命令参考如下:

sed -i 's/{{name}}/AI安全助手/g'  data/identity.json 
sed -i 's/{{author}}/AiSec团队/g'  data/identity.json 

sed是一个流编辑器,可以执行查找、替换、插入、擅长等操作,i表示编辑模式,s代表进行替换,第一个内容是要搜索的内容,第二个内容是要替换的内容,g代表全局搜索,最后跟要操作的文件,当然如果不想对模型回答我是谁这个问题进行调整,则不用修改,微调时不选择即可。

再来看下我们自己的数据集,还以之前Unsloth微调示例中的ruozhiba为例,具体可参考之前文章《使用Unsloth进行模型微调》,首先要把数据集文件复制到data目录下,然后修改dataset_info.json文件,因为只有把数据集配置到这个文件中,llama-factory才能识别,具体的配置各个参数说明和示例可参考官方说明,如下地址。

https://github.com/hiyouga/LLaMA-Factory/blob/main/data/README_zh.md

我这里比较简单,如下代码:

"ruozhiba": {
       "file_name": "ruozhiba.jsonl"
 }

最开始的是数据集名称,根据自己的情况起一个名字,然后file_name指定数据集文件,该文件要在data目录下。

界面预览

直接运行llamafactory-cli命令,会显示相关的使用方法,其中可通过webui参数来启动图形化操作,里面包含了微调、推理和导出,我们这里直接启用webui,如下图(注意要在llama-factory目录下运行该命令,不然后续会找不到数据集)。

img

启动后程序运行在7860端口,最左上角的语言可设置界面展示语言,zh代表中文,如下图。

img

参数设置

下面我们来看下必须要设置的参数,因为参数过多,后续我们再单独记一篇关于微调的相关参数解释,部分参数和Unsloth是一样的,可参考之前Unsloth微调的内容。

首先看第一行,模型名称处填入要微调的模型,这是个下拉列表,可以直接选择,选择后模型路径框会显示该模型的组织和名称,默认情况下该模型会从huggingface下载,可以修改环境变量,设置从魔塔社区或者魔乐社区下载,命令如下:

export USE_MODELSCOPE_HUB=1 # Windows 使用 `set USE_MODELSCOPE_HUB=1`
export USE_OPENMIND_HUB=1 # Windows 使用 `set USE_OPENMIND_HUB=1`

这里我们为了更方便的管理模型,我们选择手动下载到本地,然后将本地路径粘贴进去,如下:

img

第二行的微调方法选择Lora,检查点路径先不用管。

第三行量化我们这里是0.5b的,仅作测试,所以不进行量化,如果要量化,根据自己需求选择对应参数即可。

然后到训练模块,选择训练方式,这里选择Supervised Fine-Tuning监督微调,数据路径默认data,数据集选择我们刚才准备的ruozhiba以及identity,如下图。

img

之后有一个训练轮数,我们这里数据集比较少,为了充分学习,我们设置大一点,比如20,其它参数暂时不动,后续单独讲解。

然后拉到最后,有一个保存结果的路径和保存配置文件的路径,我们这里不做修改,点击开始即可,右下角会以图形曲线形式展示损失值(最好是1以下)。

开始后可以实时关注当前显卡的状态,有时候报错,可能是显存爆掉了,可以查看显存的使用情况,可以使用传统的nvidia-smi命令,或者nvitop查看。

训练完毕后,Lora模型会保存在llama-factory下的saves目录,如下图。

img

模型推理和评估

模型微调后我们需要进行评估,看训练效果怎么样,数据集可以分训练数据集、推理数据集,我这里用的这个数据集暂时没有推理的,所以这里就不再具体推理了,我们来看下推理的步骤。

详情看下图标注:

img

这个推理后最后会给一个rouge得分,即推理后的答案和数据集标准答案之间的对比所得的分数,分数越高,说明推理效果越好。通常这个分数可以按100分为满分制,通过搜索资料,暂未发现有合格分,所以并不是达到多少分就合格,需要自己根据情况看是否满足需求。

模型对话

比如我们自己的数据集,没有对应的推理数据,则我们可以通过聊天来测试模型推理效果,操作图如下:

img

如下效果:

img

这个身份数据集结果回答的没问题,后续我们可以从训练数据集中找些问题自己询问下,看输出是否符合预期。

模型导出

切换到导出栏,主要就是填一下模型导出的位置,如下图:

img

导出后如下结果:

img

导出结果是safetensors,如果想用gguf,可以使用llama.cpp中的转换脚本,示例如下:

python convert-hf-to-gguf.py /models

直接跟目录所在目录即可。

发布API

为了更好的给下游提供任务,我们通常需要以API形式来提供模型服务,参考命令如下:

CUDA_VISIBLE_DEVICES=0 API_PORT=8000 llamafactory-cli api \
    --model_name_or_path /mnt/c/qwen \
    --adapter_name_or_path ./saves/Qwen1.5-0.5B/lora/train_2025-02-17-16-29-18 \
    --template qwen \
    --finetuning_type lora

运行后API会以OpenAI接口形式运行在8000端口,直接访问8000的docs路径可查看接口文档,如下图:

img

以上就是LLaMA-Factory的基本用法,感谢阅读。

如何学习AI大模型?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高

那么我作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,希望可以帮助到更多学习大模型的人!至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

👉 福利来袭优快云大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉 福利来袭优快云大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

img

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

使用LLaMA Factory微调导出模型,并用ollama运行,用open webui使用该模型 使用llama factory微调模型,导出模型,使用ollama加载运行模型,使用open webui页面调用模型; 阅读详情

相关推荐

Windows环境下使用LLaMA-Factory进行模型微调的详细教程

如果wget不可用,可以使用浏览器下载数据集,然后手动解压到data目录。

weixin_62533513的博客 2609

大模型微调:LLaMA-Factory、Unsloth 和 Hugging Face Transformers 之选

在当今蓬勃发展的人工智能时代,大模型微调犹如一把神奇的钥匙,能够开启模型性能提升的大门,使其更好地适应各种特定任务。然而,面对市场上琳琅满目的微调工具,如何从中挑选出最契合自身需求的平台,着实成为了一项颇具挑战性的难题。接下来,让我们深入对比分析 LLaMA-Factory、Unsloth 和 Hugging Face Transformers 这三个主流的微调框架,为你的选择提供有力的参考。一、LLaMA-Factory:模块化与易用性的完美融合。

嘴巴吃糖了 2392

【大模型】使用 LLaMA-Factory 进行大模型微调:从入门到精通

使用 LLaMA-Factory 进行模型微调:从入门到精通

weixin_43988131的博客 1854

使用 ollama 部署本地模型,零基础入门到精通,非常详细收藏我这一篇就够了

在本地启动并运行大型语言模型。运行Llama 2,Code Llama和其他模型。自定义并创建您自己的。

m0_65555479的博客 3737

使用LLaMA-Factory进行模型微调(LLama3-8B-instruct)

这里需要注意的是,自己制作的数据集是需要在data/dataset_info.json 这个文件中进行注册的。中间有大量的已经注册过的数据集,可以自己参考找到类似的注册信息,自行添加在文件最后。"hf_hub_url": "HuggingFaceTB/cosmopedia", #这是在HuggingFaceTB/cosmopedia中的名称。"file_name": "dpo_zh_demo.json", #数据集文件名,如果不在当前路径需要包含当前路径。8 使用合并模型推理。

guosongrui001的专栏 2044

【Unity报错】Unity导入海康SDK 报错 DllNotFoundException: PlayCtrl assembly

2.尝试按网上其他的办法(包括使用depengs查看dll依赖等)1.先检查Plugins文件夹中是否存在PlayCtrl文件。3.如果网上查阅的办法都不能解决,请继续往下看。更换低版本的SDK库文件。

weixin_42968584的博客 1127

llama-factory下使用unsloth微调DeepSeek-R1-Distill-Qwen-1.5B

【代码】llama-factory下使用unsloth微调DeepSeek-R1-Distill-Qwen-1.5B。

gregmankiw的博客 1407

基于线性光耦HCNR200的高压直流采样电路设计与精度优化

本文详细介绍了基于线性光耦HCNR200的高压直流采样电路设计与精度优化方法。针对直流高电压测量中的安全与干扰问题,提出采用HCNR200光耦隔离方案,实现高精度线性传输。文章深入解析电路设计关键细节,包括电阻网络、运放选型、滤波电容配置等,并提供精度优化实战技巧与常见问题排查指南,助力新能源电动汽车和高压储能系统的高压直流采样应用。

weixin_42713608的博客 582

LLaMA-Factory 加速技术全解析:FlashAttention/Unsloth/Liger Kernel 原理与 Ubuntu22.04 实践指南

安装额外组件(如flash-attn的transformers集成):核心解决注意力计算的内存瓶颈,是所有加速的基础;Unsloth:针对微调场景的轻量化优化,4bit量化+QLoRA是核心优势;:算子融合+异构调度,进一步提升计算效率,可与前两者叠加。

本人任职于安超云技术架构部,拥有十余年云计算与AI经验。专注AI基础设施、分布式集群、高可用架构、虚拟化、存储、网络及数据库等领域。博客内容以学习笔记为主,力求准确,但个人能力所限,难免疏误。非常欢迎交流指正,期待与您共同探讨技术 2777

基于Simulink的BCH码编解码仿真建模示例

BCH码是一类循环码,能够纠正一定数量的随机错误。灵活性:可以根据需要选择不同的码长和纠错能力。高效性:适用于短码长和中等码长的场景,广泛用于卫星通信、存储系统等。实现简单:编码和解码过程可以通过硬件或软件高效实现。在本示例中,我们将使用MATLAB/Simulink中的和模块来完成BCH码的编解码操作,并通过仿真验证其误码率(BER)性能。通过本指南,我们介绍了如何基于Simulink搭建一个BCH码的编解码模型,并进行了仿真以验证其性能。背景介绍:理解BCH码的基本原理及其在通信系统中的应用。

xiaoheshang_123的博客 191

k8s上分离集群seatunnel部署(生产推荐)

k8s上分离集群seatunnel部署(生产推荐)

寂夜了无痕的博客 891

大模型微调之 使用 LLaMA-Factory 微调 Llama3

大模型微调之 使用 LLaMA-Factory 微调 Llama3使用 LLaMA Factory 微调 Llama-3 中文对话模型 请申请一个免费 T4 GPU 来运行该脚本 运行结果为: 检查 GPU 环境 更新自我认知数据集 可以自由修改 NAME 和 AUTHOR 变量的内容。 identity.json的文件内容为: 同时,加载alpaca_gpt4_en,alpaca_gpt4_zh数据集,对应alpaca_gpt4_data_en.json、alpaca_gpt4_data_zh.jso

大模型与Agent智能体 4292

windows版vCenter STS证书替换步骤说明

windows版vCenter STS证书,手动更新步骤

技术是手段,服务才是目的。开源与协作是创新的活水,而核心技术的自主可控是立足之本。身处黄金时代,唯持续学习,方能不惧变化。从使用者到创造者,中国技术的未来,正待你们接过火炬,走得更远、更稳、更好。 1043

小白也能微调大模型:LLaMA-Factory使用心得

本文介绍了初学者如何使用LLaMA-Factory进行大模型的微调,包含训练、测试数据集的构建,训练任务相关的参数,训练完成后的测试集上推理等环节

MeetLight 1万+

高云FPGA系列教程(1):FPGA和ARM开发环境搭建

至此,高云FPGA和MCU开发环境就搭建完成了,整体还是比较简单的,几乎是一键完成,下一篇文章我们进行实际的FPGA和MCU开发。本文是高云FPGA系列教程的第1篇文章。

whik1194的博客 6195

剪映专业版关键帧完全教程:从原理到实战的动画必修课

关键帧是视频动画的核心原理。视频由连续静止画面(帧)构成,关键帧记录素材属性变化的起始与结束状态,中间过渡帧由软件自动计算生成。剪映专业版中,视频、音频、文本、贴纸等素材均支持关键帧动画,可调节位置、缩放、旋转、不透明度、音量等参数。操作为:在起始位置点击参数旁菱形按钮添加关键帧,移动播放头后调整参数,系统自动生成第二个关键帧。多属性可独立控制并叠加,实现放大同时淡出等复合效果。通过设定变化起点与终点,关键帧能让静止元素产生移动、缩放、淡入淡出等丰富动态,是视频剪辑从基础拼接进阶创意表达的核心技能。掌握关键

深耕计算机专业知识与技术。 2094

使用 LLaMA-Factory 微调 llama3 模型(二)

LLaMA-Factory 是一个用于大型语言模型(LLM)微调的工具,它旨在简化大型语言模型的微调过程, 使得用户可以快速地对模型进行训练和优化,以提高模型在特定任务上的性能。这个工具支持多种预训练的大型语言模型,例如 LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、 Gemma、Baichuan、ChatGLM 和 Phi 等。LLaMA-Factory 旨在降低大型语言模型微调的门槛,使得更多的研究者和开发者能够利用这些强大的模 型来解决具体的实际问题。

GUANGZHAN的专栏 1637

飞牛fnNAS存储模式RAID 5数据恢复

中介绍了fnNAS存储空间的几个模式,细心的网友应该能感受到,我是非常推崇RAID 5的。但我认为,一般人出现1块硬盘损坏后,就能够赶紧采取处理措施了,再高的容灾等级也无法满足这个用户的需求了。》就完成了飞牛NAS存储空间的说明,包括了如何创建、怎么选择空间模式、RAID 5 硬盘故障后的更换、系统更换/重装后数据盘的恢复等等。在VMware中新建虚拟机,安装好fnNAS后,再向虚拟机添加“已有硬盘”(这就是所谓崩溃虚拟机的数据盘),此时新的fnNAS出现提示。在“选择要添加的硬盘”中,选择刚添加硬盘。

dgnankai的专栏 3012

小白也能微调大模型:LLaMA-Factory使用心得_llama factory

大模型火了之后,相信不少人都在尝试将预训练大模型应用到自己的场景上,希望得到一个垂类专家,而不是通用大模型。 目前的思路,一是RAG(retrieval augmented generation),在模型的输入prompt中加入尽可能多的“目标领域”的相关知识,引导模型在生成时尽量靠拢目标领域,运用prompt中给予的目标知识;二是有监督微调,用适量的专业领域的数据(或混通用语料)让模型更能生成目标场景的内容。本文主要讲的就是微调。

qingkahui24689的博客 1739

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

【学习记录】大模型微调之使用 LLaMA-Factory 微调 Qwen系列大模型,可以用自己的数据训练

LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调,框架特性包括

风信子的博客 3312

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

使用LLaMA Factory进行模型微调全流程

本文详细讲解了如何使用 LLaMA Factory 进行大语言模型微调的全流程,包含了模型微调需要接触到的一些参数的讲解。

weixin_46241866的博客 2137

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

使用LLaMA-Factory微调模型详细步骤

微调模型需要的环境有两个包:transformers,llama-factory。

coper_的博客 1441

使用LLaMA-Factory进行大模型微调

Base模型,也称为基座模型,是在大量无标注数据上进行预训练的模型,学习到广泛的语言特征。这些模型具有大规模预训练、泛化能力强和可微调性等特点。目前支持Alpaca格式和ShareGPT格式的数据集。在这次微调训练中,我们使用指令监督微调。"instruction": "用户指令(必填)","input": "用户输入(选填)","output": "模型回答(必填)":用户进行的一个要求,通常是对系统或模型的直接命令,指示它需要执行的具体任务或动作。input。

Q2024107的博客 965

自定义数据集使用llama_factory微调模型并导入ollama

本文所有操作均在linux系统下完成。

weixin_53162188的博客 1万+

5分钟教你不写一行代码微调构建属于你的大模型(使用llama-factory微调Qwen大模型)_llama factory训练后的模型如何使用

DeepSeek, QWQ一系列实力强劲大模型的发布标志着我国在人工智能大模型领域进入世界领导者行列。越来越多领域开始关注并使用大模型。各行各业都积极赋能并开发相关专业领域大模型,比如东南大学推出的“法衡-R1”法律大模型,哈工大推出的“华佗”医疗诊断模型都取得了优异表现。那么它们是如何将大模型这个“博学家”变成领域的“专家”呢?这就需要使用我们今天分享的大模型微调技术。这篇文章带你5分钟学会使用llama-factory微调大模型,不写一行代码,一起来看看吧~

jennycisp的博客 994
上一篇: DeepSeek + 在线Excel , 打造智能表格新纪元
下一篇: 大模型书籍安利:AI大模型训练数据白皮书|附下载
AI大模型_学习君
博客等级 码龄3年 6138粉丝 551原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值