LLM-项目详解-Chinese-LLaMA-AIpaca（二）：代码解读【①prompt指令制作、②合并分词器、③Lora模型与基础模型合并、③模型分片保存】

已于 2023-06-18 18:29:05 修改
阅读量981 收藏 1
点赞数 1
分类专栏： LLM 文章标签： llama python 开发语言
于 2023-06-13 23:12:57 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/u013250861/article/details/131198093
版权
本文详细介绍了Chinese LLaMA模型的整合过程，包括prompt指令的制作、分词器合并、LoRA模型与基础模型的融合、模型分片保存以及无监督预训练和指令精调等步骤，旨在为开发者提供实用的指导。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、prompt指令制备【crawl_prompt.py】

import openai
import json
import sys
import random

openai.api_key = ""   # you must provide your OpenAI API key before crawling
if not openai.api_key:
  raise ValueError("OpenAI API key not provided. Please set the 'openai.api_key' variable.")

def return_random_prompt():
  system_prompt = "你需要尽可能给出多样化的任务指令和对应的回答。我们将用于人工评估ChatGPT模型对指令的完成情况。要求:\n"

  # generate random topics
  topic_list = ["科技", "娱乐", "体育", "金融", "时政", "教育", "医疗", "旅游", "美食", "汽车", "房产", "文化", "历史", "地理", "自然", "人文", "社会", "法律", "军事", "政治", "经济
了解本专栏 订阅专栏 解锁全文 超级会员免费看
LLMs之Chinese-LLaMA-Alpaca-2：源码解读(run_clm_pt_with_peft.py文件)—模型训练前置工作(参数解析+配置日志)→模型初始化(检测是否存在训练过的chec
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
08-31 1639
​ LLMs之Chinese-LLaMA-Alpaca-2：源码解读(run_clm_pt_with_peft.py文件)—模型训练前置工作(参数解析+配置日志)→模型初始化(检测是否存在训练过的checkpoint+加载预训练模型和tokenizer)→数据预处理(处理【标记化+分块】+切分txt数据集)→优化模型配置(模型量化+匹配模型vocabulary大小与tokenizer+初始化PEFT模型【LoRA】+CheckPointing等)→模型训练(继续训练+评估指标+自动保存中间训练结果)/模型评
中文版LLaMA：Chinese-LLaMA-Alpaca
u013250861的博客
06-12 2073
以ChatGPT、GPT-4等为代表的大语言模型（Large Language Model, LLM）掀起了新一轮自然语言处理领域的研究浪潮，展现出了类通用人工智能（AGI）的能力，受到业界广泛关注。然而，由于大语言模型的训练和部署都极为昂贵，为构建透明且开放的学术研究造成了一定的阻碍。为了促进大模型在中文NLP社区的开放研究，本项目开源了。这些模型并使用了中文数据进行二次预训练，进一步提升了中文基础语义理解能力。
LLM - LoRA 模型合并与保存
BITDDD小栈
08-03 2万+
LoRA 模型 merge_and_unload 合并与保存。
大模型本地部署神器：llama.cpp使用介绍
2401_85390073的博客
03-29 1770
本节主要介绍什么是llama.cpp，以及llama.cpp、llama、ollama的区别。同时说明一下GGUF这种模型文件格式。llama.cpp是一个由Georgi Gerganov开发的高性能C++库，主要目标是在各种硬件上（本地和云端）以最少的设置和最先进的性能实现大型语言模型推理。主要特点：纯C/C++实现，没有任何依赖对Apple Silicon（如M1/M2/M3芯片）提供一流支持 - 通过ARM NEON、Accelerate和Metal框架优化。
Chinese-LLaMA-Alpaca：优秀的开源中文语言模型预训练工具
m0_37586850的博客
05-03 869
省时查报告-专业、及时、全面的行研报告库省时查方案-专业、及时、全面的营销策划方案库【免费下载】2023年3月份热门报告合集万字干货：ChatGPT的工作原理2023年创业（有创业想法）必读手册ChatGPT等让你效率倍增的22个AI工具ChatGPT调研报告（仅供内部参考）ChatGPT的发展历程、原理、技术架构及未来方向《ChatGPT：真格基金分享.pdf》2023年AIGC发展趋势报告：人...
Chinese-LLaMA-Alpaca-2: 新一代开源中文大语言模型
Nifc666的博客
10-18 776
总的来说,Chinese-LLaMA-Alpaca-2项目代表了中文大语言模型的最新进展,其在模型架构、训练方法和应用部署等方面的创新,为未来的研究和应用铺平了道路。项目还设计了方便的自适应经验公式,降低了使用难度。Chinese-LLaMA-Alpaca-2的开源不仅为研究人员提供了宝贵的资源,也为企业和开发者提供了构建先进AI应用的基础。: 项目团队重新设计了55,296大小的新词表,进一步提升了中文字词的覆盖程度,同时统一了LLaMA和Alpaca的词表,避免了混用词表带来的问题。
LLM - 使用 TRL 库 微调(Fine-Tuning) Llama3 以及合并微调模型 教程
AGI
08-15 1642
TRL(Transformer Reinforcement Learning) 是 HuggingFace 的全栈库，提供一套工具，用于通过强化学习训练 Transformer 语言模型，从 监督微调(Supervised Fine-tuning, SFT)、奖励建模(Reward Modeling, RM)、近端策略优化(Proximal Policy Optimization, PPO)。
开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory-单机单卡-V100（八）
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
08-21 8360
使用LLaMA-Factory高效微调qwen2-7b-instruct
LLMs之LLaMA-7B-QLoRA：基于Alpaca-Lora代码在CentOS和多卡(A800+并行技术)实现全流程完整复现LLaMA-7B—安装依赖、转换为HF模型文件、模型微调(QLoRA+
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
07-04 1075
​ LLMs之LLaMA-7B-QLoRA：基于Alpaca-Lora代码在CentOS和多卡(A800+并行技术)实现全流程完整复现LLaMA-7B—安装依赖、转换为HF模型文件、构造数据集(Alpaca利用ChatGPT生成52K指令数据集+多份json格式)、模型微调(QLoRA+单卡/8卡【7B仅2H+各卡不到6G】)、模型推理(仅7G+对比终端命令/llama.cpp/Docker封装)图文教程之详细攻略 目录 基于Alpaca-Lora代码在CentOS和多卡(A800+并行技术)实现全流程
开源模型应用落地-qwen2-7b-instruct-LoRA微调-LLaMA-Factory-单机多卡-RTX 4090双卡（五）
热门推荐
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
08-10 4万+
使用LLaMA-Factory高效微调qwen2-7b-instruct
LLM（四）| Chinese-LLaMA-Alpaca：包含中文 LLaMA 模型和经过指令微调的 Alpaca 大型模型
wshzd的博客
11-14 976
论文题目：《EFFICIENT AND EFFECTIVE TEXT ENCODING FOR CHINESE LL AMA AND ALPACA》​论文地址：https://arxiv.org/pdf/2304.08177v1.pdfGithub地址：https://github.com/ymcui/Chinese-LLaMA-Alpaca对于中文而言，LLaMA存在的问题：为了解决这些问题，作者建议用额外的中文标记来扩展LLaMA tokenizer，并为新的tokenizer适配模型：
Chinese-LLaMA-Alpaca代码实战
dzysunshine的博客
05-25 4531
将alpaca-combined下的文件都放到7B目录下后，执行下面的操作。工具为例，介绍无需合并模型即可进行本地化部署的详细步骤。使用text-generation-webui搭建界面。我们进一步将FP16模型转换为4-bit量化模型。将合并后的模型权重下载到本地，然后传到服务器上。会显示：7B tokenizer.model。会生成ggml-model-f16.bin。1、先新建一个conda环境。实验效果：生成的中文较短。
LLMs：Chinese-LLaMA-Alpaca的简介(扩充中文词表+增量预训练+指令精调)、安装、案例实战应用之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
04-27 3450
​ LLMs：Chinese-LLaMA-Alpaca的简介(扩充中文词表+增量预训练+指令精调)、安装、案例实战应用之详细攻略 目录 相关文章 Chinese-LLaMA-Alpaca的简介 Chinese-LLaMA-Alpaca的的安装 Chinese-LLaMA-Alpaca的的使用方法 相关文章 论文相关 LLMs：《Efficient and Effective Text Encoding for Chinese LLaMA a
LLaMA细节与代码解析
AI生成式技术曾小健
06-09 1875
也就是说，假如当前输入的序列长度是512，那么截取出来的这个新的freqs_cis，形状就是(512, 64)，reshape之后，形状就变成了(1, 512, 1, 32)，也就是在每一个位置上，都对应有32个角度，根据刚刚torch.polar的介绍，当我们固定绝对值（也就是向量的模长）时，角度就可以在笛卡尔坐标系下唯一确定一个复数，这样一来也就是32个复数，即64个特征维度，所以就可以对应的将它融合到每个attention head的64个特征中去了。接下来是transformer模型的构建。
Chinese-LLaMA-AIpaca
AI工程化、开源分享、文档翻译、代码笔记
09-18 535
适用于 Chinese-LLaMA, Chinese-LLaMA-Plus, Chinese-Alpaca。您也可以直接运行合并后的 chinese-alpaca-7b，相对加载两个权重推理速度会有较大的提升。下载 chinese-alpaca-lora-7b 拷贝到 loras 文件夹下。在不安装其他库或Python包的情况下快速体验模型效果，可以使用。，将原版LLaMA模型转换为HuggingFace格式。脚本将lora权重合并，那么无需再指定。接下来就可以愉快的运行了，参考。
ollama部署体验Chinese-LLaMA-Alpaca-3大模型项目
nlpstarter的博客
05-15 2992
使用Chinese-LLaMA-Alpaca-3项目中的模型，利用ollama进行了部署体验。
探索中文大模型的新高度：Chinese-LLaMA-Alpaca-3
gitblog_00044的博客
08-08 1003
探索中文大模型的新高度：Chinese-LLaMA-Alpaca-3 Chinese-LLaMA-Alpaca-3中文羊驼大模型三期项目 (Chinese Llama-3 LLMs) developed from Meta Llama 3项目地址:https://gitcode.com/gh_mirrors/ch/Chinese-LLaMA-Alpaca-3 项目介绍 Chinese-LLaMA...
利用sentencepiece训练中文分词器，并与LLaMA分词器合并
u013250861的博客
07-24 681
【代码】利用sentencepiece训练中文分词器，并与llama分词器合并。
llama.cpp一种在本地CPU上部署的量化模型（超低配推理llama）
god_Zeo的安全博客
04-23 2万+
前不久，Meta前脚发布完开源大语言模型LLaMA，随后就被网友“泄漏”，直接放了一个磁力链接下载链接。然而那些手头没有顶级显卡的朋友们，就只能看看而已了但是 Georgi Gerganov 开源了一个项目llama.cpp次项目的牛逼之处就是没有GPU也能跑LLaMA模型大大降低的使用成本，本文就是时间如何在我的 mac m1 pro 上面跑起来这个模型。
llama-factory + deepseek api训练
最新发布
04-16
### 使用 LLaMA-Factory 和 DeepSeek API 进行模型训练 #### 配置文件修改 在 `data/dataset_info.json` 文件中添加 DeepSeek 数据集定义，以便后续能够加载自定义的数据集。以下是具体的 JSON 定义结构： ```json { "deepseek_dataset": { "file_name": "deepseek_data.json", "columns": { "prompt": "instruction", "query": "input", "response": "output" } } } ``` 通过上述方式可以指定数据集中各字段的映射关系[^1]。 --- #### 模型配置与下载 为了使用 DeepSeek 的预训练权重作为基础模型，可以通过 Hugging Face 提供的工具完成模型下载。执行以下命令即可将模型保存至本地目录： ```bash huggingface-cli download deepseek-ai/deepseek-llm-7b-chat --local-dir ./models ``` 此步骤会将 DeepSeek 的大型语言模型（LLM）存储到当前工作目录下的 `./models` 路径下[^1]。 如果需要更灵活的方式获取特定版本或分片化的模型文件，则可采用如下脚本实现单个文件的下载： ```bash wget "https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-32B/resolve/main/model-00001-of-000008.safetensors?download=true" [^2] ``` 注意：实际应用时需替换 URL 地址以匹配目标模型的具体资源位置。 --- #### 启动 WebUI 并设置参数 启动 LLaMA Factory 的图形化用户界面（WebUI），便于直观地管理实验流程及相关超参调节： ```bash llamafactory-cli webui ``` 运行该指令后，默认会在默认浏览器自动弹出交互页面，在界面上依次完成以下选项的选择： - **模型路径**: 设置为之前已下载好的 `./models`； - **数据集名称**: 对应前面创建的 `deepseek_dataset`； - **训练策略**: 可选 LoRA 或者 Full Fine-tuning 方法来适应不同硬件条件的需求； - **其他重要参数**: - 学习率建议初始值设为 `2e-5`; - 批次大小依据 GPU 显存容量动态调整； 以上设定均有助于提升最终效果的同时兼顾计算效率[^1]。 --- #### 开始正式训练过程 对于偏好自动化作业调度场景而言，可以直接利用 Python 脚本来驱动整个训练环节。下面给出了一条典型命令行实例用于触发基于 LoRA 技术改造后的微调任务： ```bash python src/train_bash.py \ --model_name_or_path ./models \ --dataset deepseek_dataset \ --lora_target_modules q_proj v_proj # 关注于 Transformer 结构内的查询向量投影部分实施低秩分解近似处理 ``` 这里特别强调的是 `q_proj`, `v_proj` 参数决定了哪些模块会被纳入适配器机制作用范围之内[^1]。 --- #### 推理阶段权重量化及服务部署 当训练完成后进入推理测试或者线上生产环境迁移前还需要经历几个必要步骤: 1. 将经过 LoRA 修改过的增量更新融入原生基座之中形成统一的整体表示形式; ```python from peft import PeftModel model = PeftModel.from_pretrained(base_model, "./output/lora_weights") merged_model = model.merge_and_unload() ``` 2. 构建 RESTful API 实现外部请求接入支持; ```bash python src/api_demo.py \ --model_name_or_path ./models \ --checkpoint_dir ./output ``` 至此便完成了从零构建直至上线发布的全流程闭环操作. --- 问题
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值