Datawhale出品：《GLM-4 大模型部署微调教程》发布！

最新推荐文章于 2024-12-26 14:59:05 发布
原创 最新推荐文章于 2024-12-26 14:59:05 发布 · 1.7k 阅读 · 11 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #语言模型 #大模型 #langchain #LLM #大模型部署 #微调

部署运行你感兴趣的模型镜像

前言

就在昨天，智谱 AI 发布了最新开源模型 GLM4,通过 10T 高质量多语言数据与更先进的训练技术,达到了更加出色的生成效果。

在仅有 9B 参数的前提下，在中文能力、长文本能力以及工具调用等任务中达到了更加出色的效果。

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓

在这里插入图片描述

教程介绍

秉承开源贡献的宗旨，Datawhale团队成员在模型发布 12 小时 之内，为 编写了GLM-4整套教学流程，包括：

  1. 模型 api 部署；
  2. Langchain 接入；
  3. WebDemo 部署；
  4. vLLM 部署；
  5. LoRA 高效指令微调。

教程除提供过程代码外，还贴心为学习者提供了训练数据与 Autodl 环境镜像，方便学习者一键运行！！

项目已打包！文末获取~

目前项目已被智谱官方推荐学习：

这里我们抽取一部分内容供大家了解本次教程~

LoRA 高效指令微调

首先通过分析子词嵌入模板，从而构造指令微调数据。教程通过对模板编码前后进行可视化复查，并逐一检查特殊子词编号，从而确保嵌入对应。

进而通过对模型层级分析，判断高阶矩阵位置，从而使用 PEFT 工具对低秩转换层进行指定，开启 LoRA 微调。

最终查看微调效果:

代码语言：javascript

User: 小姐，别的秀女都在求中选，唯有咱们小姐想被撂牌子，菩萨一定记得真真儿的——

Assistant: 菩萨也会看错眼的时候。

项目介绍

《开源大模型食用指南》是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。

除 GLM4 外，项目已支持 LLama3, InternLM, Qwen1.5 等 20 项开源模型全流程教程，并且，本项目代码全部开源！！一并配置示例训练数据,AutoDL 环境镜像等,方便学习者使用！

目前项目已经收获 4930 star~ 屡次登上 Github Trending 榜

如果喜欢的话也请给我们加一颗星，为开源助力(▽)

文章最后

最后，由于贡献者团队时间仓促、精力有限，教程难免有些疏漏甚至错误，我们期望学习者在学习的同时，也能积极给我们建议，或者直接对项目进行贡献，让我们共同打磨教程，为后面的学习者提供更好的内容。

如何系统的去学习AI大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓

在这里插入图片描述

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

img

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

在这里插入图片描述

四、AI大模型商业化落地方案

img

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。
  • 内容：
    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
      - L1.4.1 知识大模型
      - L1.4.2 生产大模型
      - L1.4.3 模型工程方法论
      - L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
  • 内容：
    • L2.1 API接口
      - L2.1.1 OpenAI API接口
      - L2.1.2 Python接口接入
      - L2.1.3 BOT工具类框架
      - L2.1.4 代码示例
    • L2.2 Prompt框架
      - L2.2.1 什么是Prompt
      - L2.2.2 Prompt框架应用现状
      - L2.2.3 基于GPTAS的Prompt框架
      - L2.2.4 Prompt框架与Thought
      - L2.2.5 Prompt框架与提示词
    • L2.3 流水线工程
      - L2.3.1 流水线工程的概念
      - L2.3.2 流水线工程的优点
      - L2.3.3 流水线工程的应用
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
  • 内容：
    • L3.1 Agent模型框架
      - L3.1.1 Agent模型框架的设计理念
      - L3.1.2 Agent模型框架的核心组件
      - L3.1.3 Agent模型框架的实现细节
    • L3.2 MetaGPT
      - L3.2.1 MetaGPT的基本概念
      - L3.2.2 MetaGPT的工作原理
      - L3.2.3 MetaGPT的应用场景
    • L3.3 ChatGLM
      - L3.3.1 ChatGLM的特点
      - L3.3.2 ChatGLM的开发环境
      - L3.3.3 ChatGLM的使用示例
    • L3.4 LLAMA
      - L3.4.1 LLAMA的特点
      - L3.4.2 LLAMA的开发环境
      - L3.4.3 LLAMA的使用示例
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
  • 内容：
    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

学习计划：

  • 阶段1：1-2个月，建立AI大模型的基础知识体系。
  • 阶段2：2-3个月，专注于API应用开发能力的提升。
  • 阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
  • 阶段4：4-5个月，专注于高级模型的应用和部署。
这份完整版的大模型 LLM 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓

在这里插入图片描述

您可能感兴趣的与本文相关的镜像

Vllm-v0.11.0

Vllm-v0.11.0

Vllm

vLLM是伯克利大学LMSYS组织开源的大语言模型高速推理框架，旨在极大地提升实时场景下的语言模型服务的吞吐与内存使用效率。vLLM是一个快速且易于使用的库，用于 LLM 推理和服务，可以和HuggingFace 无缝集成。vLLM利用了全新的注意力算法「PagedAttention」，有效地管理注意力键和值

Langchain
关注
大型语言模型 (LLM)全解读.pdf
01-30
大型语言模型 (LLM)全解读
《企业级生成式人工智能LLM大模型技术、算法及案例实战》.pdf
08-15
《企业级生成式人工智能LLM大模型技术、算法及案例实战》.pdf
GLM4模型环境配置+模型微调+模型部署学习笔记
weixin_42264784的博客
07-23 2213
本篇文章的目的在于记录视频学习如何对大预言模型的实操。
GLM4指令微调实战（完整代码）
SoulmateY的博客
06-10 6909
GLM4指令微调实战，学习LLM微调的入门级任务，附带完整代码。
GLM4大模型微调入门实战-命名实体识别（NER）任务
2401_84204207的博客
07-10 1867
大模型指令微调（Instruction Tuning）是一种针对大型预训练语言模型的微调技术，其核心目的是增强模型理解和执行特定指令的能力，使模型能够根据用户提供的自然语言指令准确、恰当地生成相应的输出或执行相关任务。指令微调特别关注于提升模型在遵循指令方面的一致性和准确性，从而拓宽模型在各种应用场景中的泛化能力和实用性。在实际应用中，我的理解是，指令微调更多把LLM看作一个更智能、更强大的传统NLP模型（比如Bert），来实现更高精度的NLP任务。
GLM4-9B-chat模型微调
happyweb的专栏
06-18 4210
简单记录了对于新开源的GLM4-9B-Chat模型进行LoRA微调的全部过程。
超详细的glm-4微调过程和代码之最强落地经验总结
m0_71062934的博客
06-14 4521
智谱AI的GLM-4系列模型是2024年推出的新一代大型语言模型，具有显著的性能提升，接近GPT-4的水平。 GLM-4模型具备多项先进特性，包括强大的多模态处理能力和支持更长上下文输入的能力。 微调技术对于GLM-4模型尤为重要，因为它允许模型在保留广泛知识和语言理解能力的同时，学习特定场景或行业的专业语言习惯、术语和要求。 GLM-4模型提供了多种微调方法，包括LoRA、sift等轻量级微调技术，这些技术可以在不显著增加模型参数量的前提下，有效地调整模型权重以适应下游任务。
Qwen2大模型微调入门实战-命名实体识别（NER）任务（完整代码）
SoulmateY的博客
06-20 5927
基于Qwen2-1.5B大模型，实现命名实体识别（NER）任务，是学习LLM微调非常好的入门任务之一，本文将提供完整的代码、模型、数据以及SwanLab实验过程，来帮助你学习如何进行微调。
【LLM大模型】好书推荐！379页pdf！Transformer、BERT和GPT：包括ChatGPT和提示工程
2301_81940605的博客
08-06 447
TRANSFORMER入门不可错过的一本书，就是这本经典畅销书 《TRANSFORMER,BERT, AND GPT》！
[大模型]GLM4-9B-chat Lora 微调
FL1623863129的博客
06-11 4273
LoraConfig这个类中可以设置很多参数，但主要的参数没多少，简单讲一讲，感兴趣的同学可以直接看源码。task_type：模型类型：需要训练的模型层的名字，主要就是attention部分的层，不同的模型对应的层的名字不同，可以传入数组，也可以字符串，也可以正则表达式。rlora的秩，具体可以看Lora原理lora_alphaLora alaph，具体作用参见Lora原理Lora的缩放是啥嘞？当然不是r（秩），这个缩放就是, 在这个LoraConfig中缩放就是 4 倍。
ChatGLM 4本地部署指南(Docker容器版)
Qinghub‘博客
06-06 7301
GLM-4V-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源多模态版本。 **GLM-4V-9B** 具备 1120 * 1120 高分辨率下的中英双语多轮对话能力，在中英文综合能力、感知推理、文字识别、图表理解等多方面多模态评测中，GLM-4V-9B 都表现出卓越性能。
LLM.pdf
11-01
LLM.pdf
chatglm4本地部署详解
lstef的博客
06-16 8333
跟chatglm3回复速度相比，简直是慢动作中的慢动作。把它修改成glm-4-9b-chat的路径：/home/ls/文档/GLM4/glm-4-9b-chat。composite_demo文件夹中的requirements.txt文件夹，是此版本需要安装的依赖。accelerate>=0.30.1，也是类似情况，但指定源下载依然不奏效。（浏览器下载也失败了2次，反正都是断点续传，继续重复执行下载即可。glm-4-9b-chjat为已经训练的参数。另一种是，手动从web下载安装文件后安装。
GLM4实践-GLM4智能体的本地化实现及部署
YELLOWAUG的博客
04-03 8063
实现GLM4智能体的本地化部署及调用，本文较长，涉及的技术点也较多
ChatGLM4部署教程（非常详细）零基础入门到精通，收藏这篇就够了
2401_85280106的博客
12-26 2984
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B及其人类偏好对齐的版本均表现出超越 Llama-3-8B 的卓越性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。本代模型增加了多语言支持，支持包括日语，韩语，德语在内的 26 种语言。
ChatGLM4部署教程
SJJS_1的博客
08-13 1260
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中，GLM-4-9B及其人类偏好对齐的版本均表现出超越 Llama-3-8B 的卓越性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。
吴恩达教授的373页《LLM大模型通关课程手册》PDF分享，自学转行，零基础首选！
weixin_58753619的博客
06-20 1197
今天为大家带来由吴恩达教授与 OpenAI 共同推出的 LLM（Large Language Model）大模型通关课程手册，从理论到实践，带你全方位掌握大模型技术。从基础知识到高级应用一一为你剖析，不管你是小白还是研究生，这本书都能对你有所帮助，本手册特别结合了经典大模型开源框架LangChain，手把手教你如何基于LangChain开发出功能使用能力全面的应用。此外书中还提供了配套代码，让你在实践中加深理解，通过本手册，你将学会如何利用ChatGPT提供的API开发一个智能问答系统。
LLM大模型：生成式人工智能完全指南，240页pdf
2301_81888214的博客
08-26 483
AI技术发展如此迅速，这本书可能已经过时了！但别担心——《生成性AI完全过时指南》依然是任何想将生成性AI从玩具变成工具的人必读的书籍。
开源大语言模型部署(GLM-4、Qwen2)
a_dreaming的博客
07-22 7925
在本地运行大模型，需要先保证自己有足够的资源。大模型一般运行在GPU上，这里以GLM-4-9B和Qwen2-7B为例来说明其硬件要求情况。
GLM-4-Voice模型微调
最新发布
03-09
<think>好的，用户想了解如何对GLM-4-Voice模型进行微调。首先，我需要回忆一下之前提供的引用内容。引用[2]和[3]介绍了GLM-4-Voice的基本功能，它是一个端到端的语音模型，支持中英文对话，能调整语音的情感、语调等属性。引用[4]提到Freeze-Omni在语音问答准确率上优于GLM-4-Voice，说明可能微调可以提升模型表现。 接下来，我需要整理微调的步骤。通常，模型微调需要准备数据、配置环境、调整参数、训练和评估。根据引用[1]，GLM-4系列有安装指南，可能涉及代码库的克隆和环境配置。用户需要安装必要的依赖，如Python库和语音处理工具。 数据准备方面，用户需要收集或制作带标注的语音数据集，可能包括语音文件和对应的文本，以及情感标签等元数据。数据预处理可能涉及格式转换、特征提取，比如使用Mel频谱图。 然后，模型架构可能需要调整。GLM-4-Voice作为端到端模型，可能允许部分层的微调。用户需要加载预训练模型，冻结部分层，只训练顶层或特定模块。比如，在语音情感调整时，可以仅微调与情感相关的输出层。 训练过程中，学习率的设置很重要，通常会用较小的学习率以避免破坏预训练权重。可能需要使用AdamW优化器，并设置适当的训练轮次和批次大小。训练后，用户需要在测试集上评估准确率，并进行人工测试，检查语音的自然度和响应准确性。 另外，引用[4]提到Freeze-Omni的训练方式，可能涉及多模态融合或特定的训练策略，这或许对GLM-4-Voice的微调有参考价值。比如，保持基底模型的参数大部分冻结，仅训练新增的语音相关模块，以减少对原有知识的影响。 最后，生成相关问题时要考虑用户可能进一步的需求，比如优化方法、数据集处理、评估指标等。需要确保问题覆盖微调的不同方面，帮助用户深入理解整个过程。</think>### GLM-4-Voice 模型微调步骤 #### 1. **环境准备** - **代码库克隆**：根据引用[1]，需从官方仓库获取代码： ```bash git clone https://gitcode.com/gh_mirrors/gl/GLM-4.git ``` - **依赖安装**：安装语音处理相关库（如`torchaudio`、`librosa`）及项目要求的依赖项[^1]。 #### 2. **数据准备** - **数据集要求**：需包含以下内容： - 语音文件（如WAV格式） - 对应文本标注（含情感、语调、语速等元数据） - **数据预处理**： - 格式统一化（采样率16kHz，单声道） - 提取Mel频谱图作为特征输入 - 文本标注需转换为模型可识别的结构化格式（如JSON） #### 3. **模型配置** - **加载预训练模型**： ```python from glm4_voice import GLM4Voice model = GLM4Voice.from_pretrained("THUDM/glm-4-voice-9b") ``` - **参数冻结**：根据引用[4]的优化思路，建议冻结底层编码器，仅微调顶层模块： ```python for param in model.encoder.parameters(): param.requires_grad = False ``` #### 4. **训练参数设置** ```python training_args = { "learning_rate": 1e-5, "batch_size": 8, "num_train_epochs": 10, "gradient_accumulation_steps": 4, "warmup_ratio": 0.1 } ``` #### 5. **微调执行** ```python trainer = VoiceFineTuner( model=model, train_dataset=voice_dataset, args=training_args ) trainer.train() ``` #### 6. **效果验证** - **定量评估**：使用语音识别准确率（WER）、情感分类准确率等指标 - **人工测试**：通过交互式对话测试响应自然度和指令遵循能力[^3]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值