Unsloth：仅需7GB显存就能训练自己的DeepSeek-R1！

于 2025-04-08 15:15:22 发布
阅读量1k 收藏 6
点赞数 12
文章标签： 人工智能 大数据 LLM RAG agent 知识库 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/AAI666666/article/details/147069226
版权

随着 LLM 应用的广泛普及，如何提高模型的推理效率并降低资源消耗成为了技术发展中的一大挑战。Unsloth 通过引入多个强化学习（RL）算法和最新的量化技术，显著提高了 LLM 在推理和微调过程中的性能，并大幅降低了显存消耗。

图片

DeepSeek 的研究人员在用纯强化学习（RL）训练 R1-Zero 时观察到了一个“灵光一现”的时刻。模型学会了通过重新评估最初的思路来延长思考时间，而无需任何人工指导或预定义指令。

Unsloth 对整个 GRPO 过程进行了增强，使其比 Hugging Face + FA2 减少了 80% 的显存使用。这意味着我们可以使用 7GB 显存，通过Qwen2.5（1.5B）复现了 R1-Zero “灵光一现”的时刻。

💡 主要细节  

使用15GB显存，Unsloth 允许我们将任何最多 15B 参数的模型（如Llama 3.1（8B）、Phi-4（14B）、Mistral（7B）或 Qwen2.5（7B））转变为推理模型。

最低要求：仅需 7GB 显存即可在本地训练自己的推理模型。
 

Tiny-Zero 的团队展示了如何用 Qwen2.5（1.5B）复现 R1-Zero “灵光一现”的时刻——但之前需要2个A100 GPU（160GB显存）。而现在，通过 Unsloth，我们只需一个 7GB 显存的 GPU 即可实现同样的效果。

请注意，这不是对 DeepSeek 的 R1 精炼模型进行微调，也不是使用 R1 的精炼数据进行微调，而是通过 GRPO 将标准模型转换为一个完整的推理模型。

这种魔法可以通过 GRPO 重新创建，GRPO 是一种强化学习（RL）算法，能够高效优化响应，而不需要值函数，这与依赖值函数的近端策略优化（PPO）不同。在我们的笔记本中，我们使用 GRPO 训练一个模型，旨在使其自主开发自我验证和搜索能力——创造一个迷你“灵光一现”时刻。

工作原理：

  1. 模型生成一组响应。

  2. 每个响应根据正确性或由某个奖励函数创建的其他度量标准进行评分，而不是使用 LLM 奖励模型。

  3. 计算该组的平均得分。

  4. 将每个响应的得分与该组平均得分进行比较。

  5. 强化模型，使其倾向于选择得分更高的响应。

例如，假设我们希望模型解决以下问题：

1+1 等于多少？ >> 思考链/推理过程 >> 答案是2。

2+2 等于多少？>> 思考链/推理过程 >> 答案是4。

最初，必须收集大量数据来填充推理过程。但 GRPO（DeepSeek 使用的算法）或其他 RL 算法可以引导模型自动展示推理能力并生成推理痕迹。相反，我们需要创建良好的奖励函数或验证器。例如，如果答案正确，就给它打 1 分；如果有拼写错误，扣 0.1 分，依此类推！我们可以提供许多奖励过程的函数。

GRPO 在 Unsloth 中的应用  

如果你在本地使用 GRPO 与 Unsloth，请确保“pip install diffusers”，因为它是一个依赖项。

等待至少 300 步才能看到奖励的实际增长，请使用最新版本的 vLLM。为了获得良好的结果，你需要训练至少 12 小时（这就是 GRPO 的工作方式），但请记住，这不是强制性的，你可以随时停止。

建议将 GRPO 应用于至少 1.5B 参数的模型，以便正确生成思考 token，因为较小的模型可能无法做到。如果你使用的是基础模型，请确保拥有聊天模板。GRPO 的训练损失追踪功能现在已直接内置于 Unsloth 中，无需像 wandb 等外部工具。

图片

除了增加 GRPO 支持外，Unsloth 随后还支持了在线 DPO、PPO 和 RLOO！请查看下图，比较 Unsloth 的在线 DPO 显存消耗与标准 Hugging Face + FA2 的差异。

图片

Unsloth x vLLM  

20 倍吞吐量，节省 50% 显存。

现在，你可以直接在微调堆栈中使用 vLLM，这大大提高了吞吐量，并且允许你在同一时间进行微调和推理！在 1x A100 40GB 显卡上，使用 Unsloth 的动态 4bit 量化的 Llama 3.2 3B Instruct，预期吞吐量约为 4000 tokens/s。在 16GB 的Tesla T4（免费 Colab GPU）上，你可以获得约 300 tokens/s 的吞吐量。

Unsloth 去除了加载 vLLM 和 Unsloth 时的双倍内存使用，从而节省了约 5GB 的显存（对于 Llama 3.1 8B）和 3GB 的显存（对于 Llama 3.2 3B）。原本，Unsloth 可以在 1x 48GB GPU 上微调 Llama 3.3 70B Instruct，其中 Llama 3.3 70B 的权重占用了 40GB 的显存。如果不去除双倍内存使用，当加载 Unsloth 和 vLLM 一起使用时，我们将需要至少 80GB 的显存。

但是使用 Unsloth，我们仍然可以在不到 48GB 显存的情况下，同时享受微调和快速推理的好处！要使用快速推理，首先安装 vllm，并通过 fast_inference 实例化 Unsloth：

# pip install unsloth vllmfrom unsloth import FastLanguageModelmodel, tokenizer = FastLanguageModel.from_pretrained(    model_name = "unsloth/Llama-3.2-3B-Instruct",    fast_inference = True,)model.fast_generate(["Hello!"])

什么是 GRPO？  

GRPO（Group Relative Policy Optimization，群体相对策略优化）是一种强化学习（RL）算法，旨在优化模型的响应质量，而不依赖传统的值函数。这种算法通过一种群体相对优化方法，对模型的每个生成的响应进行评分，并根据这些评分来引导模型的学习过程。

具体来说，GRPO 算法的主要特点如下：

  1. 无值函数：与依赖值函数的强化学习算法（如 PPO）不同，GRPO 不使用值函数来评估状态或行为的质量，而是通过对模型输出的响应进行评分，并基于这些评分来优化模型。

  2. 响应评分与群体平均：在 GRPO 中，模型生成一组可能的响应，每个响应都会根据正确性或其他预定义的奖励函数进行评分。然后，计算这些响应的平均得分，并将每个响应的得分与群体平均得分进行比较。模型会得到强化，倾向于生成得分较高的响应。

  3. 自我优化：GRPO 能够帮助模型自主地进行推理和自我验证。例如，模型可以在没有人工干预的情况下，通过不断调整思维过程来提高推理结果的准确性。

  4. 适用于多种任务：GRPO 不仅可以用于常见的分类任务，也可以应用于更复杂的任务，如生成具有自我验证和推理能力的模型（例如，解答问题时展示推理过程）。

总的来说，GRPO通过强化学习的方式，不仅优化模型的回答，还能改善其推理过程，使模型在没有人工反馈的情况下，能够不断自我改进，从而在处理复杂任务时展现出更强的推理能力。

 如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！

在这个版本当中：

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型教程已经给大家整理并打包，现在将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

​

 

LLM教程
关注
DeepSeek的AHA 时刻 使用 Unsloth（GRPO）训练自己的 R1 推理模型
段智华的博客
02-18 368
2025 年 2 月 6 日，由丹尼尔迈克尔带来的消息，迎来了名为 Unsloth 的推理新方法。DeepSeek 的 R1 研究中有一个“啊哈时刻”，R1 - Zero 通过组相对策略优化（GRPO）在没有人类反馈的情况下自主学习，分配更多的思考时间。并且，我们对整个 GRPO 过程进行了增强，使其使用的 VRAM 比Hugging Face + FA2. 少 80%，这意味着 可以使用 Qwen2.5（1.5B）在仅 7 GB 的 VRAM 上重现 R1 - Zero 的“啊哈时刻”。
微调框架Llama-factory和Unsloth：应该选择哪个？
wangjye99的博客
09-05 5339
测试表明，UNSLOTH和LLAMA-FACTORY在社区支持、模型种类和易用性上相近，但UNSLOTH在微调速度上表现突出。尽管处理的数据量是LLAMA-FACTORY的20倍，UNSLOTH的速度仍快约2.5倍，极大优化了时间成本，尤其在大规模数据处理中的效率优势显著。
关于Unsloth你知道多少？ 大模型微调/unsloth微调
最新发布
程序员鑫港的博客
02-28 2961
0%的精度损失-没有近似方法-全部精确。
基于unsloth训练与部署实践DeepSeek-R1 法律推理模型
hello.reader
02-26 1473
随着大语言模型在法律领域的应用日益深入，如何高效地微调和部署这些模型成为关键课题。本文将介绍如何使用 unsloth 框架和 LoRA 技术对 DeepSeek-R1 模型进行微调，使其具备中文法律推理能力，并展示如何在本地加载训练后的模型进行交互式推理。所有代码均经过优化，确保内存效率和易用性。
DeepSeek R1模型的本地部署教程（非常详细）DeepSeek本地部署教程，收藏这一篇就够了！
资深程序员，曾自学JAVA，C#，如今从业于网安行业
02-25 1462
2025年新春，科技界迎来了一则重磅消息：DeepSeek开源发布了R1版本。尽管这是一个经过蒸馏的“小模型”（相较于大模型的参数量和训练算力需求），但其表现却能与OpenAI-O1-min相媲美。大模型的功能强大，但是高昂的部署和应用门槛依旧让普通人望而却步，如今的DeepSeek R1模型的各种蒸馏版本可以说真正让大模型“飞入寻常百姓家”了。那么，为什么要尝试本地部署开源大模型，比如DeepSeek呢？因为使用本地模型具有诸多优势：所有数据处理都在本地运行，无需上传至云端，保障隐私数据安全。
谁说消费级硬件不能玩 DeepSeek - R1 微调？手把手教你进阶AI玩家
硅基创想家的博客
02-18 1351
微调像DeepSeek - R1这样的大规模人工智能模型可能需要大量资源，但借助正确的工具，在消费级硬件上进行高效训练是可行的。让我们来探索如何使用LoRA（低秩自适应）和Unsloth来优化DeepSeek - R1的微调，实现更快、更具成本效益的训练。🚀🔧💡。
【完整版】DeepSeek-R1大模型学习笔记（架构、训练、Infra、复现代码）
我的技术栈碎碎念空间
02-04 7753
MoE在每次推理时选择性地激活部分模型参数，在不成比例增加计算成本的情况下，可以扩展模型参数。在DeepSeek-V2中就提出了用于FFN层的DeepSeekMoE，DeepSeek-R1在DeepSeek-V2基础上进一步优化。
Ubuntu部署Deepseek-R1模型（8b）
当下可为，未来可期!
02-05 1649
随便配置个账号密码，邮箱和密码后面是需要用来登录使用的，然后点击创建管理员账号。依然是在ollama的官网上，选择"Models"，选择deepseek。open-webui是一个UI页面，支持ollama等多种工具的可视化。8B的模型大概4.9G，复制指令黏贴到命令行里，就可以自动开始下载了。我的电脑是INVIDIA显卡，点击进来可以看得到各个版本的信息。通过以上两条指令，完成了curl命令的安装。ollama的下载速度很快，安装也很快。1.5B的模型大概1.1G，我这里已经安装完毕，查看版本。
Mac m1 本地运行 deepseek-r1-distill-qwen-1.5B
za96421955的博客
01-26 7752
本地运行 deepseek-r1-distill-qwen-1.5B；安装Homebrew；安装python；安装依赖；安装编译环境；内存优化；模型示例；在本地使用 DeepSeek-R1-Distill 模型；- 最低配置（CPU 推理）： - CPU：4 核以上（推荐 Intel i5/i7 或 AMD Ryzen 5/7） - 内存：16GB+（模型越小需求越低） - 存储：20GB+ 可用空间（用于模型文件和依赖）
AI大模型部署方案：DeepSeek-R1高性能部署实践与KTransformers应用
02-21
文章首先概述了DeepSeek R1高性能部署的重要性，并提及了几种降低成本的方法，包括但不限于使用“强推理、若训练”配置、模型蒸馏、KTransformers技术和Unsloth动态量化技术。文中详细阐述了KTransformers的引入背景...
Unsloth
02-17 1301
Unsloth是一个专注于优化大型语言模型（LLM）训练和微调效率的开源工具，旨在通过算法创新显著降低显存占用、提升训练速度，同时保持模型精度无损。其核心技术包括动态量化、梯度检查点优化、基于 Triton 的高效内核重写，以及与 LoRA/QLoRA 等参数高效微调技术的深度集成。Unsloth 支持主流模型（如 Llama、Mistral、Phi-3），使个人开发者和小团队能在有限硬件资源（如 8GB 显存显卡）上完成大模型微调任务。
Unsloth 大模型微调工具简明教程
新缸中之脑
10-07 1万+
Unsloth使 Llama-3、Mistral、Phi-3 和 Gemma 等 LLM 的微调速度提高 2 倍，内存使用量减少 70%，并且准确度不会降低！我们将在本教程中使用提供免费 GPU 的 Google Colab。（我们将使用的笔记本）CSV/Excel Ollama 指南你还需要登录 Google 帐户！Ollama 可让你快速简单地从自己的计算机运行语言模型！它会悄悄启动一个程序，该程序可以在后台运行 Llama-3 等语言模型。
探索创新代码库：Unsloth - 提升你的生产力工具箱
gitblog_00096的博客
03-21 1546
探索创新代码库：Unsloth - 提升你的生产力工具箱 unsloth5X faster 60% less memory QLoRA finetuning项目地址:https://gitcode.com/gh_mirrors/un/unsloth 在编程世界中，效率是关键。为了提升开发者的工作流和生产力， 是一个值得你关注的项目。Unsloth 是一款轻量级、可扩展的任务管理工具，专为程序员设...
大语言模型微调框架Unsloth：简化模型微调流程，提升模型性能
东南草堂
08-15 934
Unsloth 将 Llama-3、Mistral、Phi-3 和 Gemma 等大型语言模型的微调速度提高了 2 倍，内存使用量减少了 70%，而且准确性不会降低！
LLMs之unsloth：unsloth的简介、安装和使用方法、案例应用之详细攻略
热门推荐
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
05-08 2万+
​ LLMs之unsloth：unsloth的简介、安装和使用方法、案例应用之详细攻略 目录 unsloth的简介 unsloth的安装和使用方法 unsloth的案例应用 unsloth的简介 unsloth微调Llama 3, Mistral和Gemma速度快2-5倍，内存减少80% !unsloth是一个开源项目，它可以比HuggingFace快2-5倍地微调Llama 3、Mistral和Gemma语言模型，同时内存消耗减少80%。
【AI时代】使用unsloth对deepseek-r1-1.5b进行微调
浩瀚宇宙的一粒尘埃
02-21 3351
本文主要是基于开源的COT数据集，验证deepseek-r1的微调可行性，使用的是unsloth框架，unsloth目前不支持多卡并行训练，只适合简单的测试和验证，如果需要多卡训练，可以试试LLaMA-Factory和ColossAI。
Unsloth - 大模型微调
AI工程化、开源分享、文档翻译、代码笔记
07-13 2665
一、关于 Unsloth 二、安装说明 💾 1、使用 Conda 2、使用 Pip安装 三、文档📜 四、DPO支持
使用unsloth微调deepseek-r1-8B模型，给出完整代码
02-23
<think>好的，用户想要使用unsloth来微调deepseek-r1-8B模型，并希望得到完整的代码。首先，我需要确认unsloth是否支持这个模型。unsloth主要用于优化微调过程，比如减少内存占用和加快训练速度，通常与Hugging Face的transformers库结合使用。deepseek-r1-8B可能是一个基于类似LLaMA架构的模型，所以可能需要检查是否支持。 接下来，用户可能需要代码示例，包括数据准备、模型加载、训练配置、训练过程和保存模型。需要确保步骤完整，例如安装必要的库，加载数据集，使用正确的模型名称，设置训练参数如batch size、learning rate等，以及处理可能的内存问题，比如使用4位量化。 另外，用户可能对数据格式有疑问，所以需要提供一个示例数据集的结构，比如alpaca格式。还要注意可能出现的错误，比如OOM（内存不足），这时候可能需要调整batch size或者使用梯度累积。 需要提醒用户替换数据集路径，并根据硬件调整参数，比如device_map和dtype设置。最后，保存模型并演示如何加载使用，确保代码的可运行性。 可能还需要验证代码的准确性，比如检查unsloth的最新文档，确认支持的模型类型，以及是否有额外的参数需要注意。同时，确保训练器的设置正确，比如使用Seq2SeqTrainer，因为可能是生成任务。 总结：步骤包括安装库、准备数据、加载模型和分词器、配置训练参数、训练、保存模型。需要注意模型兼容性、硬件限制和参数调整，确保用户能顺利运行代码。</think>以下是一个使用Unsloth微调DeepSeek-R1-8B模型的完整代码示例。请注意根据您的硬件调整参数（如batch_size、gradient_accumulation_steps等）： ```python # 首先安装必要库（建议使用Python 3.10+） # pip install "unsloth[colab] @ git+https://github.com/unslothai/unsloth.git" # pip install --no-deps "xformers<0.26.0" trl peft accelerate datasets bitsandbytes import torch from unsloth import FastLanguageModel from datasets import load_dataset from trl import SFTTrainer from transformers import TrainingArguments # 参数配置 max_seq_length = 2048 # 根据GPU内存调整 dtype = None # None自动检测，或指定为torch.float16/torch.bfloat16 load_in_4bit = True # 使用4位量化节省内存 # 加载DeepSeek-R1-8B模型 model, tokenizer = FastLanguageModel.from_pretrained( model_name = "deepseek-ai/deepseek-llm-7b-r1", # 确认HuggingFace模型名称 max_seq_length = max_seq_length, dtype = dtype, load_in_4bit = load_in_4bit, ) # 添加LoRA适配器（可选） model = FastLanguageModel.get_peft_model( model, r=16, # LoRA秩 target_modules=["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj"], # 常见目标模块 lora_alpha=16, lora_dropout=0, bias="none", use_gradient_checkpointing=True, ) # 准备数据集（示例使用Alpaca格式） dataset = load_dataset("yahma/alpaca-cleaned", split="train") dataset = dataset.map(lambda sample: { "text": f"""Below is an instruction that describes a task. Write a response that appropriately completes the request. ### Instruction: {sample['instruction']} ### Input: {sample['input']} ### Response: {sample['output']}""" }) # 训练参数配置 trainer = SFTTrainer( model = model, tokenizer = tokenizer, train_dataset = dataset, dataset_text_field = "text", max_seq_length = max_seq_length, dataset_num_proc = 2, packing = True, # 序列打包提高效率 args = TrainingArguments( per_device_train_batch_size = 2, gradient_accumulation_steps = 4, warmup_steps = 5, num_train_epochs = 3, learning_rate = 2e-5, fp16 = not torch.cuda.is_bf16_supported(), bf16 = torch.cuda.is_bf16_supported(), logging_steps = 1, optim = "adamw_8bit", weight_decay = 0.01, lr_scheduler_type = "linear", seed = 3407, output_dir = "outputs", save_strategy="steps", save_steps=500, ), ) # 执行训练 trainer.train() # 保存微调后的模型 model.save_pretrained("lora_adapter") # 保存LoRA适配器 # model.push_to_hub("your_username/model_name") # 可选：上传到HuggingFace Hub # 使用微调后的模型生成文本 inputs = tokenizer( ["### Instruction:\nExplain deep learning in 3 sentences\n\n### Response:"], return_tensors="pt" ).to("cuda") outputs = model.generate(**inputs, max_new_tokens=128) print(tokenizer.decode(outputs[0], skip_special_tokens=True)) ``` 注意事项： 1. 硬件要求：至少需要24GB显存（建议A100/A6000等） 2. 数据集：示例使用Alpaca格式，请替换为您的实际数据集 3. 模型名称：请确认HuggingFace上的准确模型名称 4. 内存优化：如遇OOM错误，可以尝试： - 降低`per_device_train_batch_size` - 增加`gradient_accumulation_steps` - 使用`load_in_4bit=True` - 减小`max_seq_length` 建议在微调前： 1. 检查CUDA可用性：`print(torch.cuda.is_available())` 2. 验证模型加载：`print(model)` 3. 测试基本推理：先运行生成代码确保基础模型正常工作 如需完整生产级实现，建议参考： - Unsloth官方文档：https://github.com/unslothai/unsloth - DeepSeek官方微调指南：https://huggingface.co/deepseek-ai
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值