记录一下使用lora微调codellama遇到的问题

最新推荐文章于 2025-04-26 15:01:45 发布
原创 最新推荐文章于 2025-04-26 15:01:45 发布 · 608 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#迁移学习 #自然语言处理

本文描述了在使用AutoModelForCausalLM时遇到的RuntimeError，原因是模型参数未完全下载。作者提到需确保下载HuggingFace模型时包含所有内容，特别是对于Char类型的处理，转而使用LlamaForCausalLM并强调了安全tensor在下载过程中的重要性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

### 问题1

RuntimeError: "normal_kernel_cpu" not implemented for 'Char'.

使用AutoModelForCausalLM加载模型会报错，改使用LlamaForCausalLM模型告知是因为模型参数没有下载完全导致的错误。在huggingface上下载模型文件的时候需要把红色框中内容全部下载。我使用的是safetensors

古惑兔丶
关注
基于LoRA对codeLLama-34B全量微调实战
andy20160103的博客
04-30 1212
微调的含义，就是把已经训练好的模型拿来，给它吃特定的下游任务数据，使得模型在预训练权重上继续训练，直至满足下游任务性能标准。全量微调指的是，在下游任务的训练中，对预训练模型的每一个参数都做更新。例如图中，给出了Transformer的Q/K/V矩阵的全量微调示例，对每个矩阵来说，在微调时，其d*d个参数，都必须参与更新。
论文翻译：Adapting Large Language Models for Education: Foundational Capabilities, Potentials, and Challe
CSPhD-winston的博客
08-01 638
在线教育平台利用互联网分发教育资源，旨在提供便捷的教育，但通常在与学生的实时交流中表现不足。它们往往难以解决学生在学习过程中遇到的多样化障碍。解决学生遇到的问题对于传统的深度学习模型来说是一个重大挑战，因为这不仅需要广泛的学科知识，还需要理解构成学生个体困难的因素。这对传统机器学习模型来说具有挑战性，因为它们缺乏理解学生个性化需求的能力。最近，大型语言模型（LLMs）的出现提供了解决这一问题的可能性，通过理解个体请求。
在stable diffusion中遇到以下问题应该如何解决“当前加载的模型是一个LORA，而不是一个稳定扩散检查点。RuntimeError:”
m0_57448314的博客
03-27 2349
如果上述步骤都不能解决您的问题，您可能需要更详细地描述您的代码和错误信息，以便于他人提供更具体的帮助。在描述问题时，请确保提供足够的细节，包括错误消息的完整内容、您使用的代码片段、以及您已经尝试过的解决方法。这可能意味着您尝试使用的模型或权重与您的代码或任务不兼容。如果您是从预训练模型开始，请确保您下载的是稳定扩散模型的权重，而不是其他类型的模型权重。检查您的代码中加载模型的部分，确保您使用了正确的类和方法来加载稳定扩散模型。确认您加载的模型文件确实是稳定扩散模型，而不是LORA模型。
大模型微调踩坑记录 - 基于Alpaca-LLaMa+Lora
热门推荐
anycall201的博客
04-11 1万+
大模型微调训练时，遇到icetk、bitsandbytes报错的解决方案
使用LoRA对Llama3微调
Harry的博客
08-18 4064
使用LoRA（Low-Rank Adaptation of Large Language Models）技术对Llama-3语言模型进行微调。
微调 Code Llama 完整指南
FrenzyTechAI的博客
10-13 6417
今天这篇文章将向大家详细介绍如何对Code Llama进行微调，让它变成适合 SQL 开发的有利工具。对于编程开发任务，经过适当微调后的 Code Llama 的性能通常都会比普通的 Llama 强很多，特别是当我们针对具体任务进行优化时:使用这个文本查询及其对应的SQL查询集合进行训练使用Lora方法，将基础模型的权重量化为int8，冻结权重，仅对适配器进行训练本文大多参考了项目，同时也进行了一定的改进与优化通过上述几点方法，相信我们能使Code Llama专注于SQL开发领域，获得更好的效果。
怎么训练一个ug二次开发的垂直大模型
02-21
- 微调技术：LoRA（低秩适配，节省显存）、QLoRA（量化微调）。 --- ### **4. 模型评估与优化** - **评估指标**： - **代码正确性**：能否通过NX软件编译/运行。 - **功能匹配度**：生成代码是否满足自然语言...
AIGC时代的网络威胁和防御
qq128252的博客
10-31 1337
本文讨论了 AIGC 时代的网络攻击和防御，以及利用大型语言模型打造先进的交互式蜜罐系统。 关键要点包括： - 生成式 AI 成为网络威胁新宠：探讨了其在网络攻击中的滥用，如被网络犯罪分子利用生成和自动化攻击。 - 攻击方法多样：包括 Character Play、Switch Method、OccupyAI 等多种攻击方式。 - 研究结论与应对策略：发现生成式 AI 降低攻击门槛，增加攻击复杂度，提出加强网络安全框架等应对策略。 - 利用 LLM 打造蜜罐系统：介绍了利用 LLM 创建更高效蜜罐系统的研究
AI原生应用开发指南：思维框架+技术栈+最佳实践
最新发布
AI智能涌现深度研究
04-26 783
随着GPT-4、Claude 3等大模型的普及，软件行业正经历“AI原生”革命——传统应用中“功能模块+规则逻辑”的架构，正在被“模型驱动+数据飞轮”的新范式取代。什么是AI原生应用？（与传统应用的本质区别）如何设计AI原生的思维框架？（数据驱动、模型迭代等核心逻辑）需要哪些技术栈支撑？（从数据处理到模型部署的全链路工具）有哪些工程实践经验？（数据治理、成本优化、监控调优等）核心概念：用“智能客服升级”的故事引出AI原生的核心要素；技术栈拆解：分数据、模型、工程三大模块讲解工具链；
计算机前沿技术-人工智能算法-大语言模型-最新论文阅读-2024-09-23
09-23 1539
计算机前沿技术，人工智能技术，大语言模型， LLM，软件安全，Prompt, 最新进展， 论文阅读
randn数据时报错：”RuntimeError: “normal_kernel_cpu“ not implemented for ‘Long‘“
Mamdanni的博客
03-01 2582
将 torch.normal(mean=torch.full([10],0),std=torch.arange(1,0,-0.1)) 中的“0”之后添加一个“.” 即 torch.normal(mean=torch.full([10],0.),std=torch.arange(1,0,-0.1)) 已解决。
DEBUG:RuntimeError: “normal_kernel_cpu“ not implemented for ‘Long‘
weixin_45808526的博客
07-29 3081
报错RuntimeError: “normal_kernel_cpu” not implemented for ‘Long’ torch.normal(mean=torch.full([10],0),std=torch.arange(1,0,-0.1)) 改为 torch.normal(mean=torch.full([10],0.),std=torch.arange(1,0,-0.1))
“normal_kernel_cpu“ not implemented for ‘Long‘
Loss
05-21 1899
m=torch.normal(mean=torch.full([10],0),std=torch.arange(1,0,-0.1)) 使用normal报错，mean参数0后应添加. m=torch.normal(mean=torch.full([10],0.),std=torch.arange(1,0,-0.1)) print(m) tensor([-0.0408, -0.8938, -0.0634, -0.5792, 0.1088, -0.2955, 0.0117, -0.0426, 0.0817
normal_kernel_cpu“ not implemented for ‘Long‘
YUwoshijiantian的博客
03-25 5984
normal_kernel_cpu" not implemented for ‘Long’ 运行torch.normal时报错 应该是版本问题 修改后： 在0后面加个 .
解决：RuntimeError: “slow_conv2d_cpu“ not implemented for ‘Half‘的方法之一
小白
06-11 1123
感觉有点莫名奇妙，经检索，发现将fp16改为fp32可以解决我的问题，但是运行速度太慢了。后来发现，是系统内核自动升级，导致显卡驱动与内核驱动不匹配。验证是否是该问题，可在命令行输入nvidia-smi即是内核版本自动升级导致的（是不是也有可能是显卡驱动升级的问题）。
【细说fine-tuning】LoRA：低秩自适应策略（附官方代码与教程）
qq_43456016的博客
04-27 7883
目前诸如GPT、Llama等大型AI模型通常具有非常大的参数量，要想将其迁移到具体的下游场景任务中，利用重头训练的全局微调变得十分昂贵，对于普通研究者明显不现实，为此Microsoft提出了一种低消耗的大模型微调方法—LoRA（Low-Rank Adaptation）。$LoRA$基于适配器的思想，通过调整学习外部模块来对下游特定任务进行知识泛化，并通过可学习的秩分解矩阵设计降低模型微调与存储的开销问题。
Stable diffusion 训练lora出现报错
2303_79001442的博客
07-05 3451
二：报错 ConnectionError:（‘Connection aborted.',ConnectionResetError(10054,‘远程主机强迫关闭了一个现有的连接。出现这样的问题有可能是因为V2.0版本不允许设置 LoRA文本编码器和Unet的LR不同，我的解决方式是换一个优化器。下载预训练的基础模型到本地，复制模型的地址到红色框内并把黄色框里的文件改为版本相应的。这个应该是项目的BUG，现在的版本还没修复，但是可以绕过它。今天使用kohya_ss训练lora时出现三个报错，下面是解决办法。
Kohya_ss Lora训练报错（RuntimeError、raise subprocess.CalledProcessError）
qq_42532602的博客
11-17 1181
Kohya_ss Lora训练报错：raise subprocess.CalledProcessError(returncode=process.returncode, cmd=cmd) RuntimeError: Setting different lr values in different parameter groups is only supported for values of 0
ollma使用lora微调
04-18
<think>好的，用户现在想了解如何使用LoRA对Ollama进行微调。首先，我需要回顾之前的对话，确保回答的一致性和连贯性。在之前的回答中，已经提到了Ollama的模型微调工具，包括LoRA适配器和PEFT库，但没有详细步骤。现在用户明确要求具体的使用方法，所以需要展开说明。 用户提供的引用内容中，引用[1]解释了LoRA的基本概念和使用场景，而引用[2]给出了具体的代码示例，包括如何加载模型、合并并保存。我需要将这些信息整合到回答中，同时结合Ollama的特点，比如容器化部署和vLLM推理库。 首先，需要确定用户的技术背景。用户可能有一定的开发经验，但对LoRA微调可能不太熟悉，因此需要分步骤说明，确保清晰易懂。步骤可能包括环境准备、数据准备、配置参数、微调执行、模型合并与部署等。 接下来，要考虑Ollama的具体实现。由于Ollama使用容器化技术，可能需要指导用户如何在Docker环境中配置微调所需的依赖，比如安装PEFT库和Transformers。此外，需要提到如何挂载模型目录，以便在容器内访问基座模型和保存微调后的LoRA适配器。 用户可能遇到的问题包括环境配置错误、模型路径设置不正确、参数调整不当等。因此，在注意事项中需要强调检查依赖、路径正确性以及量化策略的选择，尤其是在CPU和GPU环境下的不同处理方式。 另外，用户可能关心微调后的模型如何部署到Ollama中，这里需要提供合并LoRA与基座模型的代码示例，并说明如何转换为Ollama支持的格式（如GGUF），以及更新模型仓库的步骤。 还要考虑引用文献的正确标注，确保每个引用的内容在回答中有对应的标识，比如环境配置部分引用[^2]，数据准备部分引用[^1]。同时，避免直接复制引用内容，而是将其融入步骤说明中，保持自然。 最后，生成的相关问题需要与用户可能遇到的后续问题相关，例如如何评估微调效果、处理显存不足、部署到生产环境等，这有助于用户进一步探索解决方案。 总结来说，回答需要结构清晰，分步骤指导，结合代码示例和实际部署步骤，同时涵盖常见问题及优化建议，确保用户能够顺利实施LoRA微调并集成到Ollama中。</think>以下是使用LoRA微调Ollama模型的完整技术指南，结合容器化部署与开源工具链实现本地化操作： ### 一、环境准备阶段 1. **容器环境配置**（基于引用[^2]） ```dockerfile # docker-compose.yml services: ollama-lora: image: ollama/ollama:latest volumes: - ./lora_models:/root/.ollama/models # LoRA模型存储目录 - ./finetune_data:/data # 微调数据集 environment: - HF_HOME=/root/.cache/huggingface ``` 2. **安装核心依赖** ```bash docker exec -it ollama-lora bash pip install peft transformers datasets torch # 安装PEFT微调库 ``` ### 二、数据准备规范 1. **数据集格式要求**（参考引用[^1]） ```json { "instructions": "解释量子比特概念", "input": "", "output": "量子比特是量子计算的基本单元..." } ``` - 建议使用`datasets`库加载数据 ```python from datasets import load_dataset dataset = load_dataset("json", data_files="/data/train.json") ``` ### 三、LoRA微调配置 1. **参数配置文件**`lora_config.yaml` ```yaml lora_rank: 8 # 低秩矩阵维度 lora_alpha: 32 # 缩放系数 target_modules: ["q_proj", "v_proj"] # 作用层[^1] bias: "none" # 偏置项设置 task_type: "CAUSAL_LM" # 任务类型 ``` ### 四、执行微调过程 1. **Python微调脚本**（基于引用[^2]） ```python from peft import LoraConfig, get_peft_model from transformers import AutoModelForCausalLM, TrainingArguments # 加载基座模型 model = AutoModelForCausalLM.from_pretrained("deepseek-ai/llama-7b-hf") # 注入LoRA结构 peft_config = LoraConfig(**yaml.safe_load(open("lora_config.yaml"))) model = get_peft_model(model, peft_config) # 配置训练参数 training_args = TrainingArguments( output_dir="./lora_output", per_device_train_batch_size=4, gradient_accumulation_steps=2, learning_rate=3e-4, num_train_epochs=3 ) ``` ### 五、模型合并与部署 1. **合并基座模型与LoRA适配器** ```python from peft import PeftModel # 加载训练后的LoRA权重 model = PeftModel.from_pretrained( model, "./lora_output/adapter_model", device_map="auto" ) # 合并为完整模型[^2] merged_model = model.merge_and_unload() merged_model.save_pretrained("/root/.ollama/models/deepseek-lora") ``` 2. **生成Ollama模型清单文件** ```bash ollama create deepseek-lora -f ./Modelfile # Modelfile内容 FROM deepseek-7b ADAPTER lora/deepseek-lora.safetensors ``` ### 六、验证与调用 ```python import openai openai.api_base = "http://localhost:11434/v1" response = openai.ChatCompletion.create( model="deepseek-lora", messages=[{"role": "user", "content": "量子计算的优势是什么?"}] ) ``` ### 关键注意事项 1. **显存优化**：通过`--device_map "auto"`自动分配计算设备[^2] 2. **量化支持**：使用`bitsandbytes`库实现8bit/4bit量化 ```python model = AutoModelForCausalLM.from_pretrained( "deepseek-ai/llama-7b-hf", load_in_4bit=True # 启用4bit量化 ) ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值