Day 5：模型微调全流程实战

最新推荐文章于 2025-06-09 11:32:55 发布
最新推荐文章于 2025-06-09 11:32:55 发布
阅读量463 收藏 6
点赞数 5
CC 4.0 BY-SA版权
分类专栏： DeepSeek 文章标签： python ai DeepSeek
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_43220867/article/details/145563075

目标：掌握领域大模型定制技术，实现垂直领域模型的高效微调与部署

一、微调策略决策树

1.1 微调必要性评估

决策流程图：

graph TD  
    A{新领域任务} -->|专业术语>20%| B[需要微调]  
    A -->|通用场景| C[Prompt工程优先]  
    B --> D{数据量}  
    D -->|>10万条| E[全参数微调]  
    D -->|1万-10万条| F[LoRA/P-tuning]  
    D -->|<1万条| G[冻结+适配器]  
 

评估指标矩阵：
 

 
  
  
 
   场景 
   推荐方案 
   硬件需求 
   效果增益预期 
  
 
  
  
  
 
   法律合同解析 
   LoRA+领域预训练 
   2*A100 40G 
   +42% F1 
  
 
  
 
   医疗诊断支持 
   全参数微调 
   8*A100 80G 
   +58%准确率 
  
 
  
 
   金融舆情分析 
   P-tuning v2 
   1*A10G 
   +35% Recall 
  
 
  

 

 

二、高效微调核心技术
 

2.1 LoRA技术详解
 

参数高效微调原理

                

        

    

    
  


        

            

                      
                        最低0.47元/天 解锁文章
                        

                          
200万优质内容无限畅学

                          
                        

                      
            

        


    



                



	

		

			

				
					
多模态大模型：技术原理与实战 全球多模态大模型介绍

				
			

			

				

					AI天才研究院
				

				

					06-11
					
					2396
					
				

			

		

		

			
				
关键词：多模态大模型、深度学习、计算机视觉、自然语言处理、跨模态学习、迁移学习、人工智能随着人工智能技术的飞速发展，多模态大模型已经成为了当前AI领域最热门的研究方向之一。多模态大模型能够同时处理和理解多种类型的数据，如文本、图像、音频和视频等，这为AI系统在复杂场景下的应用提供了更加强大和灵活的能力。本文将深入探讨多模态大模型的技术原理，介绍其实战应用，并对全球主要的多模态大模型进行全面的介绍和比较。

			
		

	



                

            
              



	

		

			

				
					
大模型实战营Day4 XTuner 大模型单卡低成本微调实战

				
			

			

				

					m0_72806612的博客
				

				

					01-13
					
					610
					
				

			

		

		

			
				
同第三节的建立数据库中所提及到的，如果通用大模型在专用领域表现能力不强，如何改进——第三者在显存和GPU之间进行了一个整合，如果GPU满会到显存里面跑，速度会慢一些。LoRA的原理是在线性层平行增加一个两个小层的分支，因而能够减少训练的耗费。构建角色和对话模板，这项工作由Xtuner做过了，可以借此一键完成。欢迎关注无神，一起学大模型和AI方面的前沿知识！建立知识库或者微调，本节课进行的则是微调。其能支持的模型的硬件资源比较广泛。

			
		

	



              


  
              

                


	

		

			

				
					
一文详解大模型微调全流程

				
			

			

				

					2201_75499313的博客
				

				

					06-10
					
					1748
					
				

			

		

		

			
				
节前，我们星球组织了一场算法岗技术&面试讨论会，邀请了一些互联网大厂朋友、参加社招和校招面试的同学.针对算法岗技术趋势、大模型落地项目经验分享、新手如何入门算法岗、该如何准备、面试常考点分享等热门话题进行了深入的讨论。

			
		

	





	

		

			

				
					
【QA必看】大模型微调原理及PyTorch操作流程

				
			

			

				

					longxiaotian718的博客
				

				

					09-27
					
					1290
					
				

			

		

		

			
				
根据任务类型选择合适的损失函数（如交叉熵损失）和优化器（如SGD、Adam）。由于我们可能只微调部分参数，因此优化器应仅包含这些参数的引用。

			
		

	



		

			
		



	

		

			

				
					
大模型微调基本概念指北（非常详细)，零基础入门到精通，收藏这篇就够了

					
最新发布

				
			

			

				

					leah126的博客
				

				

					06-09
					
					606
					
				

			

		

		

			
				
大模型微调，通常指有监督微调（Supervised Fine-Tuning, SFT），是在预训练模型（一般称为“基座模型”）的基础上进行的训练过程。预训练模型通常已经掌握了广泛的语言知识和语义表示，但为了让模型在特定任务或领域上表现得更好，我们会在特定任务的数据集上对其进行微调。1）Language Model，LM：一个预训练语言模型 LM，对基础模型微调得到一个微调后的模型使用人工标注的数据对预训练模型进行监督微调，以获得初始版本的生成模型。2）

			
		

	





	

		

			

				
					
【2024最新】深入了解 大语言模型（LLM）微调方法（总结）

				
			

			

				

					m0_48891301的博客
				

				

					05-06
					
					3485
					
				

			

		

		

			
				
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。即更新模型所有权重的过程，被称为全微调。需要注意的是，与预训练一样，全微调需要足够的内存和计算预算来存储和处理训练过程中的所有梯度、优化器和其他更新组件。其中，大模型微调技术在此过程中起到了非常关键的作用，它提升了模型的生成效率和适应性，使其能够在多样化的应用场景中发挥更大的价值。

			
		

	





	

		

			

				
					
大模型微调基本概念（一）大模型训练流程，零基础入门到精通！

				
			

			

				

					Androiddddd的博客
				

				

					09-25
					
					962
					
				

			

		

		

			
				
本系列主要分享一下大模型微调相关的基本概念，包括大模型(GPT)训练流程、微调(SFT)方法&分类&框架&最佳实践、强化学习(RLHF)，最后则是分享了如何训练垂直领域大模型。

			
		

	





	

		

			

				
					
大模型微调七步法：让模型更懂你

				
			

			

				

					xiangxueerfei的博客
				

				

					06-14
					
					1298
					
				

			

		

		

			
				
在开始实际训练之前，我们需要定义一个函数来评估微调后的模型。

			
		

	





	

		

			

				
					
一文掌握大模型数据准备、模型微调、部署使用全流程

					
热门推荐

				
			

			

				

					刘炫320的博客
				

				

					04-27
					
					1万+
					
				

			

		

		

			
				
距离ChatGPT已经发布1年半了，距离我们训练出自己的大模型也已经1周年了。目前仍然有很多同学在咨询如何训练自己的大模型。这个东西和男/女朋友一样。当你不认识TA，距离TA很远，不敢接触TA的时候，TA就是很神秘，也很难接触。但是一旦当你愈发了解TA的时候，你就知道其实上手也很容易。之前我已经撰写了一个简单的训练大模型的代码，用于阐述大模型训练其实和原来的训练没什么两样。但是随着大模型深入到了每一个研究者的

			
		

	





	

		

			

				
					
【课程总结】day25：大模型应用开发之Prompt初步了解

				
			

			

				

					Deadwalk的专栏
				

				

					08-21
					
					985
					
				

			

		

		

			
				
在上一章，我们主要了解了什么是LangChain以及基本的部署方式，本章将结合LangChain框架，了解大模型的应用方式：即Prompt。

			
		

	





	

		

			

				
					
轻量化大模型微调工具XTuner指令微调实战（上篇）

				
			

			

				

					沐雪架构师
				

				

					04-03
					
					993
					
				

			

		

		

			
				
XTuner 是由上海 AI 实验室的 InternLM 团队推出的一款轻量化大模型微调工具库，支持大语言模型和多模态图文模型的预训练及轻量级微调。

			
		

	





	

		

			

				
					
一文全面盘点算法工程师大模型微调技能图谱

				
			

			

				

					zenRRan的博客
				

				

					04-15
					
					572
					
				

			

		

		

			
				
随着大模型的飞速发展，在短短一年间就有了大幅度的技术迭代更新，从LoRA、QLoRA、AdaLoRa、ZeroQuant、Flash Attention、KTO、PPO、DPO、蒸馏技术到模型增量学习、数据处理、开源模型的理解等，几乎每天都有新的发展。我们总结了算法工程师需要掌握的大模型微调技能，并制作了大模型微调技能图谱，希望可以帮助大家将知识体系梳理清楚，为未来在大模型的工作与科研道路上节省时...

			
		

	





	

		

			

				
					
大模型微调方法总结

				
			

			

				

					2401_85343303的博客
				

				

					06-25
					
					1869
					
				

			

		

		

			
				
P-Tuning v2是一种在不同规模和任务中都可与微调相媲美的提示方法。P-Tuning v2对从330M到10B的模型显示出一致的改进，并在序列标注等困难的序列任务上以很大的 幅度超过了Prompt Tuning和P-Tuning。四 Freeze方法Freeze是冻结的意思，Freeze方法指的是参数冻结，对原始模型的大部分参数进行冻结，仅训练少部分的参数，这样就可以大大减少显存的占用，从而完成对大模型的微 调。

			
		

	





	

		

			

				
					
大模型微调方法（非常详细），收藏这一篇就够了！

				
			

			

				

					bagell的博客
				

				

					09-28
					
					2543
					
				

			

		

		

			
				
众所周知，大语言模型(LLM)正在飞速发展，各行业都有了自己的大模型。其中，大模型微调技术在此过程中起到了非常关键的作用，它提升了模型的生成效率和适应性，使其能够在多样化的应用场景中发挥更大的价值。那么，今天这篇文章就带大家深入了解大模型微调。其中主要包括什么是大模型微调、什么时候需要大模型微调、大模型微调方法总结、大模型微调最佳实践等。

			
		

	





	

		

			

				
					
大模型入门（六）—— RLHF微调大模型

				
			

			

				

					chaishen10000的专栏
				

				

					06-15
					
					6109
					
				

			

		

		

			
				
所以价值的计算如下：核心是下面的delta的计算，除了考虑到当前的时刻的奖励值，还考虑到了未来时刻的输出的奖励值nextvalues（只不过这里的奖励值是由critic网络直接输出的每个token对应的分数）。从上图可以看出，给定一个输入x，会生成两个文本y11和y22，一个来自于初始的模型，另一个来自于微调的模型，微调的模型生成的文本还会进入到奖励模型中打分输出rθ，而初始模型和微调的模型生成的结果会用KL散度约束它们的分布，确保模型不会太偏离原来的模型，并且能输出高质量的回复。

			
		

	





	

		

			

				
					
大模型参数高效微调（PEFT）技术解析及微调加速实践

				
			

			

				

					2301_76161259的博客
				

				

					06-06
					
					2460
					
				

			

		

		

			
				
本文详细介绍了几种高效微调方法的原理解析和实验效果对比，并基于Unsloth做了一些微调加速的实践尝试。实验效果显示结合优秀的低参微调方法和微调加速，完全可以做到极为高效的微调大模型，可以在极低的资源占用上得到媲美全参微调的效果。作者介绍：刘辉，58同城TEG-AILab大语言模型算法工程师，主要负责灵犀大语言模型的SFT微调工作。读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。

			
		

	





	

		

			

				
					
有浏览器就行，手把手带你从零微调大模型！

				
			

			

				

					python12345_的博客
				

				

					07-09
					
					2666
					
				

			

		

		

			
				
今天分享一篇技术文章，你可能听说过很多大模型的知识，但却从未亲自使用或微调过大模型。大模型微调本身是一件非常复杂且技术难度很高的任务，因此本篇文章仅从零开始，手把手带你走一遍微调大模型的过程，并不会涉及过多技术细节。希望通过本文，你可以了解微调大模型的流程。微调大模型需要非常高的电脑配置，比如GPU环境，相当于你在已经预训练好的基础上再对大模型进行一次小的训练。但是不用担心，本篇文章会使用阿里魔塔社区提供的集成环境来进行，无需使用你自己的电脑配置环境。

			
		

	





	

		

			

				
					
大模型微调基本概念指北，零基础入门到精通，收藏这一篇就够了

				
			

			

				

					Python_paipai的博客
				

				

					09-18
					
					1155
					
				

			

		

		

			
				
大模型微调，通常指有监督微调（Supervised Fine-Tuning, SFT），是在预训练模型（一般称为“基座模型”）的基础上进行的训练过程。预训练模型通常已经掌握了广泛的语言知识和语义表示，但为了让模型在特定任务或领域上表现得更好，我们会在特定任务的数据集上对其进行微调。1）Language Model，LM：一个预训练语言模型 LM，对基础模型微调得到一个微调后的模型使用人工标注的数据对预训练模型进行监督微调，以获得初始版本的生成模型。2）

			
		

	





	

		

			

				
					
常见的大模型微调的⑤种方案（附大模型学习路线）

				
			

			

				

					m0_71745484的博客
				

				

					08-29
					
					768
					
				

			

		

		

			
				
大模型微调是将一个预训练的大型模型调整以适应特定任务的过程，这有助于模型在特定领域或任务上表现得更好。

			
		

	





	

		

			

				
					
bert模型实战项目

				
			

			

				

					05-23
				

			

		

		

			
				
### 关于BERT模型的实战项目与应用

以下是有关BERT模型的一些典型实战项目及其代码示例：

#### 1. 文本分类任务
在文本分类任务中，BERT可以通过微调来完成多种场景下的分类工作。例如，在情感分析任务中，BERT可以用来判断一段文字的情感倾向。

```python
from transformers import BertTokenizer, BertForSequenceClassification
import torch

tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)

text = "I love this movie!"
inputs = tokenizer(text, return_tensors="pt", padding=True, truncation=True)
outputs = model(**inputs)
logits = outputs.logits
predicted_class_id = logits.argmax().item()
print(predicted_class_id)  # 输出类别索引
```

这段代码展示了如何加载预训练的BERT模型并将其用于二元分类任务[^3]。

---

#### 2. 命名实体识别 (NER)
命名实体识别是一项重要的NLP任务，目标是从文本中提取出具有特定意义的实体名称（如人名、地名）。BERT可以在这一领域表现出色。

```python
from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

tokenizer = AutoTokenizer.from_pretrained("dbmdz/bert-large-cased-finetuned-conll03-english")
model = AutoModelForTokenClassification.from_pretrained("dbmdz/bert-large-cased-finetuned-conll03-english")

sentence = "Hugging Face Inc. is a company based in New York City."
tokens = tokenizer.tokenize(tokenizer.decode(tokenizer.encode(sentence)))
inputs = tokenizer.encode(sentence, return_tensors="pt")

with torch.no_grad():
    outputs = model(inputs).logits

predictions = torch.argmax(outputs, dim=2)
for token, prediction in zip(tokens, predictions[0].numpy()):
    print(f"{token} -> {model.config.id2label[prediction]}")
```

此代码片段演示了如何利用细调后的BERT模型执行命名实体识别任务[^4]。

---

#### 3. 自然语言推理 (NLI)
自然语言推理涉及判断两个句子之间的逻辑关系（如蕴含、矛盾或无关）。BERT能够很好地解决此类问题。

```python
from transformers import pipeline

nli_pipeline = pipeline("zero-shot-classification", model="facebook/bart-large-mnli")

sequence_to_classify = "one day I will show you what I have learned"
candidate_labels = ["education", "travel", "cooking"]

result = nli_pipeline(sequence_to_classify, candidate_labels=candidate_labels)
print(result)
```

虽然这里使用的是BART模型，但类似的思路也可以应用于基于BERT的零样本分类任务[^4]。

---

#### 4. 句子相似度计算
通过编码器将两句话映射到向量空间后，可测量它们的距离以评估语义上的接近程度。

```python
from sentence_transformers import SentenceTransformer, util

sentences = ['This framework generates embeddings for each input sentence',
             'Sentences are passed as a list of string.',
             'The quick brown fox jumps over the lazy dog.']

model = SentenceTransformer('all-MiniLM-L6-v2')

embeddings = model.encode(sentences)
cosine_scores = util.cos_sim(embeddings[0], embeddings[1])
print(cosine_scores.item())
```

尽管`sentence-transformers`库并非严格意义上的BERT实现，但它内部集成了许多经过优化的BERT变体，适合处理句间相似性比较的任务[^5]。

---

#### 5. 阅读理解问答系统
构建一个能回答复杂问题的阅读理解系统也是BERT的一个重要应用场景。

```python
from transformers import pipeline

qa_pipeline = pipeline("question-answering", model="deepset/roberta-base-squad2")

context = """PyTorch is an open source machine learning library based on Torch."""
question = "What is PyTorch?"

answer = qa_pipeline(question=question, context=context)
print(answer["answer"])
```

这里的例子采用了RoBERTa而非原始BERT版本，不过二者功能相近，均适用于抽取式问答任务[^4]。

---

### 总结
以上列举了几种典型的BERT模型实战项目实例，涵盖了从基础的文本分类到高级的阅读理解等多个方面。每项任务都提供了相应的代码框架供开发者参考学习。

			
		

	



              




          




        



    





    



      

      

        
      

      





	

		评论	
	

  
	




  

    

      添加红包
      
    

    

      

        
        

          
          
        

        
请填写红包祝福语或标题

      

      

        
        

          
          个
        

        
红包个数最小为10个

      

      

        
        

          
          元
        

        
红包金额最低5元

      

      

        
        

          当前余额3.43元
          前往充值 >
        

      

      

        

          需支付：10.00元
        

        
        
      

    

  





  

    
    
  

  

    
    
  








  

    

      

        

          

            
            
成就一亿技术人!

          

          

        

        

          

          

            领取后你会自动成为博主和红包主的粉丝
            规则
          

        

      

      

        

          

            
              
            
            

              
hope_wisdom
 发出的红包
            

          

        

        

          

          

          

        

      

    

    

  





	
打赏作者

	

		

		
			
		
		

		

			
翻晒时光

			
你的鼓励将是我创作的最大动力

		

	

	

			

	

	

    ¥1
    ¥2
    ¥4
    ¥6
    ¥10
    ¥20
	

	

		

			

				

					扫码支付：¥1
				

				

					

					
					获取中
					

				

				

					
					
					扫码支付
				

			

		

		

			
您的余额不足，请更换扫码支付或充值

			
打赏作者

		

	



      
      

      
实付元

      
使用余额支付

      

        

          

            
            点击重新获取
          

        

        
扫码支付

      

      

        
          
            
          
          
        
      

      

        
        钱包余额
          0
          

            
            

              

                
抵扣说明：

                
 1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
 2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

              

            

          

      

      余额充值