用 5 条数据搞定行业专家模型：Few-shot Prompt × 微调联合实战指南

已于 2025-04-18 15:40:08 修改
阅读量1.2k 收藏 29
点赞数 18
分类专栏： 国产大模型部署实战全流程指南 文章标签： prompt 人工智能 大模型
于 2025-04-03 08:20:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sinat_28461591/article/details/146969749
版权

个人简介
在这里插入图片描述
作者简介：全栈研发，具备端到端系统落地能力，专注大模型的压缩部署、多模态理解与 Agent 架构设计。 热爱“结构”与“秩序”，相信复杂系统背后总有简洁可控的可能。
我叫观熵。不是在控熵，就是在观测熵的流动
个人主页：观熵
个人邮箱：privatexxxx@163.com
座右铭：愿科技之光，不止照亮智能，也照亮人心！

专栏导航

观熵系列专栏导航：
AI前沿探索：从大模型进化、多模态交互、AIGC内容生成，到AI在行业中的落地应用，我们将深入剖析最前沿的AI技术，分享实用的开发经验，并探讨AI未来的发展趋势

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【Prompt Engineering 教程：写 Prompt 的艺术】4、Few-Shot Prompting 技术之道
AI天才研究院
05-28 1万+
我们在技巧2 中，提到我们可以给模型一些示例，从而让模型返回更符合我们需求的答案。这个技巧其实使用了一个叫 Few-Shot 的方法。这个方法最早是 Brown 等人在 2020 年发现的，论文里有一个这样的例子，非常有意思，通过这个例子你应该更能体会，像 ChatGPT 这类统计语言模型，其实并不懂意思，只是懂概率 😁不过这并不代表，Few-Shot 就没有缺陷，我们试试下面这个例子：那我们有没有什么方法解决？
大语言模型的Few-Shot学习原理与代码实例讲解
AI天才研究院
05-26 986
Few-shot学习(少样本学习)是指机器学习模型在只给定非常少量的训练样本的情况下,就能够快速学习新任务、完成新任务的一种学习能力。它旨在解决现实世界中存在大量的小样本任务,而传统的机器学习方法需要大量的标注数据才能取得良好效果的问题。近年来,随着预训练语言模型(如BERT、GPT等)的出现和发展,基于大规模预训练语言模型的Few-shot学习方法逐渐兴起,在自然语言处理的各个任务中取得了令人瞩目的成果。
如何使用chatGPT写好Prompt提示词: Few-shots
AIGC998的博客家
06-17 1335
如何一步一步写好GPT的迭代Prompt提示词中提过, 需根据自己的实际需求, 看下 GPT 的输出结果有哪些分支输出需要增强, 哪些分支输出需要剪除. 使用 Few-shots 技巧的好处在于, 脱离文字描述你的需求, 直观地告诉 GPT 你想要的输出具体是什么样。人类大脑的认知: 读取的是"意义", 经过"逻辑思考", 输出的也是"意义"。LLM 大脑的认知: 读取的就是一个个的 Token, 输出的也是一个个的 Token(概率最高的)。
吴恩达提示工程实战演练 - Few-shot prompting
dyrslds的专栏
05-05 467
跟吴恩达实战演练prompt engineering
最简明的Few-shot Prompt指南
07-02 3027
当它遇到一个新的问题时，我们不需要提供大量的例子，只需要给出几个关键线索（也就是提示），这个助手就能利用它之前学到的知识，快速地理解并解决新问题。但是，如果你给出一些提示，比如“这个问题和之前的几何问题有点像”，这个学生就能快速地应用它之前学到的几何知识来解决这个新问题，即使它之前没有见过完全一样的问题。这种方法的关键在于，通过精心设计的提示，可以有效地将预训练模型的能力迁移到新的任务上，即使是在极少的样本情况下。提示工程的艺术在于，如何通过最小的修改，使得预训练模型能够在新任务上表现良好。
LangChain Few-shot prompt 用法示例总结
magic_road的博客
09-20 1432
最近有一个工作问题需要花费太多的人工时间，就考虑是否可以用LangChain Prompt进行解决。经过对LangChain 里的几种 prompt 模板对比分析，觉得 Few-shot prompt 最符合需求，然后就着手开始搭建。因为网上对于Few-shot prompt的用法资料不多，或讲解不完整，故此在这里做一下记录；
使用Few-Shot Prompting和工具调用提升AI模型性能
ppoojjj的博客
08-13 721
Few-Shot Prompting是一种提示技术，通过向模型提供少量示例来指导其完成特定任务。这种方法特别适用于那些难以用简单指令描述清楚的复杂任务。@tool@tool结合Few-Shot Prompting和工具调用是提升AI模型性能的有效方法，特别是在处理需要精确步骤或外部工具的复杂任务时。通过提供清晰的示例和系统提示，我们可以显著提高模型的准确性和效率。
如何使用少量样本（Few-Shot）示例提升大语言模型性能
sjufgwgfhoia的博客
09-11 1475
Few-Shot提示是一种强大的技术，可以显著提升大语言模型的性能。通过提供相关示例，我们可以引导模型更准确地理解任务要求并生成高质量的输出。LangChain提供了便捷的工具来实现Few-Shot提示，使得这一技术的应用变得简单高效。
MaPLe: Multi-modal Prompt Learning
qq_46563097的博客
04-24 2546
预训练的视觉语言(V-L)模型，如CLIP，在下游任务中显示出出色的泛化能力。但是，它们对输入文本提示的选择很敏感，需要仔细选择提示模板才能运行良好。受自然语言处理(NLP)文献的启发，最近的CLIP适应方法学习提示作为文本输入，以微调下游任务的CLIP。我们注意到，使用提示来适应CLIP(语言或视觉)的单个分支中的表示是次优的，因为它不允许在下游任务上灵活地动态调整两个表示空间。在这项工作中，我们提出了针对视觉和语言分支的多模态提示学习(MaPLe)，以改善视觉和语言表征之间的一致性。
【心法篇】如何写好 Prompt：Few-shots 技巧深度解析
X_Flipped的博客
11-28 1709
Few-shots 是一种强大的 Prompt 编写技巧，通过提供少量示例，能够有效提升模型的理解能力和输出质量。选择高质量示例示例应清晰、简洁，并覆盖任务的核心要求。控制示例数量通常 1-3 个示例即可，过多会浪费 Token，同时可能混淆模型。根据实际需求动态调整定期测试并优化示例内容，确保 Prompt 始终适应任务需求。学会 Few-shots 技巧，善用少量示例，你会发现让模型生成“你想要”的内容变得轻松自如！
论文《Avoiding Inference Heuristics in Few-shot Prompt-based Finetuning》学习笔记
Vincy_King
12-07 334
论文链接： https://arxiv.org/abs/2109.04144 1. Motivation 在进行 sentence pair classification 的时候，如果是 few-shot learning, 使用 prompt-based finetuning 很容易产生启发式推理(Inference Heuristics)的问题（即：模型会因为一个句子对由同一个单词组成，从而假设这个句子对具有相同的含义）, 然而这个问题在 zero-shot learning 下不会出现，这说明 fin
2.1少量样本提示：快速掌握新知
qq_14889337的博客
05-22 868
少量样本提示（few-shot prompting）是一种向语言模型展示少量示例，以帮助模型理解并模仿所需输出格式的技术。目前主流大模型可以在不需要任何样本的情况下可以惊人的完成部分任务；但在实际体验过程中，大家会发现存在以下情况：存在幻觉（多次重复的任务，可能会存在少量几次不正常的输出）；稍微有复杂度的任务，模型没法独立完成思考和引导；
大模型提示工程 | 17 种 prompt engineering 方法大集合（一）Zero-shot 、Few-shot、链式思考、自我一致性、生成知识
m0_56255097的博客
11-18 1801
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
不要Prompt的Few-shot NER
weixin_43913077的博客
10-11 959
前言 基于prompt的方法本质上是为句子级别的任务设计的，很难适应于token级别的任务。因为：针对token级别的template的搜索空间变大；在少量样本上训练容易过拟合。 输入端 b中是提出的模型，它没有添加prompts，但他的label words却很大。如图，对于person类型，它的的label words不仅包含person，还有其他person类的实体John、Australia等等。 输出端 answer映射的构建有三种： Data Search 对于每一个label选取概率最大的
Prompt 指南之零样本与少样本提示，超详细解析！
2401_85328934的博客
05-29 3597
总的来说，零样本和少样本提示各有优势和局限，选择使用哪一种方法取决于特定的任务和目标。为了获得更可靠的响应，还可以考虑使用更高级的提示技术，比如思维链提示，或者对模型进行微调和进一步的提示工程实验，以达到更好的结果。摘要：零样本与少样本提示这两种技术利用 LLM 的强大预训练知识，通过最小化的示例输入，实现对复杂任务的快速适应和高效处理。本文将深入探讨零样本与少样本提示相关的内容，介绍这两种技术的使用方式，区别，使用场景以及局限性。那么，我们该如何学习大模型？
什么是 prompts, completions, tokens and meta-learning /in-context-learning
Harry的博客
04-02 7810
从字面上看，任何文本都可以用作提示——发送一些文本并取回一些文本。然而，尽管了解 GPT-3 对随机字符串的处理方式很有趣，但真正的力量来自于理解如何编写有效的提示。
大模型系列：Prompt提示工程常用技巧和实践
2401_84495872的博客
06-15 1878
Prompt提示工程简述Prompt的一般结构介绍零样本提示Zero-Shot少样本提示Few-Shot思维链提示CoT任务分解Least-to-MostPrompt的一般结构包含4个部分，任务指令、背景信息、附加内容、输出要求任务指令：明确给到大模型需要执行的任务，比如扮演角色身份，给出内容方案背景信息：提供任务和上下文背景，从而生成更相关的输出附加内容：额外补充信息，包括领域知识库，参考样例等等输出要求。
[提升AI工具调用精度：使用Few-shot Prompting技巧]
dfvcbipanjr的博客
10-14 490
首先，我们需要定义可以被AI调用的工具，并绑定到语言模型上。@tool@toolimport osFew-shot prompting有效提高了AI的工具调用精度。LangChain文档OpenAI API指南。
few-shot clip
最新发布
04-03
### Few-Shot 学习与 CLIP 模型的应用及实现 Few-shot 学习是一种机器学习范式，旨在利用少量样本完成特定任务的学习目标。CLIP（Contrastive Language–Image Pre-training）作为一种强大的多模态预训练模型，在 few-shot 场景下表现出显著的优势[^1]。 #### LAMM 方法概述 为了进一步提升 CLIP 的 zero-shot 和 few-shot 性能，研究者提出了 LAMM（Learnable Adaptive Multimodal Matching）。该方法的核心在于通过端到端的方式优化标签嵌入，从而缩小图像特征与其对应类别表示之间的差距。具体而言，LAMM 将 prompt 中的固定文本模板替换为可学习的标记 \(< M_i >\) （\(i=1, 2, ..., k\），这些标记代表不同类别的语义信息。在训练阶段，仅需更新每个下游数据集中对应的类别向量集合 \(\{< M_i >\}_{i=1}^{k}\)，而不改变 CLIP 预训练权重。 这种设计不仅保留了 CLIP 原有的跨模态理解能力，还增强了其针对特定领域或任务的适应性。例如，在 CoOp（Context Optimization Prompting）框架基础上引入 LAMM 后，可以通过用可训练向量替代原始类别描述来改进提示模板结构。 以下是基于 PyTorch 实现的一个简化版代码片段展示如何结合 LAMM 进行 fine-tuning： ```python import torch from clip import load as load_clip device = "cuda" if torch.cuda.is_available() else "cpu" model, preprocess = load_clip("ViT-B/32", device=device) class LearnablePrompt(torch.nn.Module): def __init__(self, num_classes, embedding_dim=512): super().__init__() self.learned_prompts = torch.nn.ParameterList([ torch.nn.Parameter(torch.randn(1, embedding_dim)) for _ in range(num_classes)]) def forward(self, class_indices=None): if class_indices is None: return torch.cat([p for p in self.learned_prompts]) else: return torch.stack([self.learned_prompts[i][0] for i in class_indices]) def compute_similarity(image_features, text_features): image_features /= image_features.norm(dim=-1, keepdim=True) text_features /= text_features.norm(dim=-1, keepdim=True) logit_scale = model.logit_scale.exp() logits_per_image = logit_scale * image_features @ text_features.t() return logits_per_image # Example usage of the learnable prompts module. num_classes = 10 learnable_prompt_module = LearnablePrompt(num_classes).to(device) optimizer = torch.optim.AdamW(learnable_prompt_module.parameters(), lr=1e-3) for epoch in range(epochs): optimizer.zero_grad() images = ... # Load batch of images labels = ... # Corresponding labels processed_images = [preprocess(img) for img in images] tensor_stack = torch.stack(processed_images).to(device) with torch.no_grad(): image_features = model.encode_image(tensor_stack) learned_text_embeddings = learnable_prompt_module(labels) similarity_scores = compute_similarity(image_features, learned_text_embeddings) loss_fn = torch.nn.CrossEntropyLoss() loss = loss_fn(similarity_scores, labels.to(device)) loss.backward() optimizer.step() ``` 上述代码展示了如何定义并训练一个简单的可学习提示模块 `LearnablePrompt` 来适配不同的分类任务需求。值得注意的是，实际部署时可能还需要考虑更多细节调整以及更复杂的网络架构设计以满足更高精度的要求。 #### 结论 综上所述，借助像 LAMM 这样的技术手段能够极大地提高 CLIP 在 small-data regimes 下的表现效果。通过对类别嵌入表征进行微调操作而非重新训练整个神经网络参数组，则既节省资源又保持住了原有泛化特性的同时实现了定制化的功能扩展。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

观熵

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值