- 博客(27)
- 收藏
- 关注
RSS订阅原创 PEFT介绍及其源码解析
PEFT（Parameter-Efficient Fine-Tuning，参数高效微调）是由 Hugging Face 开源的一个高效微调库，旨在通过少量可训练参数实现对大型预训练模型的快速适应，从而显著降低计算和存储成本。核心功能与优势多种高效微调方法：通过引入低秩矩阵来微调模型权重，仅需训练少量参数即可达到与全参数微调相当的性能。：通过优化输入提示（prompt）来调整模型，不改变模型权重，适应性强。：通过优化连续提示来微调模型，适用于零样本和少样本学习。BitFit。
2025-02-26 12:10:28
875
原创 OpenPrompt关于软映射（SoftVerbalizer） 篇二
之后，我们进入模型的部分，我们以分类任务为例子，模型为PromptForClassification，他的forward方法如下，其中一部分已经在。
2024-03-30 22:01:35
351
原创 【提示学习简介及其分类】
在深度学习领域，预训练语言模型通过在大量文本数据上进行训练，获得了卓越的表征能力和内蕴知识。这些模型通常通过掩码语言建模（如BERT的MLM）和下句预测等预训练任务来提升其性能。为了在下游任务中充分利用这些模型的潜力，提示学习（Prompt Learning）应运而生。
2024-03-22 22:45:11
346
原创 记录openai官网关于Setup your API key for a single project(为单个项目设置API 可以)的错误（2023/11/24）
项目场景：我申请使用openai公司的api借口调用，其中一种方式是为所有的项目设置环境变量OPEN_API_KEY，这种方式可以自行百度，网上介绍的非常多了，另一种方式是Setup your API key for a single project。
2023-11-24 11:19:35
4035
4
原创 NT-Xent（归一化温标交叉熵）损失在 PyTorch 中解释和实现
对 NT-Xent 损失的直观解释，并逐步解释操作和我们在 PyTorch 中的实现
2023-10-09 20:52:03
6680
3
原创 PyTorch 中所有样本对的余弦相似度快速计算
PyTorch 定义了 cosine_similarity 函数来计算向量对之间的余弦相似度。但是，目前还没有方法可以计算列表中每对向量之间的余弦相似度。我们将探索一种非常简单且有效的方法来在 PyTorch 中执行此操作。
2023-10-09 19:22:24
6189
3
原创 演示 `zip`, `list` 和 `torch.stack` 的使用过程
演示 `zip`, `list` 和 `torch.stack` 的使用过程。
2023-10-05 15:00:24
130
转载 Required request parameter ‘xxxxxx‘ for method parameter type xxxx is not present 解决方式
Required request parameter 'xxxxxx' for method parameter type xxxx is not present 解决方式
2023-03-20 19:59:17
12671
1
原创 window.open无法下载问题及其axios解决下载问题的方法，附hutool工具导出导入Excel的功能
window.open无法下载问题及其axios解决下载问题的方法，附hutool工具导出导入Excel的功能
2023-03-02 16:01:47
2356
原创 ElementUI的自定义模板
ElementUI对于初学小白来说可能还有很多不太友好的地方，简单来说就是没有那么通俗易懂，作为一个萌新今天记录一下学习过程中的一些经验。
2023-02-20 17:19:26
1259
原创 踩坑：springboot集合swagger和druid-starter
本文仅仅简单介绍了springboot整合swagger和druid的使用，避免一些坑。
2023-02-16 21:39:04
233
原创 关于C语言结构体中指针指向新创建时不为NULL的解决方法
在广度优先遍历中，使用到链式队列，在入队列和出队列做判断的时候，出现错误，C语言中结构体变量中含有指针变量时，新创建的结构体中指针默认不指向NULL。
2022-10-18 11:39:13
39
1
转载 OneNote的登录问题
项目场景：有一天突然OneNote突然无法正常登录，报以下错误： 与位于“https://docs.live.net/skydocsservice.svc”的终结点进行通信时出现错误;服务器已返回HTTP状态代码401(0x191)”。;请求的资源要求用户身份验证。;操作标识符不正确。错误:0x803D0005 您也可重试。
2022-09-06 15:58:13
2782
杭州电子科技大学计算机考研复试资料合集，适用于复试为408+软件工程+数据库+计算机程序语言基础的考生
2023-05-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人