荔蔷醉美-优快云博客

原创大模型微调Parameter-Efficient Transfer Learning for NLP论文浅析

论文提出了一种基于适配器模块（Adapter Modules）的迁移学习方案，将模块应用于26个不同的文本分类任务，包括GLUE基准测试。实验结果表明，使用适配器的方法接近最先进的性能水平，同时每个任务只增加了3.6%的参数，相比之下，全量微调需要调整100%的参数。

2024-07-19 23:09:56 508

原创论文《AdaLoRA: Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning》浅析

AdaLoRA方法有效地解决了现有参数高效微调方法在预算分配上的不足，提高了在资源有限情况下的模型性能，为NLP领域的实际应用提供了新的思路和技术支持。性能表现：AdaLoRA在低预算设置下表现尤为突出，如使用不到0.1%的全参数微调的可训练参数，在SQuAD2.0数据集上实现1.2%的F1提升。优势：相比传统的SVD方法，AdaLoRA避免了昂贵的SVD计算，同时保留了重要信息的恢复能力。贡献：提出了一种新的自适应预算分配方法，提高了参数高效微调的性能，特别是在资源受限的场景下。

2024-07-18 23:24:01 805

原创自然语言模型-论文Class-based n-gram models of natural language简单解析

自然语言处理内容之n元语法模型。当前深受关注的AI大模型微调基础论文。

2024-07-17 22:52:47 547

NVIDIA CUDA计算统一设备架构参考手册2.0

NVIDIA CUDA参考手册2.0版本中文版，介绍所有相关函数以及具体参数的意义。

2024-07-21

C Primer Plus(第五版)-书本源码汇总

c语言

2024-07-21

MySQL 5.1安装文件

MySQL 5.1 中文手册是一个包含安装、配置、管理、优化和参考等内容的综合性文档，可以帮助您学习和使用 MySQL 5.1。

2024-07-17

AdaLoRA Adaptive xxx for Parameter-Efficient Fine-Tuning论文

该资源是AI大模型微调领域的进阶论文，主要讲AdaLoRA的算法的基础及调参后的应用效果。

2024-07-18

INA193电流检测芯片手册

INA193系列是电压输出分流监测计，能够在 -16V 至 +80V 范围内的共模电压下感测分流器两端的压降，与 INA193 电源电压无关.宽共模电压范围：-16V 至 +80V。低误差：3.0%（整个温度范围内的最大值）。带宽：高达 500kHz

2017-10-17

高速USB芯片CY7C68013A手册

高速USB 2.0接口芯片EZ-USB FX2LP是美国赛普拉斯公司（Cypress）推出的一款集成了USB 2.0协议的微处理器。EZ-USB FX2LP芯片提供了强大的功能，包括8051兼容的指令系统以及高速USB 2.0接口，并向下兼容全速USB接口。EZ-USB FX2LP芯片是在Cypress公司第一款USB接口微处理器（EZ-USB FX2）基础上进行优化设计的结果。EZ-USB FX2LP系列芯片包括多种型号，例如CY7C68013A、CY7C68014A、CY7C68015A和CY7C68016A等。这里是CY7C68013A的芯片手册

2017-10-17

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

sinat_25045701的博客

原创大模型微调Parameter-Efficient Transfer Learning for NLP论文浅析

原创论文《AdaLoRA: Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning》浅析

原创自然语言模型-论文Class-based n-gram models of natural language简单解析

NVIDIA CUDA计算统一设备架构参考手册2.0

C Primer Plus(第五版)-书本源码汇总

MySQL 5.1安装文件

AdaLoRA Adaptive xxx for Parameter-Efficient Fine-Tuning论文

INA193电流检测芯片手册

高速USB芯片CY7C68013A手册

PISI 电源完整性-芯片电源design&simulation

STM32F系列的多个元件系统库

激光打标机振镜驱动电路

重构与模式 joshua.Kerievsky

VC++数字图像处理典型算法及实现

空空如也

原创 大模型微调Parameter-Efficient Transfer Learning for NLP论文浅析

原创 论文《AdaLoRA: Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning》浅析

原创 自然语言模型-论文Class-based n-gram models of natural language简单解析

NVIDIA CUDA计算统一设备架构参考手册2.0

C Primer Plus(第五版)-书本源码汇总

MySQL 5.1安装文件

AdaLoRA Adaptive xxx for Parameter-Efficient Fine-Tuning论文

INA193电流检测芯片手册

高速USB芯片CY7C68013A手册

PISI 电源完整性-芯片电源design&simulation

STM32F系列的多个元件系统库

激光打标机振镜驱动电路

重构与模式 joshua.Kerievsky

VC++数字图像处理典型算法及实现

空空如也

原创大模型微调Parameter-Efficient Transfer Learning for NLP论文浅析

原创论文《AdaLoRA: Adaptive Budget Allocation for Parameter-Efficient Fine-Tuning》浅析

原创自然语言模型-论文Class-based n-gram models of natural language简单解析