HuggingFace
文章平均质量分 91
努力努力再努力呐
努力努力再努力
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
大模型压缩训练(知识蒸馏)
1、深度学习(Deep Learning)因其计算复杂度或参数冗余,在一些场景和设备上限制了相应的模型部署,需要借助模型压缩、优化加速、异构计算等方法突破瓶颈。2、模型压缩算法能够有效降低参数冗余,从而减少存储占用、通信带宽和计算复杂度,有助于深度学习的应用部署,具体可划分为如下几种方法(后续重点介绍剪枝与量化):①线性或非线性量化:1/2bits, int8 和 fp16等;原创 2025-04-12 11:39:36 · 973 阅读 · 0 评论 -
Hugging Face 核心组件学习
Hugging Face 提供了transformers库,用于加载和使用模型。你可以使用以下命令来安装它:(电脑须安装基础环境:Anaconda, CUDA, cuDNN, pytorch)Hugging Face 是一个提供先进自然语言处理(NLP)工具的平台,支持 Transformer 模型的开发和应用。它拥有庞大的模型库和社区资源,能够满足从研究到工业应用的各种需求。希望这份介绍能够帮助你更好地了解和使用 Hugging Face 的核心组件。如果你有任何其他问题或需要进一步的帮助,请随时提问。原创 2025-04-09 09:56:42 · 1274 阅读 · 0 评论
分享