- 博客(3)
- 收藏
- 关注
RSS订阅转载 探秘Transformer系列之（34）--- 量化基础
虽然基于Transformer架构的LLMs已经取得了长足的发展，但由于LLMs的参数变得越来越多，部署基于Transformer的LLMs面临着重大挑战。例如，即使是中等规模的LLMs，如LLaMA13B，也需要大约26GB的内存来加载其所有参数的FP16格式。这样的开销不仅推高了使用成本，而且限制了它们的更广泛应用。为了应对这些挑战，人们提出了许多针对LLMs的专业压缩方法，包括剪枝、知识传递、量化、紧凑的架构设计以及动态网络等。
2025-07-06 16:29:09
85
转载 【正点原子K210连载】第三章 CanMV简介 摘自【正点原子】DNK210使用指南-CanMV版指南...
第三章 CanMV简介本章将对CanMV进行简单介绍 本章分为如下几个小节： 3.1 初识CanMV 3.2 CanMV的应用开发方式3.1 初识CanMV CanMV是嘉楠科技针对AIOT编程的独立开源项目，其源代码在GitHub上开源（https://github.com/kendryte/canmv.git），可在...
2024-07-28 02:11:50
315
转载 python driver打开本地html文件
Python相关视频讲解：python的or运算赋值用法用python编程Excel有没有用处？011_编程到底好玩在哪？查看python文件_输出py文件_cat_运行python文件_shelPython Driver 打开本地 HTML 文件 在日常工作中，我们经常会遇到需要打开本地 HTML 文件的情况，可能...
2024-07-05 03:22:09
186
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人