- 博客(5)
- 收藏
- 关注
RSS订阅转载 探秘Transformer系列之（34）--- 量化基础
虽然基于Transformer架构的LLMs已经取得了长足的发展，但由于LLMs的参数变得越来越多，部署基于Transformer的LLMs面临着重大挑战。例如，即使是中等规模的LLMs，如LLaMA13B，也需要大约26GB的内存来加载其所有参数的FP16格式。这样的开销不仅推高了使用成本，而且限制了它们的更广泛应用。为了应对这些挑战，人们提出了许多针对LLMs的专业压缩方法，包括剪枝、知识传递、量化、紧凑的架构设计以及动态网络等。
2025-06-02 07:24:19
101
转载 物联网之对接MQTT最佳实践
1.dubbo 3.3.X 入门2.解决SpringBoot 3.3.x集成Micrometer和Prometheus，导致项目阻塞，无法启动3.跟着老寇学习Java之软件简述4.魔改log4j2的JsonLayout,支持自定义json格式日志5.COLA学习之DDD各种术语分析（一）6.COLA学习之代码规范（二）7.COLA学习之环境搭建（三）8.COLA学习之COLA架构分析（四）9.物联网之对接MQTT最佳实践10.
2025-05-23 06:36:37
38
转载 《痞子衡嵌入式半月刊》 第 110 期
痞子衡嵌入式半月刊： 第 110 期这里分享嵌入式领域有用有趣的项目/工具以及一些热点新闻，农历年分二十四节气，希望在每个交节之日准时发布一期。本期刊是开源项目（GitHub: JayHeng/pzh-mcu-bi-weekly），欢迎提交 issue，投稿或推荐你知道的嵌入式那些事儿。上期回顾 ：《痞子衡嵌入式半月刊： 第 109 期》唠两句历史上的今天：1957年11月3日，苏联...
2024-11-04 02:38:57
83
转载 【LeetCode】433.最小基因变化
1. 题目2. 思想这题的思想很经典，使用bfs求最短路径。相似的题目还有这道题。把每次合理的变换都记录在队列中，然后先进先出，同时记录出执行的次数，得到最后的结果。同时需要把历史上曾经入队的基因串都放到字典里，省的重复遍历。3. 代码登录后复制 class Solution: def minMutation(...
2024-08-27 03:56:10
78
转载 java游戏解包教程
Java游戏解包教程在学习如何解包Java游戏之前，我们首先需要了解整个过程的步骤。下面是解包Java游戏的基本流程：步骤说明1准备解包工具2找到游戏的Jar文件3解压Jar文件4查看反编译的文件5修改代码6重新打包Jar文件7运行游戏1. 准...
2024-08-05 05:08:55
1085
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人