- 博客(2)
- 收藏
- 关注
RSS订阅转载 探秘Transformer系列之（34）--- 量化基础
虽然基于Transformer架构的LLMs已经取得了长足的发展，但由于LLMs的参数变得越来越多，部署基于Transformer的LLMs面临着重大挑战。例如，即使是中等规模的LLMs，如LLaMA13B，也需要大约26GB的内存来加载其所有参数的FP16格式。这样的开销不仅推高了使用成本，而且限制了它们的更广泛应用。为了应对这些挑战，人们提出了许多针对LLMs的专业压缩方法，包括剪枝、知识传递、量化、紧凑的架构设计以及动态网络等。
2025-06-07 08:05:00
77
转载 java执行lua脚本操作redis
redis相关学习资料：https://edu.51cto.com/video/4196.htmlJava执行Lua脚本操作Redis 在现代软件开发中，Redis是一个广泛使用的内存数据存储系统，它支持多种数据结构，如字符串、哈希、列表、集合等。Lua脚本是一种轻量级的脚本语言，可以嵌入到其他应用程序中。本文将介绍如何...
2024-07-22 03:47:19
434
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人