- 博客(6)
- 收藏
- 关注
RSS订阅转载 探秘Transformer系列之（34）--- 量化基础
虽然基于Transformer架构的LLMs已经取得了长足的发展，但由于LLMs的参数变得越来越多，部署基于Transformer的LLMs面临着重大挑战。例如，即使是中等规模的LLMs，如LLaMA13B，也需要大约26GB的内存来加载其所有参数的FP16格式。这样的开销不仅推高了使用成本，而且限制了它们的更广泛应用。为了应对这些挑战，人们提出了许多针对LLMs的专业压缩方法，包括剪枝、知识传递、量化、紧凑的架构设计以及动态网络等。
2025-06-23 12:41:59
72
转载 .NET + AI | Semantic Kernel vs Microsoft.Extensions.AI
随着 .NET 9 的发布，微软引入了一套统一的 AI 抽象层来简化 AI 模型在 .NET 应用中的集成。Microsoft.Extensions.AI 正是这套 AI 支持库的核心组成部分，它提供标准的接口和管道让开发者可以通过一致的方式调用各类 AI 服务（无论是 OpenAI、Azure OpenAI 还是本地部署的模型）。这一设计类似于 .NET 中日志、配置等扩展模型 ——通过定义统一接口和依赖注入，让不同厂商的实现可以无缝插入，从而在应用层屏蔽差异。
2025-06-16 19:02:21
28
转载 用 DevEco Studio 模拟器这些能力 没真机也能高效调测鸿蒙原生应用
其次，模拟器能快速复现复杂应用场景，特别是在定位、导航、低电量提示等关键应用场景中，开发者无需编写额外的测试代码或实地测试，大幅简化调测流程。随着鸿蒙生态的快速发展，越来越多的开发者投身于鸿蒙原生应用的开发中。为解决这些问题，华为在DevEco Studio上为开发者提供了模拟器（Emulator）功能，帮助开发者在真机匮乏或无真机时，高效且低成本地完成应用开发与调试。过去，开发者需携带真机实地测试或编写代码来模拟，如今在模拟器上，仅通过输入经纬度、选择城市，就能便捷模拟任意定位，开发效率显著提升。
2025-06-15 15:56:58
47
转载 现代化 React UI 库：Material-UI 详解！
随着 React 在前端开发中的流行，越来越多的 UI 框架和库开始涌现，以帮助开发者更高效地构建现代化、响应式的用户界面。其中，Material-UI 是基于 Google Material Design 规范设计的一款开源 React UI 库，Github Star高达 94K，凭借其丰富的组件库、灵活的定制化选项以及无缝的开发体验，迅速成为了前端开发者的热门选择。今天我们将详细介绍 Ma...
2024-10-15 02:52:32
5208
转载 Java 创建xlsx文件
Java创建xlsx文件在日常开发中，我们经常需要操作Excel文件来存储和处理数据。而在Java中，我们可以使用一些库来方便地创建和操作Excel文件，其中比较常用的是Apache POI库。Apache POI简介Apache POI是Apache软件基金会的一个开源项目，提供Java程序对Microsoft O...
2024-07-10 03:28:36
576
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人