量化中max_bits重复计算之优化

极智AI | 量化实现分享二:详解 KL 对称量化算法实现 大家好,我是极智视界,本文剖析一下 KL 对称量化算法实现,以 Tengine 的实现为例。 阅读详情

在量化的时候发现max_bits重复计算了4次。

 

将①提到外部②的位置,每个Frame只需要计算一次就可以了,不必重复计算。

 

 

max_bits = mean_bits / config.wave.channels; ----- ②

/*  */

    for( gr=2; gr--; )

    {

        for( ch=config.wave.channels; ch--; )

        {

            cod_info = (gr_info *)&(side_info->gr[gr].ch[ch]);    

           

/* calculation of number of available bit( per granule )

 * 计算每个颗粒可用的bit数, 量化成0的部分则不编码进去.

 * 在一个Frame中重复计算了4次, 可以提到for外面去

 */

            //max_bits = mean_bits / config.wave.channels; ---- ① 

   

    . . . . . .

 

}

}

41.5M的PCM信号 原本消耗53s, 经优化消耗为51s,

算法强训:第十一天 本篇主要是以算法为主。 阅读详情

相关推荐

Lena图像量化 Lloyd Max函数量化

对于lena图像的量化,以及利用Lloyd Max函数量化,有文档,有代码,运行通过的,平台式matlab!

数据压缩补充知识——量化器(Lloyd-Max条件推导)

量化器~上课困扰我一段时间的量化器~来学来学!

Adore11的博客 9581

FPGA实现PI控制

FPGA实现PI控制

m0_57319166的博客 3898

【数据压缩6】LIoyd-Max标量量化器

【数据压缩6】LIoyd-Max标量量化器,推导使误差最小的重建电平和决策边界 问题引入 均匀量化器只对均匀分布信源是最佳的 对给定的M,为了减小MSE,我们应该在概率 较大时缩小量化区间,而在 较小时增大量化区间 推导过程 总结 第一个结果表明,量化电平(重建电平)应取在量化间隔的质心上 第二个结果表明,门限(判决)电平应取在相邻量化输出电平的中点 ...

yaoyaxuan的博客 1557

Windows 11“此应用已被管理员阻止运行”解决方案

通过本文介绍的两种方法,你应该能够解决Windows 11中“此应用已被管理员阻止运行”的问题。无论你选择创建新管理员账户还是禁用管理员批准模式,都请确保了解相关操作的风险,并根据你的实际需求做出选择。通过禁用“用户账户控制:以管理员批准模式运行所有管理员”设置,可以解决因系统安全设置导致的应用程序被阻止运行的问题。这种方法适用于那些希望简化管理员账户操作流程的用户,但需要注意可能带来的安全风险。通过创建并登录具有管理员权限的新账户,可以解决因系统安全设置导致的应用程序被阻止运行的问题。

mmoo_python的博客 1万+

实测338MB/s!FPGA与CYUSB3014的Slave FIFO模式实战避坑(附完整固件与源码)

本文详细介绍了FPGA与CYUSB3014在Slave FIFO模式下实现338MB/s高速数据传输的实战经验。通过优化硬件设计、固件配置和GPIF II接口设置,解决了USB3.0双向通信中的关键性能瓶颈,并提供了完整的固件与源码参考。

weixin_30570101的博客 458

作业4 | Lloyd-Max标量量化器&DCMP基本原理

Elf的博客 2002

Python+pytest+requests 自动化测试框架

环境准备 本次选用的是Python+Pytest+requests来搭建自动化框架,需要有 Python 环境(3.x 版本),安装pytest和requests,不会安装的自行去网上搜教程。 关于 Pytest 的基本使用,这里不作讲解,不清楚的可以看我之前的文章。 简单 Demo 我们先创建一个项目,取名api-test,然后在下面创建一个test_api.py的文件 # test_api.py import pytest import requests def test_01():

weixin_42686892的博客 1万+

使用 Dokku 部署 Prisma Server:从 VPS 初始化到 GraphQL Playground 上线全流程

本教程基于 Prisma 1.14 版本,完整讲解如何在一台自有的 VPS(或本地服务器)上安装 Dokku,并通过 Dokku 的 Postgres 插件创建数据库服务,最终用 git push 的方式把 Prisma server(`prismagraphql/prisma:1.14` 镜像)部署上线。读完本文,你将掌握:Dokku 应用与服务的管理命令、Prisma server 服务端配置

gitblog_00391的博客 254

用RK3588+FPGA搞定Cameralink高速相机?这份保姆级硬件选型与接口配置指南请收好

本文详细介绍了如何利用RK3588与FPGA构建Cameralink高速相机系统,涵盖硬件选型、接口配置及性能优化等关键步骤。通过异构计算架构和精准的带宽分配,实现工业视觉检测和科研成像领域的高效解决方案,特别适合需要实时处理的复杂应用场景。

weixin_30493401的博客 643

手把手教你学BSP(11.3)--BSP实例:基于Raspberry Pi 4 Model B的Linux BSP开发实例

通过以上步骤,我们完成了一个基于Raspberry Pi 4 Model B的Linux BSP开发过程,包括硬件初始化、设备驱动编写、Bootloader配置、内核配置和编译,以及最终映像的生成。每个步骤都非常重要,确保每一步都正确无误才能使整个系统正常运行。

MHD0815的博客 1014

OpenClaw模型缓存优化:减少百川2-13B-4bits的重复计算开销

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,并优化OpenClaw模型缓存以减少重复计算开销。该方案特别适用于日常办公自动化场景,如日程查询和周报生成,通过缓存机制显著降低Token消耗和响应延迟,提升大语言模型的使用效率。

weixin_42620563的博客 422

PyTorch生成式人工智能(25)——基于Transformer实现机器翻译

不同于循环神经网络 (RNN) 按顺序处理数据,Transformer 以并行的方式处理输入数据(例如句子)。这种并行处理提高了效率,但并未使其能够识别输入的顺序。为了解决这个问题,Transformer 向输入的词嵌入中添加了位置编码。这些位置编码是分配给输入序列中每个位置的独特向量,其维度与输入词嵌入对齐。本节将以英语到法语的翻译为例,通过介绍如何训练 Transformer 模型将英语句子转换为法语,深入理解 Transformer 的架构及自注意力机制的运作方式。

盼小辉丶的博客 2798

低成本AI助手:OpenClaw+百川2-13B-4bits量化模型月消耗实测

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,实现低成本AI助手功能。该镜像支持在消费级显卡上高效运行,适用于办公自动化任务如邮件分类、会议纪要整理等场景,显著降低AI应用成本。

weixin_42160645的博客 319

动量因子在A股市场的有效性分析:量化实证研究

验证动量因子在A股市场的有效性及时间周期性分析不同时间窗口(短期/中期/长期)对动量效应的影响量化交易成本、市场流动性对动量策略收益的侵蚀程度比较A股与成熟市场(如美股)动量效应的差异特征理论框架:行为金融学解释动量效应的产生机制技术实现:Python全流程代码实现动量因子计算与回测实证分析:统计检验、风险收益指标、敏感性分析应用拓展:结合市场微观结构的策略优化方案动量因子(Momentum Factor)

2501_92132293的博客 2494

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

OpenClaw对话历史优化:百川2-13B-4bits量化模型上下文管理策略

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,优化长对话上下文管理。该镜像特别适用于构建智能对话助手,通过自动摘要和关键信息持久化策略,有效解决量化模型在长对话中的记忆混乱问题,显著提升多轮对话的一致性。

weixin_42599558的博客 383

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

百川2-13B-4bits量化版推理加速:OpenClaw任务响应时间优化30%实操

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,显著提升OpenClaw任务响应速度。该量化模型通过减少显存占用和计算量,使文件整理、信息提取等自动化任务响应时间优化30%以上,特别适合消费级显卡环境下的高效AI应用部署。

weixin_35414484的博客 166

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

Ornith-1.0-35B-4bit vs 原版模型:4.649 bits/weight量化技术如何做到精度无损?

Ornith-1.0-35B-4bit是基于deepreinforce-ai/Ornith-1.0-35B进行4-bit(组大小64,**4.649 bits/weight**)MLX量化的模型,由`mlx-vlm` 0.6.3生成。它是完整的多模态模型,视觉编码器与语言模型一起被保留和量化,专为Apple Silicon设计,可在`mlx-vlm`或任何MLX应用中运行。 ## 量化技术解析:

gitblog_00679的博客 869

百川2-13B-4bits量化版深度优化:让OpenClaw任务执行速度提升20%

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,显著提升OpenClaw任务执行效率。该镜像通过深度优化实现了20%的速度提升,特别适用于自动化任务处理如邮件回复、文件整理等日常办公场景,帮助用户高效完成重复性工作。

weixin_36151775的博客 41

深入理解mlx-community/Fara-7B-8bit的量化参数:group_size与bits配置详解

mlx-community/Fara-7B-8bit是微软Fara-7B模型的MLX格式转换版本,专为Apple Silicon优化并量化至8-bit。作为基于Qwen2.5-VL构建的计算机使用代理模型,它保留了完整的视觉路径,能够读取截图并与界面交互,是一款功能强大的多模态AI模型。 ## 量化参数核心配置解析 ### 8-bit量化的关键参数 在mlx-community/Fara-7B

gitblog_00189的博客 377

Gemma-SEA-LION-v4.5-E2B-IT-8bits核心技术解析:8位量化与东南亚语言优化

Gemma-SEA-LION-v4.5-E2B-IT-8bits是一款专为东南亚语言优化的高效大语言模型,通过先进的8位量化技术实现了内存占用的大幅降低,同时保持了出色的多语言处理能力。这个模型基于Google的Gemma架构,特别针对东南亚地区的9种主流语言进行了深度优化,为开发者和研究人员提供了一个轻量级但功能强大的AI工具。 ## 🚀 8位量化技术:模型压缩的终极方案 8位量化是Gem

gitblog_00264的博客 450

百川2-13B-4bits量化部署方案:为边缘计算设备(Jetson AGX Orin)适配的轻量级方案

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,实现大语言模型在边缘设备的轻量级应用。该方案通过NF4量化技术显著降低显存占用,使得用户能够快速搭建本地智能对话系统,适用于构建企业内部知识问答、智能客服助手等需要数据隐私保护的场景。

weixin_35755562的博客 232

百川2-13B-4bits量化版多场景应用:电商文案生成、技术面试题设计、PPT大纲编写

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,并展示了其在实际工作场景中的强大应用。该模型能够高效辅助内容创作与结构化思考,例如,用户可快速生成电商产品文案、设计技术面试题或编写专业的PPT汇报大纲,显著提升工作效率。

EmeraldWolf23的博客 739

OpenClaw性能优化指南:百川2-13B-4bits模型下的任务加速技巧

本文介绍了如何在星图GPU平台上自动化部署百川2-13B-对话模型-4bits量化版 WebUI v1.0镜像,实现高效任务处理。通过该平台,用户可快速搭建智能对话系统,应用于自动化文件整理、智能客服等场景,显著提升工作效率。文章还详细解析了针对量化模型的性能优化技巧,帮助用户充分发挥该镜像的潜力。

TopazHawk54的博客 366

TDengine 命名与边界限制完全指南:命名规则、密码字符集与系统容量上限解析

> 本文系统梳理 TDengine(当前开源仓库版本)在对象命名、密码设置与系统容量方面的全部边界限制:从标识符合法字符集、反引号转义命名,到数据库名、表名、列数、标签数、单行数据大小、SQL 长度、副本数与 vgroup 上限等硬性约束。结合仓库源码中的常量定义与参数解析实现,帮助你在建库、建表、设计与运维阶段规避命名冲突与容量超限问题。 ## 为什么需要一份"边界限制"清单 TDengin

gitblog_00355的博客 433

uni-app x 图片预览插件 uni-previewImage 完全指南:API 详解、源码剖析与 UTS 插件实践

uni-previewImage 是 uni-app x 生态中基于 UTS 实现的开源图片预览插件,提供 `previewImage` 与 `closePreviewImage` 两套 API,覆盖 Android、iOS、HarmonyOS 及 Web 多端。本文以插件自带 [readme.md](https://link.gitcode.com/i/94b837374c406e44525d7

gitblog_00023的博客 734
上一篇: DSP C语言基础要点
下一篇: 来自西安交大的巨牛MP3解码好文
xiaomantoubaba
博客等级 码龄23年 75粉丝 44原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值