量化 | 量化阈值策略EQ

最新推荐文章于 2025-12-20 19:32:34 发布
原创 最新推荐文章于 2025-12-20 19:32:34 发布 · 1.2k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #量化 #EQ

本文介绍了EasyQuant方法，它通过优化误差累计，将整网络决策简化为单网络决策，并利用余弦相似度目标，交替调整权重和激活值的缩放系数，实现高效的量化过程。

“EasyQuant: Post-training Quantizationvia Scale Optimization” 该文中提到了这种用于得到量化缩放参数的方法。

EQ方法的主要思想是：误差累计，整网决策变成单网决策，以余弦相似度为目标，交替优化权重缩放系数 和 激活值缩放系数。

极智AI | 量化实现分享五：详解格灵深瞳 EQ 量化算法实现
极智视界
01-05 1400
大家好，我是极智视界，本文剖析一下格灵深瞳 EQ (Easy Quant) 量化算法实现，以 Tengine 的实现为例。
量化教程3——量化校准方法
qq_41920323的博客
03-18 1790
量化校准方法对比
EasyQuant:EasyQuant（EQ）是一种有效且简单的训练后量化方法，它可以有效地优化权重和激活的比例
03-19
EasyQuant：通过尺度优化进行训练后量化 EasyQuant（EQ）是一种有效且简单的训练后量化方法，它可以有效地优化权重和激活的比例。我们的论文可在 要求 pip install -r requirements.txt 更新： 2020年6月25日：我们发布了EasyQuant.pdf文件和eq-ncnn。 2020年6月24日：我们发布了VGG16示例。 资料准备 首先，对于ImageNet1k分类任务，请下载 。我们从ImageNet val中将3000个校准图像随机采样到data/calib.txt以进行KLD量化，并从calib到data/list50.txt选择50个样本以进行EasyQuant比例微调。然后，我们将评估Val集上的量化模型。 怎么跑 准备好Caffe和ncnn 编译python_ncnn # cd python_ncnn # modify ncn
量化论文笔记
weixin_42638415的博客
09-06 919
本文通过优化缩放参数（scale)提出了一种更为简单高效的后量化方法，称为EasyQuant（EQ），可以达到与训练中量化相近的精度。EasyQuant优化了每一层权重和激活值的量化因子的取值，使得卷积后达到更高的量化精度；随后将权重和激活值的位宽降至7bit，中间值以int16形式存储，来加速推理。实验结果显示在不同计算机视觉任务中EQ比TensorRT效果更佳，7bit位宽后量化达到了接近int8的精度。
大模型量化
xycxycooo的博客
07-25 2051
量化是指将连续值或高精度数值映射到一组离散值或低精度数值的过程。在深度学习中，量化通常涉及将32位浮点数（FP32）转换为较低精度的表示形式，如16位浮点数（FP16）、8位整数（INT8）或4位整数（INT4）。大模型量化是一种重要的优化技术，通过将模型权重和激活值转换为低精度表示，可以显著减少内存占用和提高推理速度。量化方法包括训练后量化和量化感知训练，量化粒度包括逐层量化、逐通道量化和逐张量量化，量化算法包括线性量化和非线性量化。在实践中，需要选择合适的量化方法和参数，并在验证集上评估量化效果。
极智AI | 谈谈几种量化策略：MinMax、KLD、ADMM、EQ
极智视界
09-27 3754
本文主要聊一下深度学习模型量化相关策略。
极智AI深度解析MinMax KLD ADMM EQ量化策略
资源摘要信息:"本文将深入探讨几种先进的量化交易策略，包括MinMax、KLD、ADMM以及EQ策略，并着重分析它们在实际应用中的原理和优势。量化交易是一种利用数学模型和算法来分析市场数据、预测价格变动并自动执行交易...
Python量化投资：构建价值投资组合管理平台
AI天才研究院
07-29 1050
想象你是一位准备出海的船长（投资者），大海（股市）波涛汹涌，有宝藏（收益）也有暗礁（风险）。传统的投资方式可能像"凭感觉掌舵"，而量化投资则是给你一套"自动驾驶系统"——用数据和规则导航，让航行更稳健。本文的目的，就是教你用Python亲手打造这套"自动驾驶系统"，专注于"价值投资"策略（寻找被低估的优质公司）。数据获取：自动收集股票的价格和财务数据（像船上的雷达收集海况信息）价值选股：用财务指标筛选"便宜又好"的股票（像用探测器找宝藏）组合优化。
异常处理设计宝典：保障PyQT量化系统稳定运行的关键策略
![基于pyQT实现的量化交易系统，包括数据同步，量化策略，模拟交易，实盘交易等主要功能.zip]... # 摘要 在PyQT量化系统中，异常处理是保障系统稳定性和用户体验的关键环节。本文系统探讨了异常处理的基础理论与机制...
【基金量化研究系列】大类资产配置研究（六）——多资产风险平价策略
Mikey_Sun的博客
05-28 8265
文章目录1. 引言2. 风险平价策略简介 1. 引言 2. 风险平价策略简介 所谓风险平价策略，即将风险平均分散入各资产，使得每一类资产贡献的风险相等。 所以首先要解决的问题，就是如何去衡量各类资产所贡献的风险大小。 首先，我们知道，对于每一类资产，设每一类资产权重为 ωi 则组合资产的风险有： σp=(ωTΣω)12 \sigma_p = (\omega^T \Sigma \omega )^{ \frac{1}{2}} σp​=(ωTΣω)21​ 其中： 定义第 i 类资产的风险贡献率（Risk Co
量化技术详解
qq_57540674的博客
10-08 1666
量化公式中的r表示原来的浮点值，Q表示量化后的整型数据，s表示缩放因子，是量化相关的参数。网络中值的分布往往是不均匀的，更多的是类似高斯分布的形式。非对称量化表示的范围没有严格的限制，可以根据浮点值的范围，选取任意的想要表示的范围。网络中的值往往不是均匀分布的，大部分是中间多两边少的“钟”型分布，此外还可能存在一些离群点，如果量化要表示所有的浮点值，反而可能会降低量化的精度。：对称量化中浮点值的零点直接映射到量化值的零点，因此不需要其他参数来调整零点的映射的位置，与量化相关的参数只有缩放因子s。
（转）阈值？阀值？？
weixin_30518397的博客
12-06 634
　　最近用到"阈值"这个词，一直以为有个“阀值”与之相对应。 　　在做一个自动控制的项目，比如会涉及到一个变量的上下限，在学校实验室一般就说“阀值”。现在在实习，project manager一直说“yù值”，我就想是不是自己读错字了？“fá门”，没错啊。今天看到PM板书“阈值”。　　看到阈值这个词，觉得很别扭，发扬本专业精神，查个水落石出！ 　　《辞海》中关于“阀”和“阈”的词...
深度学习模型剪枝、量化和TensorRT推理
linghu8812的博客
11-10 4888
深度学习模型剪枝、量化和TensorRT推理 模型剪枝算法 参考文献：Rethinking the Value of Network Pruning (ICLR 2019) github：https://github.com/Eric-mingjie/rethinking-network-pruning Rethinking the Value of Network Pruning这篇文献主要介绍了以下几种剪枝算法，并在github上开源了代码，在ImageNet和cifar两个数据集上进行了测试，论文
【量化】——采用KL散度计算阈值
怡宝2号
09-14 2277
int8, KL散度 1. KL散度的计算 转载自:https://zhuanlan.zhihu.com/p/339613080 KL散度可以用来衡量两个概率分布之间的相似性，两个概率分布越相近，KL散度越小。 其计算公式为： 通常P为真实事件的概率分布，Q为理论拟合出来的该事件的概率分布。因为DKL(P∣∣Q)D_{KL}(P||Q)DKL​(P∣∣Q) (P拟合Q)和 DKL(Q∣∣P)D_{KL}(Q||P)DKL​(Q∣∣P)(Q拟合P)是不一样的。 2. code 代码摘自:https://.
AI 工具实战测评：从技术性能到场景落地的全方位解析
hello world/linux
12-16 755
幽冥大陆(五十四)ASR C语言识别到自动化软件——东方仙盟筑基期
最新发布
cybersnow精通 28 门计算机语言，凭借其超凡的技术能力，成功开发过上万个应用，广泛涉及政府、商业、个人等众多领域，甚至在检察院、环保局、公安局等专业场景中也大放异彩。不仅熟练掌握单片机和物联网开发，在软件架构设计方面更是独树一帜，自创了跨平台软件
12-20 627
ASR（Automatic Speech Recognition，自动语音识别）技术在软件自动化命令领域正掀起一场变革。它使得软件系统能够理解人类语言，并依据指令自动执行任务。通过 ASR，用户无需手动输入复杂的命令或进行繁琐的界面操作，只需说出指令，软件就能精准响应。在自动化脚本编写中，ASR 可以实时将语音转化为代码命令。例如，在编写 Python 自动化脚本时，用户说出 “创建一个名为‘data’的列表”，ASR 系统就能将其转化为对应的 Python 代码data = []。
多模态赋能情绪理解：Qwen3-VL+LLaMA-Factory 的人脸情绪识别实战
Lab4AI的博客
12-17 821
本项目依托Lab4AI平台，基于LLaMA-Factory成功对Qwen3-VL进行了完整的微调流程。我们将传统的人脸情绪识别任务与多模态大语言模型（MLLM）相结合，探索了MLLM在视觉情绪理解中的应用。通过微调Qwen3-VL，我们成功将传统的分类任务转化为多模态推理任务，显著提升了模型在复杂场景下的鲁棒性和准确率。这一方案不仅在人脸情绪识别上取得了显著提升，还为其他视觉任务的多模态大模型应用提供了新的思路，具有广泛的应用前景。
全品类电商AI助手诞生，AI试衣+万饰穿戴+图生视频，覆盖全链路
Dreamshop_AI的博客
12-19 903
DreamshopAI升级推出三大核心功能，全面革新电商视觉生产流程：AI试衣功能通过智能识别服装款式和材质，7-15天模特拍摄缩短至几分钟；万饰穿戴功能突破品类限制，精准还原珠宝、箱包等商品的材质细节；图生视频功能将静态图片转化为高质量短视频，大幅降低视频制作门槛。系统基于千万级电商数据训练，能自动适配不同市场需求，并推出AI试衣屏Dreamfit实现线上线下体验闭环。此次升级使AI成为电商运营的核心生产力工具，将传统视觉制作效率提升3倍以上，推动电商行业进入智能化新阶段。
深入NVIDIA Nemotron-3：高效准确的技术、工具与数据深度解析
专注于人工智能领域的小何尚
12-18 886
摘要：NVIDIA Nemotron-3技术解析 NVIDIA Nemotron-3系列模型为构建专业AI智能体提供了突破性解决方案。该系列采用创新的混合Mamba-Transformer MoE架构，结合状态空间模型(Mamba)的长序列处理能力、Transformer的精确推理和MoE的高效计算，支持高达100万token的上下文处理。模型通过NeMo Gym多环境强化学习框架训练，使智能体掌握复杂任务执行能力。技术亮点包括：1)混合架构实现超长上下文推理；2)开源RL训练环境支持智能体开发；3)原生支
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值