解读业界5种主流的深度网络模型

摘要:介绍目前业界主要的模型优化的方法,然后对模型量化进行重点阐述,介绍量化的基本原理,方法分类,未来发展,以及对前沿论文进行解读。

本文分享自华为云社区《模型量化综述及应用》,作者:Alan_wen。

前言

随着深度学习的不断发展,神经网络广泛应用于不同的领域,取得远超以往的性能,但是深度网络模型的参数也越来越大,严重制约着深度网络在业界的应用,因此本文即将介绍目前业界主要的模型优化的方法,然后对模型量化进行重点阐述,介绍量化的基本原理,方法分类,未来发展,以及对前沿论文进行解读。

1.模型优化的方法

1.1设计高效的网络结构

设计紧凑的网络结构可以实现模型的优化,比如提出的MobileNet系列网络,其中简洁的Depth-Wise Convolution和Point-Wise Convolution。但是目前手工设计的神经网络已逐渐被AutoML和网络结构搜索取代,通过网络结构搜索可以得到高精度而结构又紧凑的网络。

1.2模型剪枝

使用手工设计的网络结构一般可以获得较高的精度,但是巨大的网络参数很难直接应用到工业界的产品中,一般会对模型进行剪枝,模型剪枝分为结构化剪枝和非结构化剪枝,非结构化剪枝一般很难实现底层加速,而模型剪枝也逐渐被网络结构搜索取代。

1.3知识蒸馏

除了剪枝可以将一个大模型缩小为小模型外,知识蒸馏同样可以实现该功能。知识蒸馏将原先大模型作为Teacher模型,而设计的小模型Student模型,通过soft-target引导Student模型训练,实现Teacher模型的知识迁移。

1.4稀疏

稀疏主要是通过对网络权重或者特征进行稀疏,可以通过正则化训练的方式实现稀疏化,而网络权重稀疏后一般通过与模型剪枝的方式结合,对不活跃的权重进行裁剪,以压缩网络结构。

1.5模型量化

模型量化是目前工业界最有效的模型优化方法之一,如FP32-->INT8可以实现4倍的参数压缩,在压缩内存的同时可以实现更快速的计算,进行极端的二值量化理论上甚至可以实现32倍的压缩,但是过度的压缩会导致模型的精度快速下降。下文将对模型量化进行详细介绍。

2.模型量化综述

2.1什么是量化?

在信息系统中量化是将信号的连续取值近似为有限多个离散值的过程 (可以认为是一种信息压缩的方法) 。

在计算机系统中,量化是指定点与浮点等数据之间建立一种数据映射关系,使得以较小的精度损失代价获得了较好的收益,可简单理解为用“低比特”数字表示FP32等数值。

在开始介绍量化的原理之前先问三个问题:

为什么量化有用?

  • 因为卷积神经网络对噪声不敏感,量化相当于对原输入加入了大量的噪声。

为什么用量化?

  • 模型太大,比如VGG19大于500MB的参数量,存储压力大;
  • 每个层的weights范围基本都是确定的,且波动不大,适合量化压缩;
  • 此外,量化既减少访存又可减少计算量

为什么不直接训练低精度的模型?

  • 因为训练需要反向传播和梯度下降,int8为离散数值,举个例子就是我们的学习率一般都是零点几零点几的,int8不匹配无法反向传播更新。

2.2量化原理

量化是指将信号的连续取值近似为有限多个离散值的过程。可理解成一种信息压缩的方法。在计算机系统上考虑这个概念,一般用“低比特”来表示。

模型量化为定点与浮点等数据之间建立一种数据映射关系,使得以较小的精度损失代价获得了较好的收益。详细如下:

R 表示真实的浮点值,Q 表示量化后的定点值,Z 表示 0 浮点值对应的量化定点值,S 则为定点量化后可表示的最小刻度。 由浮点到定点的量化公式如下:

浮点到定点的量化:

2.3量化基础概率

均匀与非均匀量化:

如上图所示,量化可分为均匀量化和非均匀量化,上图左图的均匀量化即为公式(1)方式的线性量化。而网络权重或者特征分布不一定是均匀的,简单的线性量化可能导致原网络明显的信息丢失,因此还可以进行非均匀量化,如使用Kmeans对网络权重进行聚类,得到不同的聚类中心,然后将聚类中心作为同一簇权重的量化代表。

对称与非对称量化:

在理想的情况下,如上图左图所示,特征分布比较均匀,因此可以对模型进行对称量化,即以0点值左右两边绝对值相等进行量化。但是很多情况下模型权重或特征是分布不均匀的,不一定在0点值两边对称,如上图右图所示,直接进行对称量化会某一侧的特征被严重压缩,大量丢失网络信息,因此可为了尽可能以的保持原网络表示的信息,可进行非对称量化。

动态与静态量化:

有不同的校准方法来确定上图[α, β]的剪切范围。量化方法的另一个重要区分因素是裁剪范围的确定。可以静态地计算权重的范围,因为在大多数情况下,参数在推断期间是固定的。然而,每个输入样本的激活映射是不同的。因此,有两种量化激活的方法:动态量化和静态量化。

在动态量化中,在运行时期间为每个激活映射动态计算此范围。这种方法需要实时计算信号统计信息(最小值、最大值、百分位数等),这些统计信息可能具有非常高的开销。然而,动态量化通常能获得更高的精度,因为信号范围是精确计算每个输入的。

另一种量化方法是静态量化,其中剪裁范围是预先计算的,在推理期间是静态的。这种方法在推理过程不会增加任何计算开销,但与动态量化相比,它通常会导致更低的精度。预计算的一种流行方法是运行一系列校准输入以计算典型激活范围。

总的来说,动态量化动态计算每个激活的裁切范围,通常可实现最高精度。然而,动态计算裁切的范围非常消耗计算,因此,业界最常使用静态量化,其中所有输入的裁切范围都是固定的。

不同量化粒度:

在计算机视觉任务中,每层的激活输入有许多不同的卷积滤波器卷积,如图上所示。这些卷积滤波器的每个都可以具有不同的值范围。因此,量化方法的一个区别是如何为权重计算裁切范围[α,β]的粒度。可将它们分类为层量化,分组量化和通道量化:
a)层量化:在这种方法中,裁切范围是通过考虑层卷积滤波器中的所有权重来确定的,如上图的第三列所示。通过该层中整个参数的统计信息(如最小、最大和百分位数等),然后对整层卷积滤波器使用相同的裁切范围。虽然这种方法实现非常简单,但它通常会导致次优解,因为每个卷积滤波器的范围可能会有很大的变化,会使某些参数范围相对较窄的卷积核失去量化分辨率。
b)分组量化:可以将层内的多个不同通道分组,以计算裁切范围(激活或卷积核)。这对于单个卷积/激活中参数分布变化很大的情况可能会有所帮助,分组量化可以在量化分辨率和计算开销之间建立一个很好的妥协。
c)通道量化:裁切范围的一个通常选择是为每个卷积滤波器使用固定值,独立于其他通道,如上图最后一列所示。也就是说,每个通道都被分配了一个专用的缩放因子。这确保了更好的量化分辨率,并通常导致更高的精度,通道量化是目前用于量化卷积核的标准方法。

随机量化

在推理过程中,量化方案通常是确定性的。然而,这并不是唯一的可能性,一些工作已经探索了随机量化用于量化感知训练以及降低精度训练。高层次的直觉是,与确定性量化相比,随机量化可能允许NN进行更多探索。人们通常认为小的权重更新可能不会导致任何权重变化,因为四舍五入操作可能总是返回相同的权重。然而,启用随机舍入可能会为NN提供转变的机会,从而更新其参数。下面公式为在Int量化和二值量化的随机舍入方式。

微调的方法

量化后,通常需要调整神经网络(NN)中的参数。这可以通过retraining模型来执行,该过程称为量化感知训练(QAT),也可以在不retraining的情况下完成,该过程通常称为训练后量化(PTQ)。上图显示了这两种方法之间的示意性比较(左图为量化感知训练,右图为训练后量化),并在下文进一步讨论。

  • 量化感知训练(伪量化)

给定一个训练好的模型,量化可能会对训练好的模型参数引入扰动,这可能会将模型偏离以浮点精度训练时收敛到的点。可以通过使用量化参数重新训练NN模型来解决这个问题,以便模型能够收敛到具有更好损失的点。一种流行的方法是使用量化感知训练(QAT),其中通常的正向和反向传递是在浮点中对量化模型执行的,但模型参数在每次梯度更新后都会量化。特别是,在以浮点精度执行权重更新后,执行此投影非常重要。使用浮点执行向后传递非常重要,因为在量化精度中累积梯度可能会导致零梯度或具有高误差的梯度,特别是在低精度中。
反向传播中的一个重要微妙之处是如何处理不可微量化算子(公式1)。在没有任何近似的情况下,这个运算符的梯度几乎在任何地方都是零,因为在公式中的舍入操作是分段平面运算符。解决这个问题的一种流行方法是通过所谓的直通估计器(STE)近似该运算符的梯度。STE基本上忽略了舍入操作,并使用标识函数近似它,如下图所示。

尽管STE是粗略近似的,但QAT已被证明有效。然而,QAT的主要缺点是重新训练NN模型的计算成本。这种重新训练可能需要执行几百个epoch来恢复精度,特别是对于低位精度量化。如果量化模型要在很长一段时间内部署,如果效率和准确性特别重要,那么在重新训练方面的投资可能是值得的。然而,情况并不总是这样,因为有些模型的寿命相对较短。

  • 训练后量化

替代昂贵的QAT方法是训练后量化(PTQ)执行量化和权重调整,不进行任何微调。因此,PTQ的开销非常低,而且往往可以忽略不计。与QAT不同,QAT需要足够数量的训练数据进行再培训,PTQ还有一个额外的优势,即它可以应用于数据有限或未标记的情况。然而,与QAT相比,这通常是以更低的精度为代价的,尤其是对于低精度量化。

  • Zero Shot(即data-free)

如目前所讨论的,为了在量化后实现最小的精度下降,我们需要访问整个或者部分训练数据。首先,我们需要知道激活的范围,以便我们可以剪裁值并确定适当的缩放因子(文献中通常称为校准)。其次,量化模型通常需要微调来调整模型参数并恢复精度下降。然而,在许多情况下,在量化过程中,不可能访问原始训练数据。这是因为训练数据集要么太大,无法分发,要么是独有的(例如Google的JFT-300M),要么是由于安全或隐私问题(例如医疗数据)而敏感的。目前提出了几种不同的方法来解决这一挑战,我们称之为Zero Shot量化(ZSQ)。根据高通的一个工作的启示[2],可以描述两个不同级别的Zero Shot量化:

第1级:无数据,无微调(ZSQ+PTQ)。
第2级:无数据,但需要微调(ZSQ +QAT).

级别1允许更快、更容易的量化,而无需任何微调。微调通常很耗时,而且通常需要额外的超参数搜索。级别1可通过权重均衡或者BatchNorm的统计参数实现校正,无需微调。


然而,级别2通常会导致更高的精度,因为微调有助于量化模型恢复精度下降,特别是在超低位精度设置中。级别2微调的输入数据主要通过GAN生成,可根据量化前的模型,使用GAN生成近似的分布数据,而无需再访问外部数据。

Zero Shot(又名date-free)量化执行整个量化,而不访问训练/验证数据。这对于希望加快客户工作负载部署而无需访问其数据集的提供商来说尤其重要。此外,这对于安全或隐私问题可能限制对训练数据的访问的情况非常重要。

2.4量化进阶概念

  • FP32,伪量化和定点量化

部署量化NN模型有两种常见的方法,模拟量化(又名伪量化)和仅整数量化(又名定点量化)。在模拟量化中,量化的模型参数存储在低精度中,但操作(如矩阵乘法和卷积)是用浮点算法执行的。因此,量化参数需要在浮点运算之前反量化,如图上图(中间)所示。因此,人们不能完全受益于快速高效的低精度逻辑与模拟量化。然而,在纯整数量化中,所有操作都使用低精度整数算术执行,如上图(右)所示。这允许整个推理可以用有效的整数算法执行,而不需要对任何参数或激活进行任何浮点反量化。

一般来说,使用浮点算法在全精度下执行推理可能有助于最终量化精度,但这是以无法从低精度逻辑中受益为代价的。低精度逻辑在延迟、功耗和区域效率方面与全精度逻辑相比具有多重优势。与模拟/假量化相比,仅整数量化和二进量化更可取。这是因为仅整数使用较低精度的逻辑进行算术,而模拟量化使用浮点逻辑来执行运算。然而,这并不意味着伪量化永远没有用处。事实上,伪量化方法对带宽限制而不是计算限制的问题是有益的,例如在推荐系统中,对于这些任务,瓶颈是内存占用空间和从内存加载参数的成本。因此,在这些情况下,执行伪量化是可以接受的。

  • 混合精度量化

很容易看到,随着我们使用较低精度量化,硬件性能得到了提高。然而,将模型均匀量化到超低精度可能会导致精度显著下降。可以通过混合精度量化来解决这个问题。在这种方法中,每个层都以不同的位精度量化,如上所示。这种方法的一个挑战是,选择此位设置的搜索空间在层数上是指数级的。
目前提出了不同的方法来解决这一巨大的搜索空间。
a)为每个层选择这种混合精度本质上是一个搜索问题,并且已经提出了许多不同的搜索方法。

b)另一类混合精度方法使用周期函数正则化来训练混合精度模型,通过自动区分不同层及其在精度方面的变化重要性,同时学习它们各自的位宽。

c)HAWQ 引入了一种基于模型二阶灵敏度的自动方法来查找混合精度设置。
混合精度量化已被证明是一种有效的硬件高效方法,用于不同神经网络模型的低精度量化。在这种方法中,NN的层被分组为对量化敏感/不敏感,每个层使用高/低位。因此,人们可以最大限度地减少精度下降,并仍然受益于减少内存占用和低精度量化更快的加速。

  • 硬件感知量化

量化的目标之一是提高推理时延。然而,并非所有硬件在量化某个层/操作后都提供相同的速度。事实上,量化的好处取决于硬件,片上内存、带宽和缓存层次结构等许多因素都会影响量化速度。

考虑这一事实对于通过硬件感知量化实现最佳效益非常重要。因此需要模拟硬件延迟,在硬件中部署量化操作时,需测量不同量化位精度的每层的实际部署延迟。

  • 蒸馏辅助量化

量化中一个有趣的工作路线是结合模型蒸馏以提高量化精度。模型蒸馏是一种使用精度较高的大模型作为教师,帮助训练紧凑型学生模型的方法。在学生模型的训练过程中,模型蒸馏提出利用教师产生的软概率,而不是仅仅使用ground-true类标签,该软概率可能包含更多输入信息。也就是说,总体损失函数包括学生损失和蒸馏损失。

  • 极致量化

二值化是最极端的量化方法,其中量化值被限制为1位表示,从而将内存需求大幅降低32×。除了内存优势外,二进制(1位)和三元(2位)操作通常可以使用位算术有效计算,并可以在更高精度(如FP32和INT8)上实现显著的加速。然而,简单的二值化方法将导致精度显著下降。因此,有大量工作提出了不同的解决方案来解决这一问题,主要分为以下三类:

  1. 量化误差最小化(使用多个二值矩阵组合模拟近似,或者使用更宽网络)
  2. 改进损失函数(例如加入蒸馏损失)
  3. 改进训练方法(如反向传播时用更光滑的函数取代sign)

极低位精度量化是一条非常有前途的研究方向。然而,与基线相比,现有方法通常会导致高精度下降,除非执行非常广泛的调谐和超参数搜索。但这种精度下降对于不那么关键的应用可能是可以接受的。

2.5未来量化方向

在这里,我们简要讨论了未来量化研究的几个挑战和机遇。这分为量化工具、硬件和NN架构的共同设计、联合多种压缩方法和量化训练。

  • 量化工具:
    使用当前的方法,将不同的NN模型量化并部署到INT8是很简单的,而不会明显失去准确性。有几个软件包可用于部署INT8量化模型(例如,Nvidia的TensorRT、TVM等),每个软件包都有良好的文档。然而,用于低位精度量化的软件并不广泛可用,有时也不存在。例如,Nvidia的TensorRT目前不支持INT8以外的量化。此外,对INT4量化的支持直到最近才被添加到TVM中。使用INT4/INT8进行低精度和混合精度量化在实践中有效和必要的,因此,开发用于低精度量化的高效软件API将产生重要影响。
  • 硬件和NN架构联合设计:
    如上所述,低精度量化的经典工作与机器学习的最新工作之间的一个重要区别是,神经网络参数可能具有非常不同的量化值,但仍然可以很好地泛化近似。例如,通过量化感知训练,我们可能会收敛到一个不同的解,远离单一精度参数的原始解,但仍然获得良好的准确率。人们可以利用这种自由度,也可以在NN架构被量化时调整它。例如,改变NN架构的宽度可以减少/消除量化后的泛化间隙。未来的工作之一是在模型被量化时联合调整其他体系结构参数,如深度或单个内核。未来的另一项工作是将这种共同设计扩展到硬件体系结构。
  • 联合多种压缩方法:
    如上所述,量化只是有效部署NN的方法之一。其他方法包括高效的NN架构设计、硬件和NN架构的协同设计、剪枝和知识蒸馏、网络框架搜索等。量化可以与这些其他方法结合使用。然而,目前很少有工作探索这些方法的最佳组合。例如,NAS联合量化、剪枝和量化可以一起应用于模型,以减少其开销,理解结构化/非结构化剪枝和量化的最佳组合非常重要。同样,未来的另一个方向是研究这些方法与上述其他方法之间的联合。
  • 量化训练:
    也许量化最重要的用途是以半精度加速NN训练。这使得使用更快、更节能的低精度逻辑进行训练。然而,要把这一点进一步推到INT8精确训练是非常困难的。虽然在这一领域存在一些有趣的工作,但所提出的方法通常需要大量的超参数调整,或者它们只适用于一些相对容易的学习任务的NN模型。基本的问题是,在INT8精度的情况下,训练可能会变得不稳定和发散。解决这一挑战可能会对多个应用程序产生很大影响,特别是对于前沿的训练。

3.量化论文解读

3.1Data-Free 量化

Data-Free Quantization Through Weight Equalization and Bias Correction[2]. (ICCV2019)

这是高通提出的一篇文章,提出Data-Free实现训练后量化,文章中的主要创新点是提出了权重均衡和偏移纠正的方法。

如下图(左)所示,同一层的卷积核值范围分布极不均衡,而每通道量化又实现相对复杂和消耗额外的时间,因此提出对权重进行均衡化,如下图(右)所示,经过均衡化后,整体值范围分布相对均衡。

而权重均衡主要是利用了等价伸缩的原理,如公式

的等价,在卷积核全连接层中,对前一层权重的缩放可以通过缩放因子传递到下一层。

偏移纠正是因为在模型量化过程中数据会发生整体的偏移,因此通过计算偏移的误差,然后对误差进行抵消可实现更准确的量化效果。如下表所示,文章中提出的两种方法在层量化的方式中可以实现与每通道量化接近的结果。

Post training 4-bit quantization of convolutional networks for rapid-deployment[3]. (NIPS2019)

该文章使用4bit精度实现了训练后量化,提出了分析计算最佳剪辑范围(ACIQ)和通道位宽设置。ACIQ提出以最小量化误差为优化目标,通过优化的方式得到不同精度量化的最优裁断值,同时还提出了在总bit精度固定的情况下,不同通道设置不同的精度进行量化,可以实现更加合适和准确的量化,但是不同通道设置不同的bit进行量化难以实现工业加速。下表展示了得到的实验结果,在4bit量化下,模型下降2%左右的准确率。

Differentiable Soft Quantization: Bridging Full-Precision and Low-Bit Neural Networks[4].(ICCV2019)

对于低比特量化,如二量化可以有效地加速推理,同时降低深度神经网络的内存消耗,这对于在资源有限的设备(如嵌入式设备)上部署模型至关重要。然而,由于低比特量化的离散性,现有的量化方法往往面临训练过程不稳定和性能严重下降的问题。为了解决这一问题,该文章提出了一种可微软量化(DSQ)方法来弥补全精度网络和低比特网络之间的差距。DSQ可以在训练过程中自动进化,逐步逼近标准量化,如下图所示。由于DSQ的可微性,在适当的限幅范围内,DSQ可以在后向传播中跟踪精确的梯度,减少前向过程中的量化损失。

DSQ采用一系列双曲正切函数逐步逼近阶梯函数进行低比特量化(如1比特情况下的符号函数),同时保持平滑性,便于梯度计算。该文章针对一个近似特征变量重新构造了DSQ函数,并相应地发展了一种进化训练策略来逐步学习微分量化函数。在训练过程中,DSQ和标准量化之间的近似值可以由特征变量控制,特征变量和限幅值可以在网络中自动确定。DSQ减少了由极低比特量化引起的偏差,从而使训练中的前向和后向过程更加一致和稳定。

下表可以看到该方法在较低比特量化的情况下,与FP32相比,基本没有准确率退化。

 

Mixed Precision Quantization of ConvNets via Differentiable Neural Architecture Search[5].(ICLR2019)

如上图所示,该论文提出了可微分NAS(DNAS),该NAS方法将候选操作以概率θ随机激活,而非直接的softmax进行加权,并且概率θ作为搜索过程中可以优化的参数。由于DNAS前期初始化以相等的概率进行随机激活操作,而在训练后期概率θ会出现明显的差异化,因此DNAS在前期训练时似DARTS,而后期似ENAS。

为了实现混合精度的量化,该论文在DNAS的基础上,将不同bit量化作为不同的结构(如下图所示),搜索优化得到不同层不同的量化精度。

通过可微分搜索得到混合精度量化,如下表所示,在Cifar10数据集上,可以做在10倍以上加速的条件下,量化后准确率还略高于FP32。

APQ: Joint Search for Network Architecture, Pruning and Quantization Policy[6]. (CVPR2020)

该论文提出了APQ,用于在资源受限硬件上高效的深度学习推理。与以前分别搜索神经架构、剪枝策略和量化策略的方法不同,该论文以联合的方式优化它们。为了应对它带来的更大的设计空间,提出训练一个量化感知的精度预测器,以快速获得量化模型的精度,并将其反馈给搜索引擎,以选择最佳拟合。

然而,训练这种量化感知精度预测器需要收集大量量化的模型、精度配对,这涉及量化感知微调,因此非常耗时。为了应对这一挑战,该论文提出将知识从全精度(即fp32)精度预测器转移到量化感知(即int8)精度预测器,这大大提高了样本效率。此外,收集fp32精度预测器的数据集只需要通过从预先训练的once-for-all[7]网络中采样来评估神经网络,而不需要任何训练成本,这是高效的。下图为从全精度预测器迁移训练量化感知的准确率预测器的过程。

下表为在ImageNet数据集上的结果:

参考文献:

  1. A Survey of Quantization Methods for Efficient Neural Network Inference.
  2. Data-Free Quantization Through Weight Equalization and Bias Correction, ICCV2019.
  3. Post training 4-bit quantization of convolutional networks for rapid-deployment, NIPS2019.
  4. Differentiable Soft Quantization: Bridging Full-Precision and Low-Bit Neural Networks, ICCV2019.
  5. Mixed Precision Quantization of ConvNets via Differentiable Neural Architecture Search, ICLR2019.
  6. APQ: Joint Search for Network Architecture, Pruning and Quantization Policy, CVPR2020.
  7. Once for all: Train one network and specialize it for efficient deployment,ICLR2020.
  8. Binary Neural Networks: A Survey, Pattern Recognition, 2020.
  9. Forward and Backward Information Retention for Accurate Binary Neural Networks, CVPR2020.

点击关注,第一时间了解华为云新鲜技术~

相关推荐

鸿蒙案例上新啦 | 购物、听歌、健身:15个模板带你一键激活社交娱乐

页面层级如何组织、跨页共享状态如何同步、列表与详情及个人中心如何形成稳定闭环。鸿蒙开发实践中心将这些高频消费与互动场景沉淀为可参考的标准模板,提供从业务架构到界面实现的快捷实践入口。更多实战案例欢迎前往鸿蒙开发实践中心案例中心查看并开启云端体验。

华为云官方博客 371

鸿蒙案例上新啦 | 出门打车、到家上课:25个模板带你一屏打通日常生活

如何合理拆分页面组件、如何建立单一可信的状态源、如何让用户在每一步操作中都获得明确反馈。鸿蒙开发实践中心以标准化的应用与元服务模板为入口,将清晰的业务架构与可复用的代码结构直观呈现。不妨立即挑选一个感兴趣的方向进入云端环境,从页面布局、组件封装、状态管理到路由组织,亲手跑通你的鸿蒙实战项目。

华为云官方博客 348

LakeAgent:DWS数据仓库的第二大脑,告别 “翻译式运维”,迈入智能自治时代

和普通 SQL 改写工具不同,LakeAgent 自动做多方案代价对比,主动规避负优化陷阱:补充分区键过滤实现剪枝,扫描分区由 37 收敛至 1,执行代价从 758.28 降至 113.74;未来的数据仓库,将不止能算、能存,更能看懂自己、诊断自己、理解自己。长久以来,数仓的智能都依附于人:信号需要人解读,瓶颈需要人研判,经验困在个体里,无法随底座永续生长。CPU 高、CPU 告警、CPU 诊断、CPU 使用率过高、CPU 满。语法、错误码、计费、性能调优、最佳实践、故障处置等全场景内容。

华为云官方博客 570

如何使用RDS Supabase后端BaaS能力:文件存储(File Storage)

• product-images(公开桶,允许公共读取):策略名称"Public read for product-images",允许SELECT,目标角色anon,策略定义bucket_id = 'product-images'。上传/删除需另配INSERT/DELETE策略,详见SQL。• product-specs(私有桶,仅认证用户访问自己的文件夹):建议拆为上传、读取、删除三条策略,策略定义均为 bucket_id = 'product-specs' 且仅限本人文件夹(详见下文 SQL)。

华为云官方博客 496

如何使用RDS Supabase后端BaaS能力:实时订阅与推送(Realtime)

Realtime 把数据库的每次变更同步到客户端:表里增、删、改一行,订阅者无需刷新页面或主动请求即可秒级收到。三大能力各司其职:• Postgres Changes — 监听表的 INSERT/UPDATE/DELETE,变化即通知• Broadcast — 客户端之间直接互发,适合瞬时通知、协同编辑• Presence — 跟踪频道里“谁在线”典型场景有实时数据展示(订单、库存、监控指标即时刷新)、即时通讯(消息收发、在线名单、“对方正在输入”)、协同编辑与实时通知。

华为云官方博客 486

AI Agent如何通过MCP连接到华为云RDS Supabase应用平台

Schema元数据列出所有可访问的表(按schema分组)。Schema元数据列出表的列及元数据(类型/默认值/约束)。Schema元数据列出所有约束(PK/FK/UNIQUE/CHECK/EXCLUDE)。可按schema/表/类型过滤。Schema元数据列出所有外键关系。可按schema/表过滤。Schema元数据列出所有索引及定义和大小。可按schema/表过滤。Schema元数据列出已应用的数据库迁移记录。Schema元数据列出已安装的PostgreSQL扩展。

华为云官方博客 487

华为大数据Flink让每一 CU 算力,跑出开源 5.74 倍的性能

1. 开源Apache Flink 已成为业界流计算事实标准,但在极端重负载场景下存在性能瓶颈。2. 华为大数据Flink通过多项自研深度优化,在执行计划、算子执行、状态存储三个层面构建协同的优化体系。3. Nexmark Benchmark 测试结果:整体性能提升 5.74 倍,极端重负载场景性能领先最高 18.3 倍。4. 100% 兼容 Apache Flink 1.20,业务代码零改造,无缝迁移。

华为云官方博客 393

LakeAgent实战 | 业务分析篇从一句提问到业务分析

本文以“订单金额变化”分析为例,展示LakeAgent如何通过自然语言提问,结合DataArtsStudio的数据资产与专业技能,帮助业务人员快速定位数据、生成SQL、追踪血缘、生成报告。从问题出发,逐步实现数据发现、变化洞察、原因追溯与团队协作,最终形成可复用的分析流程与企业规则,显著提升数据分析效率与一致性。

华为云官方博客 402

华为云RDS Supabase AI应用已开放公测 :30分钟搭建AI应用后端

认证、存储、实时推送、数据库API——4个后端模块,传统开发需要数周。今天,你只需要30分钟。AI创业公司的全栈开发工程师。上周老板说"下周要上线的AI对话应用,后端你来搞"——认证鉴权、数据库接口、文件存储、实时推送,每一个模块都需要数周搭建,而市场不会等你。小张打开华为云RDS Supabase,30分钟搭好认证、数据库API、对象存储,剩下的时间全用来打磨AI交互体验。基于开源Supabase+华为云RDS PostgreSQL全托管能力,为开发者提供。

华为云官方博客 409

如何使用RDS Supabase后端BaaS能力:数据库函数(Database Function)

上一篇介绍了 Database Data API——建表即自动生成增删改查接口,解决单表读写,但聚合统计、跨表事务、字段自动维护等逻辑已超出其能力边界。本篇推进到数据库函数(Database Function):把业务逻辑封装进数据库,前端通过 .rpc() 调用,由触发器自动响应数据变更。上一篇中,小张基于 Data API 完成了产品目录的建表与基础读写。但新需求随之而来:按分类统计产品数与价格区间、上架新品同时写产品表与定价表、产品修改后自动刷新更新时间。

华为云官方博客 473

如何使用RDS Supabase后端BaaS能力:创表即生成API(Database Data API)

认证、存储、实时推送、数据库API——4个后端模块,传统开发要数周。本系列逐个拆解,首篇聚焦数据库API(Database Data API):建表即得 API,无需手写后端。小张,AI创业公司的全栈工程师。老板让他做个产品目录页,展示产品与价格、支持上下架。传统做法要搭后端、写接口、配权限,工期少说1-2周;而在华为云RDS Supabase,建两张表、应用 SDK 直连,几分钟增删改查全跑通。

华为云官方博客 488

从一句话到一个能出去的链接,AI开发者空间做了什么

自行搭建的 Agent、正在使用的开源项目、团队既有的工具,都可以接入,可以通过AI创建或者手动搭建环境;华为云 AI开发者空间——面向开发者的云端一站式开发平台,做的就是把这段路接上:环境免安装,浏览器打开即为完整的 Linux 运行环境,预置的 AI 智能体开箱即用。第一个任务建议选能出结果的:做一个游戏、生成一个页面、创建一台实例,从需求走到可访问的链接,一次就能看清这个环境在做什么。沙箱是一个完整的 Linux 环境,依赖、服务、端口都是真实的,不是模拟。环境释放后,权限随之失效。

华为云官方博客 432

华为云码道配置自定义大模型,四种方式完整实操

案例介绍。

华为云官方博客 648

图数据库:实现穿透式监管的数据基座

穿透式监管标志着国企监管从“管企业”向“管资本”转型过程中的关键一跃。而图数据库正是这一跃的技术支点。从股权穿透到资金链穿透,从供应链穿透到数据穿透,华为GES图数据库正在将“穿透式监管”从理念变为可落地、可操作的实践。无论是天眼查式的全量链路查询,还是某集团财经的税务规则判断,抑或是芯片供应链式的部件风险分析,乃至通过Palantir构建决策知识图谱,其底层逻辑都是一致的——用图的力量,穿透一切形式的“隔离层”,直抵风险本质与责任核心。

华为云官方博客 671

《公共云三十问》正式收官,奔赴企业AI百场景新征程

今年6月底,公共云产业联盟重点推出《公共云三十问》专栏,以每周三问的节奏,连载十周,解读《先进公共云》白皮书,分享国计民生系列案例,旨在凝聚共识、推动落地实践。同时,专栏分析公共云在产业升级、民生福祉、科技创新、全球发展等方面的作用,梳理中国特色公共云发展路径:以普惠云拓展用云广度,以智算云提升用云深度,以自主云夯实用云厚度,以全球云打开用云跨度。这十问从专属云、行业云切入,深入政务、金融、交通、电力、钢铁、化工、油气、制造等国计民生场景,回答公共云“怎么用”。

华为云官方博客 474

开发者小技巧|IAM配置,让码道代码智能体连续30天免登录

案例介绍。

华为云官方博客 651

码道深度对接CodeArts,让需求自动落地为代码

案例介绍。

华为云官方博客 723

【公共云三十问 之三十】拥抱AI,企业如何建设面向智能体的专属云?

企业可分阶段建设覆盖开发、运行、运营及安全的一体化智能体平台——从构建一站式、高低码协同的智能体开发平台,到打造高性能、极致弹性的运行时环境,再到搭建AgentOps驱动的持续运营与运维体系,同时构建端到端、多层次的全链路安全防护体系。在数据湖建设方面,遵循“存量复用、平滑演进、AI导向、分步迭代”原则,分三阶段推进——打造AI多模数据湖核心能力、完成存算分离与统一元数据管理、实现闭环赋能全面支撑智能体规模化落地,在保护既有投资的前提下将传统数据平台转型为AI数据专属供给平台。

华为云官方博客 825

【公共云三十问 之二十九】国计民生之制造:制造云如何重塑数智时代的新质生产力?

平台打通软件交付的完整路径,覆盖需求管理、代码托管、代码检查、编译构建、制品仓库、部署、测试等关键环节,支持大模型能力融入研发全流程,实现从需求到交付的端到端管理。通过构建“研发一朵云”,方案打破地域与组织壁垒,实现跨团队协同开发,有效缩短软件交付周期,助力工业制造企业从“传统研发”走向“敏捷研发”,加速数智化转型进程。当制造云真正成为数据流通的平台、AI创新的底座,公共云的社会价值将从基础设施层向生产场景层持续延伸,为新型工业化建设和制造强国战略注入源源不断的动力,重塑数智时代的中国制造新质生产力。

华为云官方博客 793

告别重复手工迁仓,码道MCP+Skill实现仓库批量迁移

案例介绍。

华为云官方博客 791

【公共云三十问 之二十八】国计民生之油气:智算云如何叩响数智时代的“地心蓝金”?

西南油气田以“向地球深部要资源”为战略方向,联合以华为云Stack为代表的公共云服务商共同打造统一算力底座,建设西南区域数据湖与通用技术平台,构建“勘探开发工程技术、天然气生产过程管控、天然气产运储销”等三个一体化协同应用场景,支撑油气勘探、开发生产、管输储运等全业务链的数智化转型。当智算云真正成为数据流通的平台、AI创新的底座,油气田得以将算力效能、数据价值与智能技术深度融入勘探开发全链条,将“看不见的算力”转化为“摸得着的储量”,以智能化手段持续降低勘探风险、缩短发现周期、提高采收效率,确保生产安全。

华为云官方博客 613

【公共云三十问 之二十七】国计民生之化工:数智云如何重塑传统化工新范式?

在架构方面,方案构建云边协同的统一体系,涵盖AI协同、数据协同与运营协同三大维度——总部集中训练大模型,边缘节点负责推理执行,云边持续迭代,实现“边用边学”的智能闭环,模型平均精度提升20%以上。此外,方案提供一站式企业级工业物联网平台、数据湖与数据治理平台,覆盖工业数据分析“采、存、算、管、用”全流程,打通生产现场与管理系统间的数据壁垒,有效消除数据孤岛。层面,方案充分发挥软硬协同优势,实现计算、存储、网络与云平台的深度协同,训练线性度超95%,为大模型训练推理提供强劲算力支撑。▲化工“数智”新模式。

华为云官方博客 664

【公共云三十问 之二十六】国计民生之钢铁:数智云如何淬炼中国钢铁新力量?

同时,构建云边端协同的统一架构,支撑集团总部与各生产基地两级协同发展——总部集中训练大模型,边缘节点负责推理执行,云边持续迭代,实现训推一体化的资源调度与高效协同,为钢铁行业的数智化转型构建了坚实的算力底座。层面,方案构建覆盖“工业数采→边缘IT/OT融合→统一数据湖→数据治理平台→数据应用”全链路的一站式数据治理与流通平台,打通生产现场与管理系统间的数据壁垒,让数据“采得到、流得动、用得好”,加速数据价值从生产现场向经营决策层流动释放。湘潭钢铁集团的钢铁数智云,是钢铁工业智能云建设的标杆案例。

华为云官方博客 526

LakeWatch——MRS 智能运维Agent

从资源池、队列、作业等多个维度,对集群CPU与内存资源进行精细化分析与对比,直观呈现不同时间段的空闲、满载等使用状态,识别资源浪费,指导治理优化,为扩缩容决策提供数据支撑。对HDFS存储进行多维度深度分析(目录、用户、用户组等),涵盖使用量、增量、文件大小分布及数据热度等指标,帮助快速识别增长较快的目录、长期未访问的文件,统计目录文件数量与小文件占比,评估HDFS总存储量与扩缩容需求,为存储治理与资源规划提供全面数据支撑。Agent主动巡检,识别异常趋势并提前预警,让运维从"事后处理"转向"事前预防"。

华为云官方博客 516

华为云专题文档发布:丰富的AI案例、选型指导和概念解读

发布 “云服务选型”、“云计算概念”专题,提供云服务选型指导,助您选择匹配业务的云服务,解读云计算相关概念,开启云上学习之路。开发者工具和文档专区上线,提供从学习、实践到反馈的全链路支持。帮助中心新增100余篇AI案例。

华为云官方博客 286

一个人,也能用AI做点“星东西”

华为云星耀创想者大赛-2026华为云OPC创意大赛等你来~

华为云官方博客 291

从需求到可执行工作项:MCP+Skill 让智能体规划真正落地

回顾整个体验,以前让智能体帮我拆需求,它是洋洋洒洒给我列了一大篇 Markdown,看着挺像那么回事,但最后还是得我一条条往 CodeArts Req 里搬,搬完再手动挂父子关系、排日期,拆需求五分钟,搬运两小时。现在好了,MCP 给智能体接上了"手",Skill 给它装上了"项目经理的脑子",一句话下去,34 个工作项连带排期、层级关系全给我建好了,甘特图一拉,齐刷刷都在两周内,节省了多少工作量啊,美滋滋。本次实操在码道代码智能体基础上,构建了一套"需求→可执行工作项"的自动化规划方案。

华为云官方博客 579

华为云码道「码力续航计划」更新!

✅上新GLM‑5.3‑Flash,高速响应,代码生成、工程解析、Agent调试高效输出。新增GLM‑5.3‑Flash福利模型,每日解锁1000万免费Tokens。● 本次活动共发放总量价值100万元Tokens,发完即止!把耗算力的编码重活,交给华为云码道代码智能体🚀🚀。● 每日额度准时刷新,当日清零、次日满血重置。✅复杂算法、大项目解析、批量代码生成随便跑。✅不用抠额度、不用算消耗,放开调试大胆迭代。✅无需额外操作,登录即送,直接切换模型使用。● 把算力交给码道,让撸码不再内耗👏🏻。

华为云官方博客 695

【公共云三十问 之二十四】国计民生之交通:交通云如何铺就数智通衢新坦途?

交通行业作为支撑实体经济的关键基础设施,涵盖公路、铁路、机场、港口、地铁等众多子领域,其中,公路网络作为综合交通运输体系的基础骨架,承担着全国超过70%的客货运量,其数字化、智能化转型的需求尤为迫切。方面,提供Agent开发框架、知识库管理、RAG工程、意图识别、静态应用编排及模型评测等能力,支持客户将行业知识、业务流程与AI能力深度融合,快速构建面向收费稽核、路网调度、应急处置等场景的智能应用。开发并实现落地应用,全面覆盖建设、管理、养护、运营、服务、安全、办公七大业务领域。

华为云官方博客 464

【公共云三十问 之二十五】国计民生之电力:电力云如何点亮数智电力新引擎?

方案构建了覆盖数据获取、质量评估到标准化处理的全链路能力。基于公共云服务商智算底座及气象大模型,通过时空图神经网络重新建模产流机制,中国华电建成超50TB多源融合数据集,突破时空建模与机理融合等五大关键技术,短期径流预测精度较传统机理模型提升5个百分点以上,实现15天中期径流预测精度超85%,推理效率达秒级。基于气象大模型的基础架构与预训练能力,客户可直接在大模型之上开展增量训练与微调,充分利用场站所在区域的高精度历史数据(如3公里、1公里分辨率),针对不同场站和区域的地形地貌与气候特征进行模型调优。

华为云官方博客 381
上一篇: 想提高运维效率,那就把MySQL数据库部署到Kubernetes 集群中
下一篇: 当物联网遇上云原生:K8s向边缘计算渗透中
华为云开发者联盟
华为云开发者联盟 企业官方账号 企业官方账号
博客等级 码龄10年 72万+粉丝 5985原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值