节约20%以上的整机功耗!分组动态调频精细控制CPU性能

在云场景中,在线业务需要实时处理数据和响应请求,通常需要较多的系统资源;而离线业务虽然需要处理大规模数据,但由于不需要较高要求的处理性能和响应,因此通常对系统资源的要求相对较少。

在离线混部技术利用在线业务和离线业务对资源需求互补的特性,将两种业务部署在同一台服务器上,使得系统资源的利用率提高。相关调研显示,CPU分组动态调频技术可以通过调节CPU core的频率来间接调节服务器的整机功耗。麒麟软件尝试将该技术与在离线混部技术相结合,积极探索绿色节能解决方案。

图片

rubik是一个在离线混部引擎,它基于原生的kubernetes接口进行能力扩展,支持CPU、内存抢占,弹性限流,io权重控制等特性,但尚未涉足节约整机功耗方面。麒麟软件尝试将CPU分组动态调频融入rubik中,探索在离线混部技术与功耗节约的结合。

麒麟软件在rubik中添加power manage子系统,用于对新创建的pod进行频率限制。该组件利用CPU分组接口,定义高频组和低频组。当新建pod时,将高优先级pod绑定的CPU 核分配到高频组中,使其获得更高的的频率资源。该子系统与rubik的关系图1所示:

图片

图1 rubik与power manage功能关系示例

以下实验简单验证了在power manage启用时的效果:

使用112个CPU的服务器,设置一个高频组和一个低频组。power manage启用时,高频组频率区间为[3400,3400],低频组频率区间为[0,2600]。设置112个100%CPU使用率的负载,各个负载独立绑核,负载为sysbench素数计算,CPU按不同比例分配给高低频率区间,实验结果如图2所示:

图片

图2 高频组CPU数量与整机功耗关系

经实验简单验证,启用power manage功能可以有效降低服务器整机功耗,而负载的性能折损仅与CPU降低的频率成正相关。

目前多个研究表明,当前全球数据中心用户集群的平均 CPU 利用率低于 20%,存在巨大的资源浪费。结合上述实验结果,若启用power manage,将其余80%未充分利用的CPU纳入低频组管理,可以节约20%以上的整机功耗。如图3所示:

图片

图3 80%CPU纳入低频组管理效果示意图

在rubik中引入CPU分组动态调频是麒麟软件将在离线混部技术与节约服务器整机功耗结合的一次尝试。通过为pod根据优先级分配不同频率的CPU,可以有效降低服务器在运行时的整机功耗。未来,麒麟软件将带来更多基于国产CPU动态功耗管理技术,为数据中心绿色节能增添技术助力。

### RT-DETRv3 网络结构分析 RT-DETRv3 是一种基于 Transformer 的实时端到端目标检测算法,其核心在于通过引入分层密集正监督方法以及一系列创新性的训练策略,解决了传统 DETR 模型收敛慢和解码器训练不足的问题。以下是 RT-DETRv3 的主要网络结构特点: #### 1. **基于 CNN 的辅助分支** 为了增强编码器的特征表示能力,RT-DETRv3 引入了一个基于卷积神经网络 (CNN) 的辅助分支[^3]。这一分支提供了密集的监督信号,能够与原始解码器协同工作,从而提升整体性能。 ```python class AuxiliaryBranch(nn.Module): def __init__(self, in_channels, out_channels): super(AuxiliaryBranch, self).__init__() self.conv = nn.Conv2d(in_channels, out_channels, kernel_size=3, padding=1) self.bn = nn.BatchNorm2d(out_channels) def forward(self, x): return F.relu(self.bn(self.conv(x))) ``` 此部分的设计灵感来源于传统的 CNN 架构,例如 YOLO 系列中的 CSPNet 和 PAN 结构[^2],这些技术被用来优化特征提取效率并减少计算开销。 --- #### 2. **自注意力扰动学习策略** 为解决解码器训练不足的问题,RT-DETRv3 提出了一种名为 *self-att 扰动* 的新学习策略。这种策略通过对多个查询组中阳性样本的标签分配进行多样化处理,有效增加了阳例的数量,进而提高了模型的学习能力和泛化性能。 具体实现方式是在训练过程中动态调整注意力权重分布,确保更多的高质量查询可以与真实标注 (Ground Truth) 进行匹配。 --- #### 3. **共享权重解编码器分支** 除了上述改进外,RT-DETRv3 还引入了一个共享权重的解编码器分支,专门用于提供密集的正向监督信号。这一设计不仅简化了模型架构,还显著降低了参数量和推理时间,使其更适合实时应用需求。 ```python class SharedDecoderEncoder(nn.Module): def __init__(self, d_model, nhead, num_layers): super(SharedDecoderEncoder, self).__init__() decoder_layer = nn.TransformerDecoderLayer(d_model=d_model, nhead=nhead) self.decoder = nn.TransformerDecoder(decoder_layer, num_layers=num_layers) def forward(self, tgt, memory): return self.decoder(tgt=tgt, memory=memory) ``` 通过这种方式,RT-DETRv3 实现了高效的目标检测流程,在保持高精度的同时大幅缩短了推理延迟。 --- #### 4. **与其他模型的关系** 值得一提的是,RT-DETRv3 并未完全抛弃经典的 CNN 技术,而是将其与 Transformer 结合起来形成混合架构[^4]。例如,它采用了 YOLO 系列中的 RepNCSP 模块替代冗余的多尺度自注意力层,从而减少了不必要的计算负担。 此外,RT-DETRv3 还借鉴了 DETR 的一对一匹配策略,并在此基础上进行了优化,进一步提升了小目标检测的能力。 --- ### 总结 综上所述,RT-DETRv3 的网络结构主要包括以下几个关键组件:基于 CNN 的辅助分支、自注意力扰动学习策略、共享权重解编码器分支以及混合编码器设计。这些技术创新共同推动了实时目标检测领域的发展,使其在复杂场景下的表现更加出色。 ---
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值