NVIDIA GTC 2023简单解读,硬件部分更新了什么,服务器有哪些新配置,新增的5款配置和显卡

首先就是首发H100 NVL显卡,相比H100 PCIe显卡,显存提升至96GB HBM3e,由两个H100 PCIe组成,通过三个NVLink 4互连,也就是H100 NVL具有188GB显存,显存位宽6144位,显存速率7.8TB/s,使用两个PCIe 5.0 x16接口连接,也就是四槽位,功耗700W

H100 NVL的性能比两个H100 SXM是要高的,而且是满血的GH100核心,但是问题是,H100 NVL是两张卡组成的,每张卡96GB显存,但两张卡加到一起就只有188GB显存,而不是192GB显存

尽管是两张卡,但功耗却不变,和单块H100 PCIe一样是700W,这种情况下,H100 NVL的频率要比H100 PCIe高,所以功耗低的情况下性能依旧有提升


然后就是更新了4种规格的服务器配置

首先就是L4 - 120X配置,由8块L4显卡组成,性能大概相当于RX 6800,双槽CPU,单个L4是24GB显存,72W功耗,带宽300GB/s,配备双槽CPU,其他参数暂时未知

然后就是L40配置,搭配8块L40显卡,单块性能比RTX 4090高10%左右,同时配备了Connect-X7网卡,其他配置未知

然后就是H100 NVL配置,搭配4块H100 NVL(8块显卡),单块性能比RTX 4090高11%左右,同时配备了Connect-X7网卡,其他配置未知,这个应该是目前最好的配置了

然后就是Grace Hopper - 10X配置,搭载两个BlueField-3 DPU和两个Grace Hopper(H100+Garce CPU),其他配置未知

然后就是新的NVIDIA OVX配置,搭载4块L40显卡和1个BlueField-3 DPU,配备双槽CPU,其他未知

其他内容就是在GTC 2023上重新介绍了DGX H100,Grace SuperChip(两个Grace CPU),Grace Hopper(Grace CPU+H100),还有BlueField-3 DPU

然后就是H800显卡,是H100显存带宽砍半的产品,互连速率限制在300 GBps,H800显卡为专供国内版

关于软件或者其他部分,这篇文章没有提及,大家想知道可以看这个:Nvidia GTC 2023 Keynote Live Blog

### 地面实况边界预测边界统计 在目标检测领域,地面实况边界ground truth bounding boxes)是指标注数据集中由人工精确标记的目标位置矩形区域。这些边界提供了对象的真实位置信息,在评估模型性能时作为标准参照。 对于预测边界(predicted bounding boxes),这是指通过训练好的神经网络对测试图片进行推理得到的对象定位结果。为了衡量预测相对于实际的位置准确性,通常会计算两者之间的交并比(Intersection over Union, IoU)。IoU 是一种广泛使用的度量方法来评价两个边界重叠程度的好坏[^1]。 除了 IoU 外,还可以考虑其他一些统计数据: - **中心点偏移**:测量预测中心坐标与真实中心坐标的距离差异。 - **宽高比例误差**:比较预测宽度/高度同真实相应维度的比例差距。 - **置信度得分分布**:分析不同阈值下正样本被正确识别的概率密度函数曲线变化情况。 此外,损失函数的选择也会影响最终输出的质量。例如,在某些实现中可能会采用 L1 Loss 或者 GIoU Loss 来优化回归任务中的边界拟合效果[^2]。 ```python def calculate_statistics(gt_boxes, pred_boxes): """ 计算一组真实预测间的多种统计指标 参数: gt_boxes (list): 真实列表 [(x_min,y_min,x_max,y_max)] pred_boxes (list): 预测列表 [(x_min,y_min,x_max,y_max,score)] 返回: dict: 含有各项统计信息的结果字典 """ stats = {} ious = [] center_offsets = [] for gt_box, pred_box in zip(gt_boxes, pred_boxes): # Calculate IOUs between ground truths and predictions intersection_area = max(0,min(pred_box[2],gt_box[2])-max(pred_box[0],gt_box[0])) * \ max(0,min(pred_box[3],gt_box[3])-max(pred_box[1],gt_box[1])) union_area = ((pred_box[2]-pred_box[0])*(pred_box[3]-pred_box[1]) +(gt_box[2]-intersection_area) iou = intersection_area / float(union_area) ious.append(iou) # Compute offset from prediction to GT centers dx = abs((pred_box[0]+pred_box[2])/2-(gt_box[0]+gt_box[2])/2) dy = abs((pred_box[1]+pred_box[3])/2-(gt_box[1]+gt_box[3])/2) center_offset = math.sqrt(dx*dx + dy*dy) center_offsets.append(center_offset) avg_iou = sum(ious)/len(ious) if len(ious)>0 else 0. avg_center_offset = sum(center_offsets)/len(center_offsets) if len(center_offsets)>0 else 0. stats['average_IOU'] = round(avg_iou,4) stats['avg_center_distance'] = round(avg_center_offset,4) return stats ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值