自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(13)
  • 收藏
  • 关注

原创 英伟达H100芯片内部指令处理流程概述

上图来自《NVIDIA H100 Tensor Core GPU 架构白皮书》,是单个SM内部结构。TMA在英伟达的资料中,并没有直接体现在SM中,只有部分说明用于推断出TMA是per SM的硬件。上面只是一个简单总结,比如CE硬件模块就没有体现到H100,因为没有对CE做描述,所以未画出来。

2026-08-18 15:21:58 168

原创 NCCL v2.8 集体通信的几种操作汇总一页

Collective operations(集合通信操作/集体通信操作)count:每个数据块里面数据的个数。AlltoAll:类似转置矩阵的操作。i:每个数据块里面数据的索引。X,Y:横向和纵向数据块编号。

2025-12-09 23:18:19 192

原创 设计院在做园区PON网络时如何设计光衰器

园区网络越来越多地遇到PON的设计,很多做传统网络的设计院,对PON并不熟悉。会遇到在做弱电设计时,如何设计光衰器的问题。

2025-10-15 21:25:56 260

原创 【简述】思科的QOS模型

不同的思科设备,QoS模型不同。但大致都是3个部分。

2025-10-14 20:56:51 349

原创 常见网络设备的队列调度介绍

常见的一个端口有8个出队列,一般有单级和多级QOS单级QOS多级QOS。

2025-10-14 19:25:49 464

原创 FPGA编码,对3求余优化

假设B =A[7:6] + A[5:4] + A[3:2] + A[1:0],对于2bit的数来说,最大值为3,那么B的取值范围应该是[0,12],所以A[7:0]%3 = B[3:0]%3。假设C = B[3:2] + B[1:0],C的取值范围是[0,6],所以A[7:0] % 3= C[2:0]%3。常规做法,是将这个多bit的数做折叠异或,成8bit的数,然后对3求余。发现生成的逻辑电路比较复杂。B[3:0] %3 用同样的方法可以继续简化为(B[3:2]+B[1:0])%3。

2025-10-13 18:14:23 361

原创 从全光看园区网络的二级架构演进趋势

本文从全光网切入,谈谈个人对于园区网络演进的想法。

2025-09-30 15:05:17 737

原创 浅谈以太全光园区网络的粗波分路线

随着全光在园区网络的兴起,各种原本不属于园区网络的技术,开始跨界杀入。

2025-09-28 16:35:52 919

原创 从思科的PON方案看全光园区网络

而PON背靠运营商家宽的靠山,成本相对要低很多,随着主流厂家开始将PON引入园区,纯以太设备必须做出调整。(1)集成度越高,肯定越贵,这个单口的光模块形式的OLT,一定比OLT的设备per port贵。思科发布了它的PON方案,采用的是OLT STICK的方式。走XGS-PON路线,光模块形式的OLT直接插在思科的路由器的10G以太口上使用。个人猜测,思科并没有投入去做PON的路线,可能是O的一个方案,松耦合地融到思科现有的路由器设备上。Part 3:OLT数据面,光模块形式的OLT。

2025-09-25 17:30:36 378

原创 暗黑破坏神3,手动解决找不到vcruntime140_1.dll

陪伴多年的老伙计戴尔Inspiron 5493,重装系统,图简单,直接用戴尔的隐藏盘恢复成出厂。第一步,更新windows 10到最新22H2(戴尔自带的恢复出厂的win 10系统比较老了)。把X64的下载,安装即可。

2025-09-22 13:50:50 505

原创 《程序员的数学2概率统计》三扇门问题

在选择之后,去掉一个错误答案,其实是帮忙把1:1:1的3选1,中的2个错合并成1个选项,比例变成了1:2的2选1,所以是33%:67%的关系。最近读《程序员的数学2概率统计》,开篇即是著名的“三扇门问题”。(1)第一次选的是“错1”,那么错2会被主持人排除,重选就正确了。(2)第一次选的是“错2”,那么错1会被主持人排除,重选就正确了。(1)第一次选的是“对”,无论主持人排除谁,重选就错误了。“第一次选择错误”的概率就是“重选后正确”的概率。50%的思路,是无前置条件的全新的2选1。

2025-09-18 17:57:10 318

原创 点积的几何定义与代数定义换算

前者是一种线性变换,后者是一个数学定义,只不过是因为后者的计算正好等同于两个向量之间,一个向另一个的投影的乘积。= ax+by,这一过程可以看作是将一个二维向量做了一次线性变换,在二维坐标系中的几何变换可以理解为将广义的任何一个二维向量(x,y),压缩到了一维的一个数,在一维坐标系中压缩的规则,则由a和b的值来决定。将二维向量转换为一维向量(压缩维度),此时脑海中应脱离二维坐标系,再去想一维,而不是继续在二维坐标系中思考其中的直线。向量A和B正交时,A(a0,0),B(0,b1),cos(

2025-07-20 11:20:23 393

原创 卷积的理解过程

起源是毫无头绪的看神经网络。于是搜索卷积,学习卷积的过程。

2025-07-18 11:15:40 284

NVIDIA-H100-GPU-Architecture-Whitepaper-zhCN.pdf

英伟达 H100 GPU白皮书

2026-08-18

NVIDIA26年发布的NCCL EP论文:Towards a Unified Expert Parallel Communication API for NCCL

内容概要:本文介绍了NCCL EP(Expert Parallelism),一种基于NCCL设备API构建的全新MoE(Mixture-of-Experts)通信库,旨在统一专家并行中的调度(dispatch)与合并(combine)操作。NCCL EP提供统一的`ncclEpDispatch`和`ncclEpCombine`原语,支持低延迟(LL)模式用于推理解码,以及高吞吐量(HT)模式用于训练和预填充阶段。LL模式利用全对全RDMA+NVLink直连与双缓冲机制优化小批量处理(1-128 tokens),而HT模式采用分层通信,在NVLink域内聚合数据后再进行跨节点传输,适用于大批量场景(4096+ tokens)。该库完全集成于NCCL生态系统,具备拓扑感知、统一API、硬件抽象和GPU直启通信等优势,解决了现有MoE通信库生态碎片化、接口复杂等问题。 适合人群:从事大规模语言模型研发的系统工程师、深度学习框架开发者及高性能计算研究人员,尤其适合有GPU通信优化经验的技术人员。 使用场景及目标:①在多节点H100集群中部署MoE模型时,提升推理解码阶段的端到端低延迟表现;②在训练或预填充场景下实现高带宽利用率;③作为Megatron-LM、vLLM等主流框架的插件式通信后端,实现无需修改代码的性能优化。 阅读建议:此资源聚焦于系统级通信优化,建议结合NCCL Device API文档与实际部署环境同步实践,重点关注LL/HT模式切换、内存管理与流控制机制,并参考文中vLLM集成案例进行性能调优。

2026-05-09

NCCL v2.8 集体通信的几种操作汇总一页

NCCL v2.8 集体通信的几种操作汇总一页

2025-12-09

本文介绍了思科的路由型无源光网络(Routed PON)解决方案,OLT STICK模块解决以太和PON的松耦合组合

内容概要:本文介绍了思科基于路由的无源光网络(Routed PON)解决方案,旨在通过将PON技术与现有IP路由平台融合,实现统一接入与汇聚。文档阐述了宽带网络转型的市场趋势,包括带宽增长、低延迟应用和新兴技术驱动,并详解了PON基本架构及其在FTTH、FTTB等场景中的应用。思科Routed PON采用可插拔OLT模块(如XGS-PON SFP+),集成于NCS 540/5500/5700系列路由器,实现硬件简化、节能降本,并支持与GPON共存和平滑升级。方案支持L2/L3 VPN、EVPN、Segment Routing等高级特性,提供端到端服务保障,结合Subscriber Edge(CUPS)架构和PON Manager实现自动化运维。实际案例中,Taylor Telecom完成全球首个商用部署,验证了其可行性与优势。; 适合人群:通信行业技术人员、网络架构师、运营商工程团队及从事光纤接入网规划与实施的专业人员。; 使用场景及目标:①帮助运营商构建高密度、低成本、易扩展的下一代PON网络;②实现PON与IP/MPLS网络的深度融合,提升运维效率并保障服务质量;③指导从传统OLT向路由化、软件定义化PON的演进路径。; 阅读建议:建议结合思科NCS系列设备手册与XGS-PON标准文档同步学习,重点关注系统集成、保护机制(Type B双归属)、VLAN模型配置及PCA服务监控功能,适用于实际网络设计与优化参考。

2025-09-25

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除