自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

一名热爱技术、专注实践的工程师,拥有一项实用新型专利及一项软件著作权。曾获国家级奖项7项、省级奖项30余项。专注网络技术与 AI Infra 领域,持续探索技术创新与工程实践,记录学习成长,分享技术经验,在探索中突破,在实践中精进。

专注网络技术与 AI Infra 领域,持续探索技术的深度与广度。学习 HCIE 网络技术、数据中心架构、GPU 基础设施及大模型相关知识。坚持理论与实践相结合,记录学习历程,分享技术心得,在不断学习与实践中积累经验,保持热爱,持续精进。

  • 博客(33)
  • 收藏
  • 关注

原创 VLAN间通信原理与eNSP实验

本文通过eNSP实验,详细阐述了VLAN间通信原理及路由器单臂路由配置。基于AR1路由器与LSW1交换机构建拓扑,利用单臂路由技术,通过在路由器物理接口上创建子接口并启用802.1Q封装,实现VLAN10与VLAN20间的三层互通。实验涵盖VLAN划分、Trunk链路配置、子接口设置及IP地址规划,并通过分步验证(从二层到三层)确保连通性。重点强调跨VLAN通信需完整往返路径,故障排查应遵循“由近及远”原则,结合命令查看与连通性测试,掌握数据帧在二层标签化与三层路由转发中的变化过程,深化对网络隔离与互通机制

2026-10-29 20:12:01 1384

原创 流水线并行(PP)——把模型按层切开,串成一条高效的计算流水线

流水线并行(PP)通过将大模型按层切分至多张GPU,解决单卡显存不足问题。其核心是“模型分段、计算分工、激活传递”,实现跨设备训练。虽引入流水线气泡影响效率,但结合Micro-batch与1F1B调度可有效缓解。相比数据并行、张量并行,PP通信稀疏,适合跨节点扩展,常与TP、DP组合形成3D并行架构,是大规模模型分布式训练的关键技术。

2026-11-10 11:24:09 19

原创 张量并行(TP)深度解析——如何将一次矩阵运算拆分到多张 GPU 上?

张量并行(TP)通过切分模型权重矩阵,让多张GPU协同完成单次矩阵运算,解决大模型显存与计算瓶颈。与数据并行(DDP)和ZeRO/FSDP不同,TP直接拆分计算过程,核心为列并行(按列切分权重,前向无需通信)与行并行(按行切分,需AllReduce合并结果)。二者结合可减少冗余通信,提升效率。在训练中,每层需4次集合通信,总通信量随Token数线性增长;在推理中,TP可突破单卡显存限制,提升带宽利用率,但通信延迟影响显著。

2026-11-10 10:59:42 46

原创 ZeRO 深度解析——从 128GB 到 16GB,如何打破大模型训练的显存墙?

本文系统解析了ZeRO(ZeroRedundancyOptimizer)在大模型分布式训练中的核心作用。针对DDP显存冗余问题,ZeRO通过分片存储模型参数、梯度与优化器状态,实现显存压缩。其三个阶段(ZeRO-1/2/3)逐级切分训练状态,显著降低单卡显存占用,尤其ZeRO-3可将8B模型显存需求从128GB降至16GB。关键在于利用AllGather与Reduce-Scatter等通信操作动态聚合参数,以通信换显存。然而,过度切分会增加通信开销,且无法解决激活值显存瓶颈。

2026-11-10 00:01:15 236

原创 从单卡瓶颈到多卡协同,揭开大模型分布式训练的底层逻辑

本文系统剖析了大模型训练中从单卡到多卡分布式训练的核心挑战。指出单卡训练面临“显存墙”与“算力墙”双重瓶颈:8B模型全参数微调需约128GB显存,超出现有H100 80GB容量;即使显存充足,单卡算力也需约14天完成训练。解决方案分两路:数据并行(如DDP)提升计算吞吐,模型并行(如TP、PP、ZeRO、FSDP)降低单卡显存压力。实际训练中,通信开销(如环形AllReduce)成为关键瓶颈,尤其跨机通信受限于网络带宽。

2026-11-09 07:20:10 875

原创 深入理解 DDP——多卡训练如何通过梯度同步实现高效并行?

DDP通过复制模型、切分数据并同步梯度,实现多卡高效并行训练。其核心在于仅同步梯度,利用AllReduce保证参数一致,避免冗余通信。虽提升计算吞吐量,但无法解决单卡显存瓶颈。结合LoRA可大幅降低显存与通信开销。通过梯度桶实现通信与计算重叠,优化资源利用率。理解其机制与边界,是掌握分布式训练的关键。

2026-11-09 07:19:51 145

原创 深入理解 WLAN 无线局域网原理、CAPWAP 协议与配置实现

本文系统阐述了企业WLAN技术的核心原理与工程实践,涵盖IEEE802.11标准、频段信道规划、AC+FITAP架构、CAPWAP协议及STA接入流程。重点解析了SSID、BSSID、VAP等核心概念,对比了直接转发与隧道转发模式的适用场景,并通过eNSP实验展示了模板化配置与故障排查方法。强调管理与业务VLAN分离、合理信道规划及端到端数据流思维在实际部署中的重要性,为构建安全、高效的企业无线网络提供了完整的技术框架。

2026-11-08 15:38:12 347

原创 PPP协议原理、状态机、协商机制与认证技术

本文深入解析 HCIE 中 PPP(点到点协议)的工作原理与配置,围绕 PPP 帧封装、LCP 双向协商机制、协议状态机、PAP/CHAP 身份认证及 NCP 网络层协议协商展开。结合华为 eNSP 实验拓扑,分析 PPP 五个工作阶段、IPCP 协商过程及常见故障定位方法,并进一步探讨 CHAP 安全机制、Magic-Number 和 PPPoE 等进阶知识,帮助理解 PPP

2026-11-08 15:37:38 184

原创 ACL 访问控制列表原理、匹配机制与配置实践

今日学习HCIE网络技术中的ACL(访问控制列表),深入理解其在企业网络中实现精细化访问控制的核心作用。重点掌握ACL的定义、分类(基本、高级、二层、用户ACL)、匹配机制(规则顺序、通配符掩码)、部署位置与方向选择,并通过eNSP实验实现VLAN间访问控制。学习强调:ACL基于规则匹配,解决“可通但不可访”问题;需结合数据流向合理部署;高级ACL支持多字段匹配,适用于复杂业务场景;其与路由、防火墙功能互补,是构建安全可控网络的关键基础。

2026-11-07 10:34:18 327

原创 NAT 网络地址转换技术原理与配置实战

今日学习了HCIE数通中的NAT技术,系统掌握了其背景、原理与应用。NAT通过地址转换缓解IPv4地址短缺问题,实现私网与公网通信。重点理解静态NAT、动态NAT、NAPT、EasyIP及NATServer的工作机制,掌握报文转换、会话表维护、反向流量匹配等核心过程。结合eNSP实验,深入分析了NAT与路由、ACL、防火墙的协同关系,强化了故障排查思路。学习强调:掌握NAT不仅是配置命令,更要从报文转发角度理解网络行为,为后续工程实践打下坚实基础。

2026-11-07 10:33:53 308

原创 深入理解 Leaf-Spine:从网络拓扑到 AI 数据中心 Fabric

传统数据中心网络以树形三层架构为主,但随着东西向流量激增,其层级多、路径长、扩展难等问题凸显。为此,Leaf-Spine叶脊架构应运而生,通过全互联的扁平化设计,实现多路径转发、高带宽、低时延与灵活横向扩展。结合ECMP负载分担、Underlay/Overlay分离架构及VXLAN/EVPN技术,该架构有效支撑云计算、AI训练等高密度内部通信需求。其核心价值在于:网络设计需匹配业务流量模型,强调可预测性、可靠性与可扩展性。未来,叶脊架构将持续演进,成为高性能数据中心的基石。

2026-11-06 11:32:38 249

原创 模型蒸馏、训练与推理、CANN 架构及 NVIDIA GPU 集群设计

本文围绕 AI Infra 核心技术展开,系统整理了知识蒸馏的原理、模型训练与推理的区别、华为昇腾 CANN 软件架构、主流 AI 算力生态,以及 NVIDIA GPU 服务器架构和集群组网技术。从模型优化到分布式 GPU 集群,梳理 AI 模型、软件栈、计算硬件与高速网络之间的协同关系。

2026-11-06 11:32:22 191

原创 深入理解 DCGM,如何从 GPU 监控走向性能分析与故障定位?

GPU利用率96%却功耗仅320W,表明高利用率不等于高效计算。实际性能受限于小规模Kernel、数据搬运瓶颈或通信延迟。通过DCGM结合Prometheus与Grafana,可构建多维度监控体系,利用PROF指标分析SM活跃度、TensorCore使用率及显存访问情况,定位真实性能瓶颈。真正关键的是训练吞吐量与任务进度,而非单一指标。运维应聚焦端到端可观测性,关联GPU、CPU、存储与网络,实现从监控到根因分析的闭环。

2026-11-05 09:43:03 287

原创 Token、模型参数量与模型量化技术详解

本文从大模型基础知识出发,介绍 Token 的定义与作用、模型参数量的构成及其意义,以及 FP32、FP16、BF16、FP8、INT8、INT4 等常见精度类型。通过参数量与显存占用的计算示例,进一步理解模型量化的基本原理、PTQ 与 QAT 的区别,以及这些技术对大模型部署和 AI Infra 基础设施的影响。

2026-11-05 09:42:29 341

原创 链路聚合原理与配置详解

链路聚合(Link Aggregation)将多条物理链路捆绑为一条逻辑链路(Eth-Trunk),实现带宽扩容、链路冗余和负载分担。华为设备中支持手工负载分担与LACP模式,后者通过LACPDU报文自动协商成员关系,提升管理效率。关键参数包括最大活动接口数量,用于控制同时转发的链路数。活动接口选举基于系统优先级、系统ID、接口优先级和接口编号。负载分担采用哈希算法,依据源/目的MAC、IP或端口等字段分配流量。配置需确保两端模式、速率、双工等一致,避免故障。

2026-11-04 00:47:19 149

原创 GPU 监控体系与性能分析——从 nvidia-smi 到 DCGM

GPU监控是识别性能瓶颈的关键,需超越单一利用率指标。核心工具nvidia-smi、nvitop与DCGM+Prometheus+Grafana分别适用于实时检查、持续监控与集群级分析。需综合评估GPU-Util、功耗、显存及SM活跃度,避免“假忙”误判。多GPU训练中,通信效率(如AllReduce)常成瓶颈,导致计算资源闲置。故障排查应分步进行:从基础状态到进程负载、数据流、通信链路,最终建立长期监控体系,实现精准优化。

2026-11-04 00:46:49 334

原创 AI 算力基础学习笔记:GPU 多卡互联与集群通信原理

本文系统学习 GPU 多卡互联与 AI 集群通信原理,从 GPU 卡内、机内、机间三种通信层次出发,介绍 NVLink、NVSwitch、PCIe、InfiniBand、RoCE、RDMA 和 GPUDirect RDMA 等核心技术,并结合 AllReduce 通信计算、TP/PP/DP 并行策略以及 16 卡 H100 集群案例,理解 GPU 通信带宽对大模型训练性能的影响。同时整理 GPU 通信监控与常见故障排查方法,为后续学习 AI 数据中心网络架构打下基础。

2026-11-03 12:05:46 170

原创 GPU 架构深度解析:显存、带宽与算力,如何决定大模型性能?

从 GPU 内部架构出发,深入解析 HBM、SM、CUDA Core 和 Tensor Core 的工作原理,围绕显存容量、显存带宽与计算能力三个核心指标,结合 8B 大模型训练、推理及 Batch 优化案例,理解 GPU 的性能瓶颈与 Roofline 模型,为学习大模型推理优化和 AI 数据中心架构打下基础。

2026-11-03 11:52:24 254

原创 STP生成树协议计算与配置实验

本文系统学习了STP生成树协议的核心原理与配置实践,重点掌握根桥、根端口、指定端口的选举规则及路径开销计算。通过eNSP搭建三角形拓扑实验,验证了在华为交换机上手动配置桥优先级使LSW1成为根桥,并成功实现冗余链路的逻辑阻塞,形成无环树形拓扑。实验结果符合预期:两台非根交换机各有一个根端口和一个替代端口,有效防止广播风暴与MAC地址震荡,提升了网络可靠性。

2026-11-02 11:50:52 291

原创 STP生成树协议原理与配置(附eNSP实验)

今日学习HCIE交换技术中的STP生成树协议,掌握其核心原理:通过BPDU报文交换,基于桥ID(BID)、路径开销(Cost)、RPC和端口ID(PortID)选举根桥、根端口与指定端口,阻塞冗余链路,构建无环二层拓扑。实验验证了根桥(LSW1)及端口角色的选举过程,理解了广播风暴、MAC地址震荡等问题的成因与解决机制。重点掌握STP选举规则与端口状态转换,为后续学习RSTP、MSTP奠定基础。

2026-11-02 10:34:28 1581

原创 IPv4 地址原理、子网划分与 CIDR 深度解析

IP 地址(Internet Protocol Address)是互联网协议地址,用于标识网络中的设备,使不同设备能够在网络中进行通信。在 TCP/IP 网络模型中,IP 地址工作在网络层,主要用于实现数据包的寻址和转发。IPv4 地址由 32 位二进制数组成,通常采用点分十进制表示法,将 32 位二进制划分为 4 组,每组 8 位,中间使用点号分隔。每一组 8 位二进制的取值范围为 0~255,因此 IPv4 地址的每个十进制字段范围都是 0~255。

2026-11-01 10:58:49 180

原创 大模型开发常见的四个核心问题

大语言模型通常存在上下文窗口限制。当对话历史过长、输入内容过多时,可能导致 Token 超限、推理成本增加或重要信息被截断。上下文压缩就是将较长的历史对话、任务信息或文档整理成更精简的内容,在减少 Token 消耗的同时,尽可能保留后续任务所需的信息。Agent(智能体)是能够根据目标自主进行任务规划、调用工具、执行操作并根据结果调整行动的系统。多 Agent 系统则是由多个智能体组成,每个 Agent 可以负责不同的任务,通过通信和协作完成复杂目标。例如:Planner Agent:负责任务规划。

2026-11-01 10:45:58 322

原创 从 OSI 七层模型到 TCP/IP 协议栈:深入理解网络通信的底层运行机制

本文深入解析了OSI七层与TCP/IP四层模型的核心原理,系统阐述了网络分层设计思想、数据封装与解封装过程、MAC/IP/端口号的协同机制,以及跨网段通信中的逐跳转发逻辑。重点揭示了IP地址实现端到端寻址、MAC地址负责链路下一跳、端口号区分应用进程的本质,并结合MTU、MSS、ARP、路由等关键技术,构建从协议理论到实际排障的知识体系,为深入理解计算机网络运行机制奠定坚实基础。

2026-10-31 21:03:00 101

原创 TCP 三次握手与四次挥手详解

TCP是面向连接、可靠的传输层协议,通过三次握手建立连接,确保双方收发能力与初始序列号同步;通过四次挥手释放连接,因全双工特性需分别关闭双向通道。三次握手防止历史连接干扰,四次挥手保障数据完整传输。主动关闭方进入TIME-WAIT状态,等待2MSL以确保最后一个ACK送达并避免旧报文影响新连接。常见状态包括SYN-SENT、ESTABLISHED、CLOSE-WAIT、FIN-WAIT-2和TIME-WAIT。面试重点涵盖标志位作用、状态转换及异常排查,如大量CLOSE-WAIT或TIME-WAIT可能由应

2026-10-31 20:54:22 32

原创 静态路由原理与配置实验

本文介绍了静态路由的基本概念、特点及配置原理,通过eNSP模拟器搭建三台路由器与两台PC的实验拓扑,完成IP地址规划与接口配置。重点配置了AR1、AR2、AR3的静态路由,实现PC1与PC2跨网段通信。实验验证了路由表查询、ping连通性及tracert路径追踪,强调了去程与回程路由配置的双向性,总结了静态路由配置中常见故障排查方法,深化了对直连路由、下一跳选择及路由表作用的理解。

2026-10-30 21:53:06 238

原创 OSPF协议原理与eNSP实验配置详解

本文主要记录了HCIE认证学习过程中关于OSPF(开放式最短路径优先协议)的学习内容及eNSP实验实践。文章从OSPF协议的基本概念和工作原理出发,详细介绍了Router ID、五种OSPF报文、邻居建立过程、DR/BDR选举机制、Cost计算以及OSPF区域划分等核心知识点。同时,结合华为eNSP模拟器,介绍了OSPF基本配置、邻居关系验证、路由表查看及常见故障排查方法。通过理论学习与实验操作相结合,进一步加深了对OSPF动态路由协议工作机制的理解,为后续学习OSPF高级特性及复杂网络架构打下基础。

2026-10-30 21:44:51 48

原创 交换机的工作原理与 eNSP 实验

本文通过华为eNSP搭建星型拓扑,学习二层交换机工作原理。重点掌握交换机基于MAC地址的自学习机制、MAC地址表的构建与老化,以及已知单播、未知单播和广播帧的转发行为。实验验证了交换机在不同场景下的二层转发逻辑,理解了ARP解析在首次通信中的关键作用,并通过display mac-address命令分析数据路径。结合排错思路,强化了对交换机二层转发机制的理解,为HCIE数通学习奠定基础。

2026-10-29 20:25:58 92

原创 Windows启动出现自动修复循环如何解决

Windows电脑循环出现自动修复

2026-10-09 16:27:57 157

原创 HTML基础

....

2026-01-14 13:07:57 79

原创 数据结构详解:从基本概念到常见数据结构

本文系统介绍数据结构的基本概念、分类及典型应用。从逻辑结构与存储结构出发,阐述线性结构(如数组、链表、栈、队列)与非线性结构(如树、图、哈希表、堆)的特点与适用场景。结合代码示例分析其时间复杂度与实际性能,强调根据访问模式、数据规模和操作频率合理选择数据结构的重要性。最后指出数据结构在操作系统、数据库、网络等系统中的核心作用,是构建高效软件系统的基石。

2024-01-24 23:37:35 834 1

原创 智能车中的PID算法

需要准备的硬件:芯片ch32v103R8T6,电机驱动板,核心板,两个电机,一个舵机,四个轮子,电磁传感器,干簧管(本文罗列的硬件对型号不做要求)。我们使用的编译软件是MounRiver Studio,使用的库是由逐飞提供的库。本文章主要介绍如何用PID算法和电感使你的小车完成最简单的循迹。本人建议自己画电路板和驱动板,避免出现一些小问题。由于电感的接口不同,可能电感的初始化不同。我们使用干黄管来使其可以完美的停车。下图为我们对硬件结构的一个整体思路。下图为我们程序设计的基本思路。

2023-10-30 23:17:48 1728 3

原创 计算机二级公共基础知识———计算机系统

本文介绍了计算机二级公共基础知识中的计算机系统知识

2023-08-15 22:23:49 382 1

原创 STM32蓝牙遥控四驱小车

STM32蓝牙遥控四驱小车

2023-08-08 16:30:22 608 2

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除