qq_40827028的博客

原创 SM 和 ALU 的关系

ALU = Arithmetic Logic Unit，算术逻辑单元，负责加减乘、逻辑运算。

原创 SDC静默数据介绍

Silent Data Corruption，简称 SDC，中文可以翻译为“静默数据损坏”或“无声数据损坏”。它指的是程序在执行过程中，某个数据位的值发生了错误（bit flip），但由于硬件没有启用校验机制、或校验机制尚未覆盖所有路径，错误没有被检测到，程序继续拿着损坏的数据往下算。：整个过程不抛异常，训练日志正常，loss 在合理范围内波动。：最终模型精度低于预期，或多次运行结果不一致。：换一台机器、换一批显卡、换一条 NVLink 链路，问题可能就消失。

原创 分布式集合通信原语（Broadcast、Scatter、Gather、All-Reduce、Reduce-Scatter、All-to-All）

AI大模型训练推理任务，是由海量的GPU共同完成的。而这些GPU之间的通信，就是基于上面这些通信原语模型。引用：https://news.qq.com/rain/a/20251125A03O8U00?

原创 AI 大模型并行训练方式总结（DP / PP / TP / EP）

AI 训练/推理的核心是并行计算，四大常见方式：DP 数据并行、PP 流水线并行、TP 张量并行、EP 专家并行总体分两类：数据并行（每卡放完整模型、切数据）与模型并行（切模型本身），PP/TP/EP 均属模型并行训练基础流程（各并行方式的公共底座）：① 前向传播 → ② 计算损失 → ③ 反向传播求梯度 → ④ 优化器更新参数，循环直至收敛1、前向传播：输入一批训练数据，计算得到预测结果。2、计算损失：通过损失函数比较预测结果与真实标签的差距。

原创 DRIVE (Digital-Retinal-Images-for-Vessel-Extraction)数据集分享

原创 OJ题练习

算法练习1.计算三角形的边题目描述给出三个正整数，计算最小的数加上次小的数与最大的数之差。输入每一行包括三个数据a, b, c，并且都是正整数，均小于10000。*/1 2 36 5 410 20 151 1 1000 0 0输出对于输入的每一行，在单独一行内输出结果s。s=min(a,b,c)+mid(a,b,c)-max(a,b,c)。上式中，min为最小值，mid为中间值，max为最大值。 */035-98代码int min(int a,int b,int

原创 递归算法

递归的定义直接递归:在定义一个过程或函数时出现调用过程或本函数的成分。间接递归：过程或函数p调用过程或函数q，而q又调用p。尾递归：一个递归过程或递归函数中递归调用语句是最后一条执行语句。例：设计求n！的递归算法：...

原创 C语言上机练习及答案（北航复试练习）（二）

第二次作业—数字排序1.问题描述—编写一个程序，将输入的三个数从小到大排列出来。#include <stdio.h>void main(){ float f1,f2,f3,fl=0; printf("请输出f1,f2,f3:"); scanf("%f%f%f",&f1,&f2,&f3); if(f1>f2){ fl=f1; f1=f2...

原创 C语言上机练习及答案（北航复试练习）（一）

第一次作业----计算平均值（以下所有练习环境均是VC6++）1.问题描述：从键盘输入三个整数，分别存入想x,y,z三个整型变量中，计算并输出三个数的和以及平均值。#include <stdio.h> void main(){ int a,b,c; printf("请输入abc的值……\n"); scanf("%d%d%d",&a,&b,&c); ...

原创 算法的概念以及算法分析

1.什么是算法算法是解决问题的一系列计算步骤，用于将输入的数据转换成输出的结果。2.算法的目标①正确性 ：要求算法能够正确地执行预先规定的功能和性能要求 ；②可使用性：要求算法能够很方便地使用；③可读性：算法应该易于人的理解；④健壮性：要求算法具有很好的容错性，即提供异常处理，能够对不合理的数据就进行检查；⑤高效率与低存储量需求：通常算法的效率主要指算法的执行时间。3. 算法的5...

原创 算法之路

算法之路（序）引言：算法是程序的灵魂，一个程序应包括对数据的描述（数据结构）和对操作的描述（算法）两个方面的内容，所以沃思提出过一个公式即：数据结构+算法=程序。一、算法的概念以及算法分析（时间复杂度和空间复杂度）；二、递归算法三、穷举法四、分治法五、贪心法六、动态规划七、回溯法八、分支界限法九、图搜索算法设计十、计算几何十一 课后习题及答案参考教材：《算法设计与分析》 ...