Hi20240217的博客

基于ltrace的linux自定义函数耗时统计方法

基于PyTorch通信算子的分布式训练阻塞定位方法

基于PyTorch通信算子的分布式训练阻塞定位方法

【代码】如何使用MindSpeed-LLM做权值格式转换。

统计DeepSeekR1推理需要的GPU内存

为目标节点添加自定义标签：通过标签标识节点的特性或角色。在Pod的YAML配置文件中使用：根据节点的标签选择目标节点进行调度。下面我们将详细介绍每个步骤的具体操作。在Kubernetes中，通过为节点添加标签并在Pod的配置文件中使用，您可以轻松地控制Pod的调度位置。这不仅有助于在特定节点上复现问题，还能优化资源利用，满足应用的特定需求。本文介绍的方法简单易懂，非常适合Kubernetes新手入门。

使用 Helm 自动化脚本创建 Kubernetes Pod 并进行免密处理

集群IB网络扫描

tmux常用命令

从NVIDIA Nsight Compute内置的Sections中提取出所有的Metric及名称

将具有多个sheet的excel表格中所有sheet某一列翻译成中文,且保留原始样式

本文介绍了如何将confluence页面的内容保存为markdown格式。

【代码】下载HF AutoTrain 模型的配置文件。

​ 很多时候我们需要为系统寻找最优的超参.比如模型训练,推理的量化等.本文尝试将LLM当成优化器,帮忙我们寻找最优的超参.验证方法:小结

1.想dump出pytorch模型所调用基础算子的参数2.对于Tensor,ndarray。只保存type,shape,不存值3.之后可通过以上保存的信息,生成算子的参数,运行单算子。

之前 [导出excel中的公式,生成python代码](https://hi20240217.blog.youkuaiyun.com/article/details/138278188) 提到的方法,对表格的格式有比较强的要求.本文进行了优化:

之前用excel制作了一个llm内存占用量的表格,希望把里面的公式提取出来,生成python代码,供别人使用,以下是demo。

根据用户设置的LLM参数,计算设备内存的占用量。以web的形式方便共享,可以插入多条记录,表格更新后,可以动态计算结果。

希望测试pytorch各种算子、block、网络等在不同硬件平台,不同软件版本下的计算误差、耗时、内存占用等指标.本文基于torch.testing._internal。

获取微信联系人列表的一种方法：截长图,模板匹配,ocr识别

MHTML格式具有独特的优点，它可以完整保留原始网页的所有布局元素以及嵌入图片，无需外部依赖即可呈现原始网页内容，增强了可读性和便捷性。下文将展示如何运用自动化技术，从一个网站的首页出发，采用递归爬取的方式遍历整个站点，并将抓取到的各个页面悉数保存为MHTML格式，同时按照URL的层级结构，将这些页面对应地存储到相应的目录层级中。

如果想了解视频号最新的八卦,又不想浪费时间。可以通过adb模拟按键的方式,实现自动抓图和点赞。以下是步骤

新开发的PCIE设备在做服务器适配时,有时需要服务器厂家更新BMC或BIOS固件。同时,我们也希望对PCIE设备做一些检测,最后收集一些信息存档。如果需要处理的服务器很多,通过BMC的界面进行人工操作就会比较麻烦。以下提供了一个脚本,供参考。

如果想用json格式交换数据,但不想编写繁琐的生成和解析代码(特别是结构体嵌套时)。是否可以将这个步骤自动化呢,下面介绍一种方法