自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(68)
  • 收藏
  • 关注

原创 集群离线环境编译pytorch

对于一些需要更改pytorch源码或者需要特定pytorch版本的需求可能需要更改pytorch。下面是笔者在集群服务器上重新编译pytorch 的一个过程。记录了出现的一些问题和解决方案。

2025-02-20 14:48:41 908

原创 Using NCCL

Using NCCL

2024-12-11 17:16:30 1326

原创 使用系统内NCCL环境重新编译Pytorch

使用系统内NCCL环境重新编译Pytorch

2024-11-26 11:12:53 873

原创 使用猴子补丁对pytorch的分布式接口进行插桩

想要看一下在DDP中pytorch是怎么调用torch.distributed的通信后端的,所以写了一个猴子补丁。

2024-11-23 17:05:01 347

原创 关于最近工作的一些心得和思考

这时候我才想起来pytorch在编译的时候是直接把NCCL库编译链接进去的,也就是嵌入了二进制代码而不是用的系统内配置的二进制环境,虽然可以考虑使用USE_SYSTEM_NCCL=1的方式指定自己的库,但是由于这个问题的产生我也意识到了,如果想在大规模集群配置这样比较个性化的环境,难度可想而知,不仅是开发难度很逆天,真正如果需要转化为一些能落地的成果(虽然不太可能哈哈哈)更上难度了。所以为了绕开这个问题,我就想把插桩的逻辑更上一层,也就是在pytorch的distri的层面去做,不修改源码,使用猴子补丁!

2024-11-18 10:33:50 137

原创 nccl库的一个插桩实验

nccl插桩实验

2024-11-11 16:05:13 251

原创 手动配置NCCL环境

NCCL手动配置

2024-11-11 09:00:04 1234 2

原创 关于dlsym,dlopen,dlclose

讲述了静态链接库与动态链接库的相关知识

2024-11-06 23:14:54 2017

原创 Python 装饰器 (面向切面编程,语法糖,AOP)

本文主要记录Python decorator相关的知识。

2024-11-06 17:58:18 842

原创 速通一些常见的神经网络

用简洁的语言介绍了一些神经网络

2024-11-02 16:15:16 884 1

原创 关于学习神经网络的一些感悟

介绍了学习神经网络时候的一些感悟。

2024-10-09 15:17:11 1948 1

原创 Git使用

简述了一些git的操作

2024-10-05 17:43:25 2028 1

原创 使用GDB在本地调试MPI程序

使用GDB对MPI程序进行简单的调试

2024-09-26 14:28:54 502 2

原创 ccf csp 202006-2

ccf csp 202006-2

2023-05-18 11:28:46 201

原创 在分多重背包中的物品个数较大时候的优化算法(二进制优化法)

在分多重背包中的物品个数较大时候的优化算法(二进制优化法)

2023-05-15 13:18:14 219

原创 202104-2 邻域均值

202104-2 邻域均值

2023-05-02 12:33:51 171

原创 202109-2 非零段划分

202109-2 非零段划分

2023-05-01 13:35:09 137

原创 202203-2 出行计划

202203-2 出行计划

2023-04-27 13:30:31 91

原创 202112-2 序列查询新解

202112-2 序列查询新解

2023-04-27 13:25:56 81

原创 Day49||● 647. 回文子串 ● 516.最长回文子序列

Day49||● 647. 回文子串 ● 516.最长回文子序列

2023-04-25 11:28:32 66

原创 Day48||● 583. 两个字符串的删除操作 ● 72. 编辑距离 ● 编辑距离总结篇

Day48||● 583. 两个字符串的删除操作 ● 72. 编辑距离 ● 编辑距离总结篇

2023-04-24 11:26:17 58

原创 Day47||392.判断子序列 ● 115.不同的子序列

Day47||392.判断子序列 ● 115.不同的子序列

2023-04-21 18:51:43 52

原创 Day46||1143.最长公共子序列 ● 1035.不相交的线 ● 53. 最大子序和 动态规划

Day46||1143.最长公共子序列 ● 1035.不相交的线 ● 53. 最大子序和 动态规划

2023-04-20 12:48:50 121

原创 Day45||● 300.最长递增子序列 ● 674. 最长连续递增序列 ● 718. 最长重复子数组

Day45||● 300.最长递增子序列 ● 674. 最长连续递增序列 ● 718. 最长重复子数组

2023-04-19 13:09:35 56

原创 Day44||● 309.最佳买卖股票时机含冷冻期 ● 714.买卖股票的最佳时机含手续费

Day44||● 309.最佳买卖股票时机含冷冻期 ● 714.买卖股票的最佳时机含手续费

2023-04-18 11:05:05 58

原创 Day43||● 123.买卖股票的最佳时机III ● 188.买卖股票的最佳时机IV

Day43||● 123.买卖股票的最佳时机III ● 188.买卖股票的最佳时机IV

2023-04-17 11:00:07 135

原创 Day41||● 121. 买卖股票的最佳时机 ● 122.买卖股票的最佳时机II

Day41||● 121. 买卖股票的最佳时机 ● 122.买卖股票的最佳时机II

2023-04-13 13:24:54 85

原创 Day40||● 198.打家劫舍 ● 213.打家劫舍II ● 337.打家劫舍III

● 198.打家劫舍 ● 213.打家劫舍II ● 337.打家劫舍III

2023-04-12 12:42:28 150

原创 Day39||● 139.单词拆分

Day39||● 139.单词拆分

2023-04-11 11:26:12 79

原创 Day38||● 70. 爬楼梯 (进阶)● 322. 零钱兑换 ● 279.完全平方数

● 70. 爬楼梯 (进阶)● 322. 零钱兑换 ● 279.完全平方数

2023-04-10 12:04:16 53

原创 Day37||518. 零钱兑换 II ● 377. 组合总和 Ⅳ

Day37||518. 零钱兑换 II ● 377. 组合总和 Ⅳ

2023-04-04 10:50:35 117

原创 Day36||1049. 最后一块石头的重量 II ● 494. 目标和 ● 474.一和零

这道题很像分割加和相等的子集的问题,把石头分成尽可能相同的两堆。

2023-04-03 13:38:28 65

原创 Day35||● 416. 分割等和子集

Day35||● 416. 分割等和子集

2023-04-02 13:11:48 108

原创 Day34||● 343. 整数拆分 ● 96.不同的二叉搜索树

Day34||● 343. 整数拆分 ● 96.不同的二叉搜索树

2023-03-31 13:59:38 151

原创 Day33||● 62.不同路径 ● 63. 不同路径 II

Day33||● 62.不同路径 ● 63. 不同路径 II

2023-03-30 11:32:20 52

原创 Day32||● 509. 斐波那契数 ● 70. 爬楼梯 ● 746. 使用最小花费爬楼梯

Day32||● 509. 斐波那契数 ● 70. 爬楼梯 ● 746. 使用最小花费爬楼梯

2023-03-29 11:51:05 86

原创 Day31||● 738.单调递增的数字 ● 968.监控二叉树 ● 总结

Day31||● 738.单调递增的数字 ● 968.监控二叉树 ● 总结

2023-03-28 10:46:31 122

原创 Day30||435. 无重叠区间 ● 763.划分字母区间 ● 56. 合并区间

Day30||435. 无重叠区间 ● 763.划分字母区间 ● 56. 合并区间

2023-03-27 11:55:32 51

原创 Day29||● 860.柠檬水找零 ● 406.根据身高重建队列 ● 452. 用最少数量的箭引爆气球

Day29||● 860.柠檬水找零 ● 406.根据身高重建队列 ● 452. 用最少数量的箭引爆气球

2023-03-24 15:13:36 84

原创 关于c++ unsigned类型的易错点

关于unsigned

2023-03-23 15:32:44 333

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除