- 博客(25)
- 收藏
- 关注
RSS订阅原创 神经网络参数量和运算量的计算- 基于deepspeed库和thop库函数
最近需要对神经网络的参数量和运算量进行统计。找到一个基于deepspeed库函数计算参数量和运算量的例子。而我之前一直用thop库函数来计算。看到有一篇勘误博文写道使用thops库得到的运算量是MACs (Multiply ACcumulate operations，乘加累积操作次数），而很多其他文章提到的还是FLOPs（Floating Point Operations，浮点运算次数）。因此对这两种方法进行测试，来验证thop库函数得到的运算量到底是MACs还是Flops。
2025-02-03 16:55:54
635
1
原创 回溯算法学习记录及习题集合
回溯算法是一种试探性的算法，它从一个可能的动作开始，尝试搜索所有可能的动作，直到找到解决方案。如果当前路径无法找到解决方案，它会返回上一步，尝试其他路径。这个过程称为“回溯”。本篇我们讲解了，什么是回溯算法，知道了回溯和递归是相辅相成的。接着提到了回溯法的效率，回溯法其实就是暴⼒查找，并不是什么⾼效的算法。然后列出了回溯法可以解决的⼏类问题。最后我们讲到回溯法解决的问题都可以抽象为树形结构（N叉树），并给出了回溯法的模板。参考资料[1]代码随想录。
2025-01-25 21:47:02
885
原创 毒鸡汤来喽~烧水学习法总结
引言烧水思维思维篇进步本对标概念篇学习的本质知识的本质考试的本质原理篇记忆原理速成原理上瘾原理法则篇目的法则节奏法则能力法则技巧篇费曼学习法大脑演练术进步本总结参考文献学习了烧水学习法，还是有点道理的。把这碗鸡汤分享给大家。哈哈哈~对于核聚，知乎上批判的声音很多，对于鸡汤类的学习方法还是要理性看待，最主要的是涉及付费的。想起了那个“听懂掌声”的成功学大师。免费的学习方法的分享，茶余饭后看看么也看看。
2024-12-20 22:54:45
951
原创 排序算法总结(python实现)
排序算法是一类常见的算法，在学习算法的过程中，都会学习这些排序算法的实现。尽管现在大多数程序语言以及扩展包中对排序算法进行了封装，只要调用接口函数即可实现算法。学习和总结排序算法对于理解算法思维还是很有帮助的。因此本文在学习了相关资料后对常见算法进行的总结。
2024-12-17 16:59:53
905
原创 双绞线直连两台电脑的方法及遇到的问题
办公室里有两台电脑，一台装了显卡用于跑深度学习相关的代码，一台则只装了高性能CPU用于日常办公。对于这两台电脑之间需要进行数据交互。比如将跑深度学习算法后的结果传给另外一台电脑。这个问题有多种解决方法，可以用u盘来回复制粘贴，用通讯工具qq传文件，用网盘上传下载等等方法。
2024-12-06 20:26:07
914
原创 分治算法中的主定理及其应用
学习递归算法的时候，找到了用来计算算法复杂度的主定理。问大语言模型，发现回答的主定理描述有所不同。本文比较了两个不同版本中表述的差异。并给出一些例子用来计算分治递归类算法的复杂度。
2024-11-30 21:12:44
1274
原创 轻松打造书本目录思维导图：基于Umi-OCR与Xmind的实用教程
通过以上步骤，我们就可以轻松打造出一幅书本目录思维导图。这种方法不仅有助于我们更好地理解和记忆书籍内容，还能提高我们的学习效率。赶快试试吧，让OCR和Xmind助力你的学习之路！如果您在制作过程中遇到任何问题，欢迎在评论区留言，我们一起交流学习！
2024-10-29 14:59:10
763
原创 探索Cherry键盘的FN+F9游戏模式与Ctrl+Fn功能
FN+F9是Cherry键盘上的一项便捷功能，允许用户在普通模式和游戏模式之间快速切换。在游戏模式下，键盘的一些键位功能会发生改变，以优化游戏体验。Ctrl+Fn是Cherry键盘上的另一个实用功能，用于锁定或解锁FN键。当FN键被锁定时，您可以不按FN键就直接使用键盘上的功能键。Cherry键盘的FN+F9游戏模式和Ctrl+Fn功能为用户提供了更高的灵活性和便利性。无论是沉浸在紧张刺激的游戏中，还是在日常办公中追求高效操作，这些功能都能助您一臂之力。
2024-09-27 20:46:41
5289
原创 h5py.File的使用:复杂数据张量集的创建，读取、操作。
H5py.File是H5py库中用于操作HDF5文件的核心类，它提供了丰富的API，使得在Python中使用HDF5文件变得非常方便。通过本文的介绍，相信您已经掌握了H5py.File的基本用法和常用操作。在实际项目中，可以根据需要灵活运用这些知识，高效地处理大规模、复杂的数据。
2024-04-08 20:04:14
2180
1
原创 神经网络训练日志的正确打开方式:使用re和matplotlib从训练日志中提取数据并绘图
神经网络训练日志记录了每个轮次训练的训练集准确率，验证准确率，训练集损失，验证集损失。但它包含了大量的文本信息，不够直观。有需要绘制出以上数据随着轮次的变化的曲线，来了解神经网络模型训练情况，更好的设置训练轮次，调节超参数等。以上就是今天要讲的内容，本文简单介绍了re库的使用，re库提供的正则表达式能够使我们快速便捷地提取出特定的内容。matplotlib库能够使我们绘制出曲线图。
2024-04-02 13:23:40
611
1
原创 pytorch损失函数踩坑记：Hinge Embedding Loss并不是HingeLoss
今天学习HingeLoss损失函数，看了下其他的博客示例代码，运行得到一个负数的损失函数。百思不得期解，于是仔细的分析了下错误原因。原来是Hinge Embedding Loss和HingeLoss混淆了。Hinge Loss（合页损失）通常用于支持向量机（Support Vector Machine，SVM）等模型中，特别是在二分类问题中。它的目标是使正确类别的分数与错误类别的最高分之间的差异达到一个固定的边界，从而促使模型学会产生更大的间隔。
2024-03-31 22:01:32
1743
1
原创 Pytorch中统计模型的计算量(FLOPs)和参数量(Params)
get_model_complexity_info 函数的参数 as_strings=True 表示返回的结果以字符串形式表示，print_per_layer_stat=True 表示打印每个层的统计信息。然后，我们定义了模型的输入尺寸，并使用 get_model_complexity_info 函数来计算模型的乘积累加操作（MACs，可以近似为 FLOPs）和参数量。最后，我们将结果打印出来。在深度学习中，FLOPs 用于衡量模型的总计算量，包括所有的乘法、加法和其他可能的操作（如激活函数的计算）。
2024-03-29 17:55:31
15706
5
原创 einops：python张量操作库
Python 编程语言中的一个库，用于在数组、张量上进行复杂的重新排列和重塑操作。它提供了一种简洁、可读性强的方式来表达这些操作。在 einops 这个库的名称中，“ops” 是 “operations”（操作）的缩写。因此，einops 可以理解为 “Einstein operations” 或 “Einstein-style operations”，暗示这个库提供了一种类似于爱因斯坦求和约定的操作方式，用于处理张量和数组。
2024-03-22 15:40:06
923
1
原创 卷积神经网络-卷积输出维度公式的理解记忆
假设输入图像的尺寸为Hin×Win,步长stride为s, 填充的圈数 padding为p卷积核的大小为Hk×Wk,则计算经过该卷积后 输出图像(feature map)尺寸Hout×Wout公式为HoutsHin−Hk2×p1WoutsWin−Wk2×p1。
2024-03-16 16:24:48
1076
1
原创 深度学习环境配置 平台:pycharm+anaconda 软件python+pytorch
conda是一个强大的包管理和环境配置工具，它提供了许多命令来管理Conda环境、安装和更新软件包、以及执行其他与conda相关的任务。使用深度学习训练神经网络需要先配置好环境，根据不同项目需求配置对应环境。我常用的是pycharm平台。在cmd控制台输入nvcc --version (NVIDIA Cuda Compiler)这些是conda命令中最常用的一些，还有许多其他命令和选项，可以通过查阅Conda文档或使用。cuda版本向下兼容， 我安装了以下版本。路径 文件-设置-项目-添加解释器。
2024-03-08 20:33:38
719
3
原创 代码随想录算法训练营第7天|344.反转字符串 ● 541. 反转字符串II● 卡码网：54.替换数字 ● 151.翻转字符串里的单词 ●卡码网：右旋字符串
代码随想录算法训练营第7天344.反转字符串。反转字符串和双指针结合。● 541. 反转字符串II。区间。● 卡码网：54.替换数字 指针法。● 151.翻转字符串里的单词， 空格删除。快慢指针。卡码网：右旋字符串。反转负负得正。
2024-02-28 22:06:59
899
原创 代码随想录算法训练营第6天|● 454.四数相加II ● 383. 赎金信 ● 15. 三数之和 ● 18. 四数之和 ● 总结
代码随想录算法训练营第6天|● 454.四数相加II ● 383. 赎金信 ● 15. 三数之和 ● 18. 四数之和 ● 总结使用双指针可以降低一个数量集合。使用容器map，set可以优化解题过程。
2024-02-27 23:22:16
435
原创 代码随想录算法训练营第5天|● 哈希表理论基础 ● 242.有效的字母异位词 ● 349. 两个数组的交集 ●202. 快乐数● 1. 两数之和
● 哈希表理论基础 ● 242.有效的字母异位词 ● 349. 两个数组的交集 ●202. 快乐数● 1. 两数之和hashtable可以用数组，集合set或者映射map来表示。使用map容器可以事半功背。
2024-02-26 20:30:23
1591
1
原创 代码随想录算法训练营第四天|24. 两两交换链表中的节点 19.删除链表的倒数第N个节点 142.环形链表II
两两交换链表中的节点：交换前要先保存节点。删除倒数第n个数：快慢指针，快指针先走n步，快指针到结尾，慢指针到倒数第n个节点处。环形链表：快指针和慢指针，快指针是慢指针的两倍，如果相遇则链表有环。入口点为相遇点和起点相遇的位置。
2024-02-24 23:31:49
420
1
原创 代码随想录算法训练营第三天|链表理论基础 ● 203.移除链表元素 ● 707.设计链表 ● 206.反转链表
移除链表元素：删除链表中的一个元素，头节点需要区别对待。增加虚拟节点可以统一写法。设计链表：链表的创建，增减删查。.反转链表：链表遍历，每个节点指向前一个结点。
2024-02-23 22:16:48
368
1
原创 代码随想录算法训练营第二天|977.有序数组的平方 ，209.长度最小的子数组 ，59.螺旋矩阵II
有序数组平方和:双指针降低复杂度。长度最小的子数组：双指针实现移动窗口螺旋矩阵：模拟题区间要清晰。C语言刷leetcode要注意int* returnSize 和 int** returnColumnSizes这两个参数。关于这两个参数的说明链接。
2024-02-22 20:09:37
428
1
原创 matlab生成均匀块状Toeplitz矩阵
matlab生成均匀块状Toeplitz矩阵#一、Toeplitz矩阵是什么？百科：托普利兹矩阵，简称为T型矩阵，它是由Bryc、Dembo、Jiang于2006年提出的。托普利兹矩阵的主对角线上的元素相等，平行于主对角线的线上的元素也相等；矩阵中的各元素关于次对角线对称，即T型矩阵为次对称矩阵。简单的T形矩阵包括前向位移矩阵和后向位移矩阵。在数学软件Matlab中，生成托普利兹矩阵的函数是：toeplitz(x,y)。它生成一个以 x 为第一列，y 为第一行的托普利兹矩阵，这里x, y均为向量，两者不
2021-03-17 16:10:56
4037
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人