pprp的博客

RuntimeError: CUDA error: device-side assert triggeredterminate called after throwing an instance of ‘c10::Error’/c10d/NCCLUtils.hpp:155, unhandled cuda error, NCCL version 2.7.8分析： 这种报错通过查找博客，发现应该是代码实现中某些地方出了bug，比如label越界，sqrt 内容小于0等。但是笔者从另一个角度给可能存在的bu

实现同样一个功能，笔者运行需要11秒，而同窗的运行仅需要1秒不到，但是实际实现逻辑是类似的，所以需要使用性能分析工具对瓶颈进行分析。安装命令行安装：pip install line_profiler本地下载后安装：https://www.lfd.uci.edu/~gohlke/pythonlibs/#line_profiler根据平台选择对应whl文件，然后本地安装。修改代码先来一个demo，do_stuff是我们的目标，要测试这个函数每一行的耗时。from line_profi

综合运用了很多知识，对我来说还是有一定难度的，使用还是不够熟练。from sklearn.datasets import load_irisimport pandas as pdimport numpy as np# T1 导入鸢尾属植物数据集，保持文本不变。data = load_iris()print(dir(data))frame = pd.DataFrame(data=data.data, columns=data.feature_names)print(frame)print

Numpy 定义了 matrix 类型，使用该 matrix 类型创建的是矩阵对象，它们的加减乘除运算缺省采用矩阵方式计算，因此用法和Matlab十分类似。但是官方并不推荐在程序中使用 matrix,所以仍然用 ndarray 来介绍。文章目录0. 思维导图总结1. np中的广播机制2. np.matmul和np.dot的区别3. 奇异值分解4. QR分解5. Cholesky 分解6. 线代中几个性质6.1 范数6.2 行列式6.3 秩6.4 迹6.5 逆矩阵6.6 特征值&特征向量7. 求解方

文章目录0. 思维导图1. 知识补充2. amin测试3. 方差测试3. 标准差4. 极差(peak to peak)5. 分位数6. 中位数/均值/加权平均7. 协方差矩阵8. 相关系数9. 直方图10. 练习0. 思维导图1. 知识补充无偏估计参考无偏估计：对随机变量θ 的估计是θ^\hat{\theta}θ^，如果E(θ^)=E(θ)E(\hat{\theta})=E(\theta)E(θ^)=E(θ)，则称θ^\hat{\theta}θ^为θ 的无偏估计。σ2=1n−1[∑i=1n(Xi

0. 内容总结1. 石油勘探野外正在进行9（n=9）口石油勘探井的发掘工作，每一口井能够开发出油的概率是0.1（p=0.1）。请问，最终所有的勘探井都勘探失败的概率？import matplotlib.pyplot as pltimport numpy as npnp.random.seed(0)x = np.random.binomial(9, 0.1, size=50000)plt.hist(x)plt.xlabel('随机变量：成功次数')plt.ylabel('次数')plt.

【前言】学习了保存numpy数组、文本文件、控制输出格式等函数。0. 知识点总结1. 测试saveimport numpy as np a = np.random.randint(0,10,30)print(a)np.save("./save_format.npy", a)由于npy是二进制文件，所以打开以后除了一些头部信息，其他都是乱码。2. 测试loadimport numpy as npa = np.load("./save_format.npy")print(a)3

本文解读内容是IBN-Net, 笔者最初是在很多行人重识别的库中频繁遇到比如ResNet-ibn这样的模型，所以产生了阅读并研究这篇文章的兴趣，文章全称是: 《Two at Once: Enhancing Learning and Generalization Capacities via IBN-Net》。IBN-Net和SENet非常相似：可以方便地集成到现有网络模型中。在多个视觉任务中...

在计算机视觉中，卷积是最重要的概念之一。同时研究人员也提出了各种新的卷积或者卷积组合来进行改进，其中有的改进是针对速度、有的是为了加深模型、有的是为了对速度和准确率的trade-off。本文将简单梳理一下卷积神经网络中用到的各种卷积核以及改进版本。文章主要是进行一个梳理，着重讲其思路以及作用。文章目录1. Convolution2. 1x1/Pointwise Convolutions3. Sp...

池化操作(Pooling)是CNN中非常常见的一种操作，Pooling层是模仿人的视觉系统对数据进行降维，池化操作通常也叫做子采样(Subsampling)或降采样(Downsampling)，在构建卷积神经网络时，往往会用在卷积层之后，通过池化来降低卷积层输出的特征维度，有效减少网络参数的同时还可以防止过拟合现象。主要功能有以下几点：抑制噪声，降低信息冗余提升模型的尺度不变性、旋转不变形...

前言：这个库是为验证码识别竞赛而开发的一个基于pytorch实现的端到端的验证码识别系统。前后开发大概有2个月，其中大部分时间都在调参，后期参考kaggle大神经验，加入了一些trick，但是由于第一个榜截止了，所以没有得到测试集结果，只有验证集的参考结果。该库比较简单，适合入门竞赛，不过调参难度比较大，需要尝试合适的超参数，如果超参数不合适，可能会导致无法收敛，具体问题具体分析。1. 竞赛...

前言：之前只用过单线程处理，加载模型进行测试，运行时间上也可以接受。但是现在需要处理比较大量的数据，如果进行线性处理，可能测试一次就花10个小时，而且还不知道结果怎么样，所以多线程就必须使用上了。有关线程部分主要参考：https://junyiseo.com/python/211.html1 多线程多线程类似于同时执行多个不同程序，线程在执行过程中与进程还是有区别的。每个独立的进程有一个程...

前言：之前写python代码感觉注释不规范，冗余性比较大，而且格式不规范，之后再重新理解的时候会很难理解，所以搜索了一些代码规范进行总结，今后写的代码尽量按照规范进行编码。文章目录1 通用规范2 空行3 import 规范4 空行空格5 docstring与注释6 命令规范7 reference1 通用规范编码头部需要加入#-*-coding:utf-8-*-#尽可能使用...

在深度学习中进行张量操作的时候经常会遇到这样的切片形式，一开始总会感到头疼，所以现在总结一下用法，欢迎大家进行补充。data[x:y:z]data[::-1]data[:-1]data[-3:]data[1:4, 2:4]data[…, 1:2]data[:, None]这是最近在看的代码，进行loss的计算，用到了很多切片的知识，所以进行总结，希望看完这篇博客以后大家也能看懂...

前言：在查看一些工程性代码的时候，总是会发现类似：from .util import utilsfrom . import datasets这样的引用语句, 这让我比较困惑，所以趁这次机会，花点时间，好好整理一下相关的知识文章目录1. python包机制2. python模块相对引用3. 举例reference1. python包机制- 包- 模块- 框架： 如何组织包和模块...