夹猪逃-优快云博客

原创【深度学习】深入理解Batch Normalization批标准化

Batch Normalization1. “Internal Covariate Shift”问题2. BatchNorm的本质思想1）函数图像说明2）算法3）引入参数恢复表达能力4）公式3. 测试阶段如何使用Batch Normalization？4. BatchNorm的优势机器学习有个很重要的假设：IID独立同分布建设，就是假设训练数据和测试数据是满足相同分布的，这就是通过训练数据获得的模型能够在测试集获得很好效果的一个基本保障。BatchNorm的作用是什么呢？BatchNorm就是在深度神经

2021-04-12 21:15:08 619

原创【机器学习】机器学习与统计分布的关系

这里写目录标题1.常见的统计学分布1）离散分布a. 伯努利分布b. 二项分布c. 泊松分布2）连续分布a. 正态分布（高斯分布）b. 均匀分布为什么我们喜欢用 sigmoid 这类 S 型非线性变换1）为什么均匀分布熵最大？2）为什么使用累积分布函数将正态分布的信号生成均匀分布？为什么我们喜欢用 sigmoid 这类 S 型非线性变换1.常见的统计学分布1）离散分布a. 伯努利分布又称之为二点分布或者0-1分布，是一种离散分布，例如抛硬币的正面或反面，物品有缺陷或没缺陷，病人康复或未康复，此类满足「

2021-04-11 11:33:36 499

原创【深度学习】时间注意力模块与空间注意力模块

注意力模块通道（时间）注意力模块空间注意力模块通道（时间）注意力模块为了汇总空间特征，作者采用了全局平均池化和最大池化两种方式来分别利用不同的信息。输入是一个 H×W×C 的特征 F，我们先分别进行一个空间的全局平均池化和最大池化得到两个 1×1×C 的通道描述。接着，再将它们分别送入一个两层的神经网络，第一层神经元个数为 C/r，激活函数为 Relu，第二层神经元个数为 C。这个两层的神经网络是共享的。然后，再将得到的两个特征相加后经过一个 Sigmoid 激活函数得到权重系数 Mc。最

2021-04-06 22:31:47 12546 4

原创【机器学习】LR回归（逻辑回归）和softmax回归

LR回归（逻辑回归）和softmax回归1. LR回归Logistic回归的函数形式Logistic回归的损失函数Logistic回归的梯度下降法Logistic回归防止过拟合Multinomial Logistic Regression2. Softmax回归1. LR回归Logistic回归（Logistic Regression，简称LR）是一种常用的处理二类分类问题的模型在二分类问题中，把因变量y可能属于的两个类分别称为负类和正类，则因变量y∈{0, 1}，其中0表示负类，1表示正类。线性回归

2021-04-06 10:22:55 1735 2

原创【深度学习】(2+1)D模型框架结构笔记

（2+1）D 模型框架结构笔记SpatioTemporalConv模块结构SpatioTemporalResBlock模块结构SpatioTemporalResLayer模块结构2Plus1DNetSpatioTemporalConv模块结构SpatioTemporalConv的输入参数:(in_channels,out_channels,kernel_size,stride=1,padding=0, bias=False,first_conv=False)Args:in_channels (int

2021-03-31 16:44:36 2310 1

原创【深度学习】各种卷积的理解笔记（2D，3D，1x1，可分离卷积）

卷积1. 2D卷积单通道版本多通道版本2. 3D卷积3. 1x1卷积作用应用4. 卷积算法5. 可分离卷积空间可分离卷积深度可分离卷积1. 2D卷积卷积的目的是从输入中提取有用的特征。在图像处理中，卷积可以选择多种不同的滤波器。每种类型的过滤器都有助于从输入图像中提取不同的方面或特征，例如横向/纵向/对角线边缘。同样，在卷积神经网络中，通过卷积，利用训练过程中自动学习权值的滤波器来提取不同的特征。然后，所有这些提取的特征被“组合”以做出决定。卷积有几个优点，如权值共享和平移不变性。卷积还考虑了像素的空

2021-03-10 10:53:34 5688

原创【深度学习】Yolov3详解笔记及Pytorch代码

Yolov3详解笔记及Pytorch代码预测部分网络结构backbone：Darknet-53output预测结果的解码训练部分计算loss所需参数pred是什么target是什么loss的计算过程预测部分网络结构DBL：图中左下角所示，也就是代码中的Darknetconv2d_BN_leaky，是yolov3基本组件。就是卷积+BN+leaky relu。对于v3来说，BN和leaky relu和卷积组成不可分离部分，共同组成最小组件。resn：n代表数字，表示这个res_block含有多少个r

2021-03-08 20:50:11 2431 3

原创 python实现按照文件名称进行文件分类

问题：大量名称中带有数字的图片/视频，根据名称中数字按照一定的等差数列来排序，并且放入指定对应的文件夹中。import osimport shutilimport repath = "/home/dyx/code/sign_language/sign-language-gesture-recognition-master/lsa64_hand_videos" # 绝对路径# 新建64个文件夹，编号1-64sort_folder_number = [x for x in range(1,65)

2020-09-24 21:57:13 3247

原创 [数据结构与算法] 算法分析-冒泡排序法

问题：给定n个整数，将他们按(严格或非严格)升/降序排列。如：将 5、4、6、2、3、7、1 按升序排列观察：有序/无序序列中，任意/总有一对相邻元素顺序/逆序扫描交换：依次比较每一对相邻元素，如有必要则交换之；1）若整趟扫描都没有进行交换，则排序完成；2）否则，再做一次扫描交换从第一个元素开始，依次与右边相邻的元素做比较。如果第一个元素比第二个元素大则二者交换位置，否则不做操作。然后再比较第二和第三个元素，规则相同。直到最后一个元素也参与了比较，则第一轮循环结束。第一轮一共经过了n-1次比较，最

2020-09-20 20:32:37 294

原创 [数据结构与算法] 算法的时间复杂度学习

目录概念大O推导法练习概念假设计算机运行一行基础代码需要执行一次运算int aFunc(void) { printf("Hello, World!\n"); // 需要执行 1 次 return 0; // 需要执行 1 次}那么上面这个方法需要执行 2 次运算int aFunc(int n) { for(int i = 0; i<n; i++) { // 需要执行 (n + 1) 次 printf("Hel

2020-09-15 10:18:25 158

原创 [解决方案] VNC Viewer 连接灰屏问题（能够连接上，但全是灰点，没有任何菜单、按钮，鼠标变为x）

[解决方案] VNC Viewer 连接灰屏问题（能够连接上，但全是灰点，没有任何菜单、按钮，鼠标变为x）情况1情况2情况3情况1登陆VNCviewer可能会发现服务器的mate桌面为灰色，没有任何图标，如下所示：解决方案因此，需要先杀死端口再重开。杀死端口号：vncserver -kill :xx重开端口号：vncserver :xxps: xx是分配给你的端口号，比如30pps: 注意这里-kill之后需要加空格如果正常出现以下提示信息则说明操作正常，端口号正常。之后，再去试试VN

2020-08-04 09:55:17 39360 6

夹猪逃的博客