VincentWeng1的博客

卷积神经网络的基本原理什么是卷积运算数学上的卷积数学上，我们通常用反褶和乘积运算定义卷积：f(t)=f1(t)∗f2(t)=∫−∞+∞f1(τ)f2(t−τ)dτf(t)=f_1(t)*f_2(t)=\int_{-\infty}^{+\infty}f_1(\tau)f_2(t-\tau)d\tauf(t)=f1​(t)∗f2​(t)=∫−∞+∞​f1​(τ)f2​(t−τ)dτ这种运算得到的是两个函数f1f_1f1​和f2f_2f2​的“重合部分面积”，可以理解为两个函数相似程度的度量矩阵

二分类logistic回归——平面点分类问题的实现概述对于二分类问题，logistic回归的目标是希望找到一个决策边界，将两类区分开来感知机模型对于一个输入xxx，如果存在样本点使得hw(x)=∑i=1mwixi+b>0h_w(x)=\sum_{i=1}^mw_ix_i+b>0hw​(x)=∑i=1m​wi​xi​+b>0，那么判定它的类别为1，否则判定它的类别为0logistic回归在感知机模型基础上进行了改进，通过分类概率P(Y=1)P(Y=1)P(Y=1)与输入xxx之间

himmelblau函数优化概述himmelblau函数是数学家们构造出来的一个特殊的函数，可以用来测试深度学习算法是否能够收敛到局部最小值。这个函数的表达式是：f(x,y)=(x2+y−11)2+(x+y2−7)2f(x,y)=(x^2+y-11)^2+(x+y^2-7)^2f(x,y)=(x2+y−11)2+(x+y2−7)2这个函数最小值为0，有四个最小值点，分别是：f(3.0,2.0)=0f(−2.805118,3.131312)=0f(−3.779310,−3.283186)=0f(

张量的计算数学运算四则运算±*(@)/，必须满足矩阵运算的条件加.表示矩阵对应位置进行操作高维矩阵乘法torch.matmul(a,b)对a,b的最后两维度进行矩阵乘法，其他维度不变。高维矩阵的乘法计算，本质上是支持了多个矩阵乘法的并行计算判断相等torch.eq(a,b)乘方.pow(2)或a**2.rsqrt()或a**(0.5)指数torch.exp()对数torch.log()近似运算.floor()向下取整.ceil()向上取整.round()四舍五入

张量的空间操作索引从0下标开始例如：a=torch.rand(4,3,28,28)#创建4*3*28*28的张量print(a[0].shape)#torch.Size([3, 28, 28])print(a[0,0].shape)#torch.Size([28, 28])print(a[0,0,2,4].shape)#torch.Size([])冒号:+数字表示从头到某一个索引但不包含最后一个索引数字+:从某一个索引到尾部其中正向下标从0开始递增，反向下标从-1开始递减例

张量基本操作构造首先需要导入pytorch和numpy库import torchimport numpy as np默认构造方法我们可以看看张量的相关参数torch.tensor(data, dtype=None, device=None, requires_grad=False, pin_memory=False)其中：data: 数据，可以是list，numpy的ndarraydtype: 数据类型，默认与data的类型一致device: 所在设备，gpu/cpurequi

分类——手写数字识别模型的复现问题重述现有若干手写数字图片（mnist数据集），包含手写数字图片信息和标记，可以将手写图片看作由所有像素点数值组成的向量，需要编写一个模型识别出对应的数字。实现思路采用3层线性网络，每一层网络传递都采用y=w∗x+by=w*x+by=w∗x+b的形式，为了增加网络的表示能力，引入非线性函数relu()，该函数的作用是当输出小于0时全部取0，输出大于0时函数值不变，类似于动物神经元需要接受一定的刺激之后才能产生神经冲动。通过python自带的pickle库，可以很方便

深度学习——线性回归模型复现问题重述现在有一个二维空间中的点集[xi,yi][x_i,y_i][xi​,yi​]，需要使用如下线性模型拟合：y=w∗x+by=w*x+by=w∗x+b要求拟合误差尽可能小。对于所有的点(xi,yi)(x_i,y_i)(xi​,yi​)，误差用如下函数衡量：loss=∑(yi−(w∗xi+b))2loss=\sum(y_i-(w*x_i+b))^2loss=∑(yi​−(w∗xi​+b))2其中：w∗xi+bw*x_i+bw∗xi​+b表示预测的值yi