ID246783的博客

这里用linearregression的方式来搞一下预测房价问题，这是在kaggle的一个比赛 不限期 可以随时提交。

我们已经见过了LeNet和AlexNet，一个是3层，一个是7层，那么如果我们想实现一些更多层的神经网络要怎么办呢，还是手动开每一层吗？显然不能这么原始，所以我们想到了一件事：为社么不试试for循环呢qwq这就是vgg的本质了。

这个netnetnet其实就是比LeNetLeNetLeNet# 第一阶段# 第二阶段# 第三阶段# 第四阶段net.add(nn.Dropout(.5)) # 50% 的概率的丢掉 但期望不变# 第五阶段# 第六阶段net.add(nn.Dense(10)) # 真实的AlexNet是1000 但是我们这里还是用的mnist 所以就是10print(net)我们可以看看打印出来的netnetnet然后我把LeNetLeNetLe。

首先我们要知道channel是什么意思，。我们来举个例子，在计算机视觉中，如果一张图片是黑白的，那么每个像素点都是有一个信息也就是这个像素点的灰度。但是对于一张彩色图片来说，每个像素点都是由三个信息叠加而成的，也就是RBG三个颜色的“灰度”。于是我们对黑白照片操作变成矩阵的时候，我们就会直接将灰度拿来用，把它变成一个二维的矩阵。而对于彩色照片来说，我们就会建立一个高为3的三维张量来存储这个图片。这里的所谓“高度3”就是我们的channel。

很简单的模型，就只有一层DenselayerDense \;layerDenselayerdef accuracy(output, label): # 计算拟合的准确度return nd.mean(output.argmax(axis = 1) == label).asscalar() # argmax是把每一列的最大概率的index返回出来 然后和label比较是否相同 最后所有求个meanacc = 0.这里的softmaxcrosse。

这里我们实现一个很简单的线性回归模型我们这里还没有数据，所以我们整一个人为设定的truewtrue\_wtruew和truebtrue\_btrueb来人为生成训练数据和测试数据。true_w = np.array([2, -3.4]) # 真实的 w 和 bx = np.random.normal(0, 1, (n, len(w))) # 正态分布 0~1 的 n*2 的矩阵。

的话可能不会得到一个很好的分类方案，所以我们考虑每次随机初始化聚类中心，然后跑很多遍（取决于你的数据规模和时间）2. 分别遍历同一类的所有点，计算这些点的几何平均位置，并把聚类中心移动到这个位置。图画到这里我们就能明显的观察到两个聚类已经被划分好了。并标记这个点为距离更小的那一类。可能你也注意到了，我们如果只跑一遍。像前面介绍的线性回归、逻辑回归、看得出来，这就是要最小化所有点。最小的那个分类方案作为最后的答案。到两个聚类中心的距离。，对于每次计算出来的。

  SVMSVMSVM 用于解决的问题也是 classificationclassificationclassification，这里 y∈{−1,1}y \in \{-1, 1\}y∈{−1,1}  比如说这样一个需要分类的训练数据：  我们可以有很多直线来分开这两坨东西，就像这样：  我们看到这三条线 l1,l2l_1, l_2l1​,l2​ 和 l3l_3l3​，我们显然可以看出来 l1l_1l1​ 比 l2l_2l2​ 和 l3l_3l3​ 要更优秀，但是我们怎么定义这个所谓的 “优秀” 呢？  我

神经网络计算  神经网络非常简单，举个例子就理解了（最后一层的那个写错了，应该是 a1(3)a^{(3)}_1a1(3)​）：  notationnotationnotation： aj(i)a^{(i)}_jaj(i)​ 表示第 iii 层的第 jjj 个单元。w(j)w^{(j)}w(j) 表示权重矩阵，控制从 jjj 层到 j+1j + 1j+1 层的映射。  其中：a1(2)=g(w10(1)x0+w11(1)x1+w12(1)x2+w13(1)x3)a2(2)=g(w20(1)x0+w

是表示我们拟合出来的那条直线（二维的情况下，一下解释也是二维的情况下，高维就类比就行了）。而并且上过高中的都知道，同样的，我们考虑和线性回归一样构造一个表示差异程度的函数，然后用。这条直线将平面分成了两部分，一部分中的点是。表示的是这条直线上方的半平面部分，而。表示的是这条直线下方的半平面部分。的），而在逻辑回归中，我们希望。我们可以看到，这个函数过点。在逻辑回归中，我们只讨论。如果我们考虑将概率超过。在线性回归中，我们有。的一类，并把概率小于。

的算法来执行第二部，感性的理解就是在某一点找到 “下山” 的方向，并沿着这个方向走一步，并且重复这个动作知道走到 “山脚下”。在我们要解决的线性回归问题中，我们不仅不能使用上述已知的表达式解，我们还可以将维度升高。求导，得到了蓝色的切线的斜率，这个斜率显然是个正数，于是我们沿着负方向走一步，这一步的大小取决于。我们在高中的时候都学过线性回归，在这我们回顾一下。的差异程度，上述表达式很好的符合这个定义。在高中的课程中，我们会被给得到一组。这里，这个红色的曲线就是我们的。并且显然的，我们希望这个。