u012132349的博客

如果你对Python有一定的了解，想对深度学习的基本概念和工作原理有一个透彻的理解，想利用Python编写出简单的深度学习程序，那么这本书绝对是最佳的入门教程，理由如下：    （1）撰写者是一名日本普通的AI工作者，主要记录了他在深度学习中的笔记，这本书站在学习者的角度考虑，秉承“解剖”深度学习的底层技术，不使用任何现有的深度学习框架、尽可能仅使用基本的数学知识和Python库。从零创建一个...

开发环境：Windows7 64位 python3.7 pyqt5 pycharm OpenCV3.4 QT Designer PyUIC目录功能介绍程序代码软件截图功能介绍该程序主要在pycharm中开发，导入至pycharm里的外部工具有QT Designer和PyUIC。其中QT Designer用于GUI布局，PyUIC用于将ui文件转换为....

文章《基于pyqt+OpenCV设计的用户密码或人脸识别登录GUI程序设计》介绍了利用pyqt+openCV实现人脸识别。该文章纯粹利用openCV提供的有关人脸识别的接口：人脸图像采集、模型参数学习、人脸推理（识别）等。在该文章基础之上，我们作了一些修改：仍然以openCV完成人脸照片的采集（保存） 利用python图像处理库PIL对图片进行尺寸修改（比如设置为150x150） 自...

加深神经网络在之前的学习专题中，介绍了构成神经网络的各种层、学习时的有效技巧、对图像特别有效的CNN、参数的最优化方法等，这些都是深度学习中的重要技术。首先，我们将学过的技术汇总起来，创建一个深度网络，并应用于MNIST数据集的手写数字识别。构建深度CNN基于手写数字识别的深度CNN如上图，我们创建了一个比之前实现的网络都深的神经网络。这个网络有如下特点：（1）基于的小型...

目录概述卷积层卷积层的产生卷积运算填充步幅应用滤波器后的输出数据大小计算三维数据的卷积运算批处理（‘四维数据’）池化层卷积层和池化层的Python实现im2col介绍im2col的Python实现卷积层的实现池化层的实现CNN的实现概述卷积神经网络（Convolutional Neural Network），简称CNN，CNN...

SGD、Momentum、AdaGrad、Adam、Xavier初始值、He初始值、Batch Normalization、权值衰减、Dropout

目录前言计算图计算图求解示例计算图的优点反向传播思考一个问题链式法则计算图的反向传播链式法则和计算图加法节点的反向传播乘法节点的反向传播“购买水果”问题的反向传播激活函数（层）的反向传播激活函数ReLU的反向传播激活函数Sigmoid的反向传播Affine/softmax激活函数的反向传播Affine层softmax-wi...

20世纪中期开始的人工智能研究，是人类思维发展史上的一个重大事件，它已经并将继续对思维的发展、思维的研究、人类的整个精神生活乃至物质生活产生深刻的影响。在这里，我们要探讨人工智能产生的原因和条件、人工智能的本质、人工智能和思维的关系及其发展趋势等一系列理论问题。目录第一节 人工智能的可能、现实和界限 一 什么是人工智...

前言所谓”学习“是指从训练数据中自动获取最优权重参数的过程，为了使神经网络能进行学习，我们将导入损失函数这一指标。学习的目的就是以该损失函数为基准，找出能使它的值达到最小的权重参数。为了找出尽可能小的损失函数的值，这里我们介绍利用函数斜率的梯度法。目录数据准备训练数据测试数据损失函数均方误差交叉熵误差疑问解答：为什么要使用损失函数？数值微分导数概念理...

 在上一篇专题中，我们以三层神经网络的实现为例，介绍了如何利用Python和Numpy编程实现神经网络的计算。其中，中间(隐藏)层和输出层的激活函数分别选择了 sigmoid函数和恒等函数。此刻，我们心中不难发问：为什么要花一个专题来介绍输出层及其激活函数？它和中间层又有什么区别？softmax函数何来何去？下面我们带着这些疑问进入本专题的知识点：1 输出层概述2 回归问题及恒等函数3...

到目前为止，我们已经介绍完了神经网络的基本结构，现在用一个图像识别示例对前面的知识作整体的总结。本专题知识点如下：MNIST数据集 图像数据转图像 神经网络的推理处理 批处理 MNIST数据集         mnist数据图像MNIST数据集由0到9的数字图像构成。像素取值在0到255之间。每个图像数据都相应地标有“7”、“2”、“1”等数字标签。MNIST数据集中，训练数据...

前面发布的文章介绍了感知机，了解了感知机可以通过叠加层表示复杂的函数。遗憾的是，设定合适的、能符合预期的输入与输出的权重，是由人工进行的。从本章开始，将进入神经网络的学习，首先介绍激活函数，因为它是连接感知机和神经网络的桥梁。如果读者认知阅读了本专题知识，相信你必有收获。感知机数学表达式的简化前面我们介绍了用感知机接收两个输入信号的数学表示如下：                    ...

    感知机是作为神经网络（深度学习）起源的算法，学习感知机的构造是通向深度学习的一种重要思想。概念：    感知机是一种算法，更或者说是一种数学表达式，它能接受多个输入信号(x1、x2、x3….)，而输出一个信号(y)。                                            感知机的信号只有两种取值，传递信息对应1，不传递信息对应0。如上面公式所...

如果掌握了NumPy多维数组的运算，那么神经网络的实现就变得简单了。多维数组        多维数组就是数字的集合，数字排成一列的集合、排成行列的集合、排成三维或N维形状的集合。Numpy是专为Python提供的多维数组计算库，这里我们简单地给出一些相关的运算。import numpy as np"一维数组"data=np.array([1,2,3,4]) #构造一维数组pr...

    在前一章节（https://blog.youkuaiyun.com/u012132349/article/details/86166324），我们介绍了感知机可以实现与门、或门、非门。只需给定合适的参数(w1, w2, b)并利用Python就可以简单实现对输入的任意(x1,x2)，输出0或1。    今天我们将介绍感知机的局限性(严格说是单层感知机的局限性)。这里我们想用感知机实现异或门，所谓异...

#假设y是np.array数组形式的数组，形状为（row, col)#t是类别标签，也为数组，形状为(row,)，比如[0,2,3,5,2,6]one_hot_t= np.zeros_like(y) #生成和y形状一样的元素为零的数组for j, i in zip(range(t.size), t): #有多少个样本就应该对应多少个标签 one_hot_t[j][i] =...