blexsantos的博客

动手学深度学习： 图像分类案例2，GAN,DCGAN内容摘自伯禹人工智能AI公益课程图像分类案例2关于整理数据集后得到的train、valid、train_valid和test数据集：找到一组合适的超参数后，用train_valid重新训练网络可以利用train数据集训练模型，通过观察在valid数据集上的损失与准确率来调整超参数可以利用train数据集训练模型，通过观察在valid数...

动手学深度学习：目标检测基础，图像风格迁移，图像分类案例内容摘自伯禹人工智能AI公益课程目标检测基础目标检测算法通常会在输入图像中采样大量的区域，然后判断这些区域中是否包含我们感兴趣的目标，并调整区域边缘从而更准确地预测目标的真实边界框（ground-truth bounding box）。不同的模型使用的区域采样方法可能不同。这里介绍的方法：它以每个像素为中心生成多个大小和宽高比（asp...

动手学深度学习：批量归一化和残差网络；凸优化；梯度下降内容摘自伯禹人工智能AI公益课程批量归一化和残差网络对输入的标准化（浅层模型）处理后的任意一个特征在数据集中所有样本上的均值为0、标准差为1。标准化处理输入数据使各个特征的分布相近批量归一化（深度模型）利用小批量上的均值和标准差，不断调整神经网络中间输出，从而使整个神经网络在各层的中间输出的数值更稳定。1.对全连接层做批量归一化...

卷积神经网络基础内容摘自伯禹人工智能AI公益课程目录：1、卷积神经网络的基础概念2、卷积层和池化层3、填充、步幅、输入通道和输出通道1、卷积神经网络的基础概念最常见的二维卷积层，常用于处理图像数据。二维互相关运算二维互相关（cross-correlation）运算的输入是一个二维输入数组和一个二维核（kernel）数组，输出也是一个二维数组，其中核数组通常称为卷积核或过滤器（fi...

动手学深度学习：机器翻译及相关技术，注意力机制与seq2seq模型，Transformer内容摘自伯禹人工智能AI公益课程初次学习机器翻译相关，把课程的概念题都记录一下。目录：1、机器翻译及相关技术2、注意力机制与seq2seq模型3、Transformer1、机器翻译以及相关技术1、关于Sequence to Sequence模型说法错误的是：A 训练时decoder每个单元输...

动手学深度学习：梯度消失、梯度爆炸内容摘自伯禹人工智能AI公益课程目录：梯度消失和梯度爆炸的基本概念考虑到环境因素的其他问题Kaggle房价预测# 梯度消失、梯度爆炸以及Kaggle房价预测1、梯度消失和梯度爆炸的基本概念1.1 梯度消失和梯度爆炸深度模型有关数值稳定性的典型问题是消失（vanishing）和爆炸（explosion）。当神经网络的层数较多时，模型的数值稳定性容...

动手学深度学习：过拟合、欠拟合及其解决方案内容摘自伯禹人工智能AI公益课程目录：相关的基本概念权重衰减代码实现丢弃法代码实现1、相关的基本概念训练误差：模型在训练数据集上表现出的误差。泛化误差：模型在任意一个测试数据样本上表现出的误差的期望，并常常通过测试数据集上的误差来近似。欠拟合（underfitting）：模型无法得到较低的训练误差。过拟合（overfitt...

内容摘自伯禹人工智能AI公益课程线性回归的基本要素1、模型线性回归假设输出与各个输入之间是线性关系，例如：price=warea⋅area+wage⋅age+b\mathrm{price} = w_{\mathrm{area}} \cdot \mathrm{area} + w_{\mathrm{age}} \cdot \mathrm{age} + bprice=warea​⋅area+...