
深度学习
Tensorflow2学习笔记。
Alex-YiWang
南山数字IC研究生,终身学习践行者,励志成为价值内容的传播者。
展开
-
机器学习:【15】超详细kaggle注册图文教程
很多同学卡在了注册kaggle这个步骤上,打算记录一下整个注册过程,供大家参考原创 2020-03-03 10:10:20 · 10749 阅读 · 0 评论 -
机器学习:【14】批标准化
标准化也叫做归一化,一般是将数据映射到指定范围,用于去除不同维度数据的量纲以及量纲单位。可以让机器学习模型看到不同样本之间更加相似。常见的数据标准化形式:标准化(均值为0,方差为1)和归一化(取值在0-1之间)。批标准化(Batch Normalization)和普通数据标准化类似。不仅在数据输入时进行标准化,而且在每次变换后都考虑数据标准化。主要解决问题:梯度消失,梯......原创 2020-02-09 23:19:42 · 414 阅读 · 0 评论 -
机器学习:【13】卫星图像识别实践
#此代码基于tensorflow2.0import tensorflow as tfimport matplotlib.pyplot as plt%matplotlib inlineimport numpy as npimport pathlib #路径管理工具,查一下用法data_dir = '2_class'data_root = pathlib.Path(data_di...原创 2020-02-10 11:26:19 · 604 阅读 · 0 评论 -
机器学习:【12】卷积神经网络实践及优化
#本代码基于kaggle平台tensorflow2.0#数据来自fashion_mnist数据集import tensorflow as tffrom tensorflow import kerasimport matplotlib.pyplot as plt%matplotlib inlineimport numpy as np#1 导入数据fashion_mnist = ...原创 2020-02-08 20:59:24 · 460 阅读 · 0 评论 -
机器学习:【11】卷积神经网络CNN原理
CNN概述计算机可以通过寻找诸如边缘和曲线之类的低级特点来分类图片,继而通过一系列卷积层级构建出更为抽象的概念。CNN是从视觉皮层的生物学获得启发的,视觉皮层有小部分细胞对特定部分的视觉区域敏感。原因:现实中的图像是图片,是很大的不只是28*28,但是使用Dense层的话,太大了(参数爆炸)特点:可以实现对图像的高准确率识别,主要应用与计算机视觉中。CNN架构卷积层 ......原创 2020-02-08 17:33:12 · 332 阅读 · 0 评论 -
机器学习:【10】tf.data模块实践
简单基础每个元素包含一个或多个Tensor对象。例如,在图片管道中。一个元素可能是单个训练样本,具有一对表示图片数据和标签的张量。一个Dataset对象包含多个元素,每个元素包含一个或多个Tensor对象,这些对象被称为组件。Dataset的属性由构成该Dataset的元素的属性映射得到,元素可以是单个张量、张量元组,也可以是张量的嵌套元组。创建tf.data.Dataset......原创 2020-02-08 23:52:53 · 400 阅读 · 0 评论 -
机器学习:【9】函数式api实践(多输入模型)
函数式API简介:不同于Sequential结构的网络,函数式api可以自行设计网络结构。核心思想在于可以调用,每一层都可以用调用来实现。#本代码基于tensorflow2.0import tensorflow as tffrom tensorflow import kerasimport matplotlib.pyplot as plt%matplotlib inline......原创 2020-02-08 21:11:45 · 258 阅读 · 0 评论 -
机器学习:【8】网络优化和超参数选择【含新坑 交叉验证 正则化】
网络容量:可以认为与网络中的可训练参数成正比。假设空间(hypothesis space)是指一个机器学习算法可以生成的所有函数的集合。这个函数集合就代表了一个机器学习算法的拟合能力。网络中神经单元越多,层数越多,神经网络的拟合能力越强。同样的训练的难度越大,也越容易出现过拟合现象。如何提高网络的拟合能力?和容易想到以下两个办法: 增加层 增加隐藏神经元数 增......原创 2020-02-08 00:37:06 · 230 阅读 · 0 评论 -
机器学习:【7】学习速率设置实践
学习速率:对梯度进行缩放的参数被称为学习速率(learning rate),需要进行人为规定(被称为超参数),可以通过查看损失函数的曲线来判断学习速率的设置是否合理。例如:如果震荡,说明学习速率过大。反向传播算法:一种高效计算数据流图中梯度的技术,会把梯度反向传播到每一层,进行梯度下降。常见优化函数:SGD:随机梯度下降优化器。RMSprop:常用来处理序列问题,增加了......原创 2020-02-07 19:18:26 · 779 阅读 · 0 评论 -
机器学习:【6】多分类实践
softmax层,可以将神经网络的输出转变为一个概率分布 它要求每个样本必须属于某个类别,且所有可能的样本均被覆盖 softmax各个样本分量之和为1可能要用到两种tf.keras交叉熵categorical_crossentropy sparse_categorical_crossentropy代码1:#本代码基于tensorflow2.0#使用的为Fash......原创 2020-02-08 00:26:45 · 343 阅读 · 0 评论 -
机器学习:【5】逻辑回归实践(二分类问题)
对于逻辑回归函数,最好使用交叉熵损失函数更有效,交叉熵会输出一个更大的损失 交叉熵刻画的是实际输出概率和期望输出概率的的距离#本代码基于tensorflow2.0import tensorflow as tfimport pandas as pdimport numpy as npimport matplotlib.pyplot as plt%matplotlib inline......原创 2020-02-07 15:38:40 · 549 阅读 · 0 评论 -
机器学习:【4】多层感知机实践
#本代码基于tensorflow2.0#输入数据为三列 输出为1列import tesorflow as tfimport pandas as pdimport matplotlib.pyplot as plt%matplotlib inline#1 导入数据data = pd.read_csv('dataset.csv')data.head() #可以看前5行的数据,便于建模......原创 2020-02-08 23:50:40 · 152 阅读 · 0 评论 -
机器学习:【3】单变量线性回归实践
#本代码基于tensorflow2.0#f(x) = ax + bimport tensorflow as tfprint('Tensorflow Version:{}'.format(tf.__version__)) #显示tf版本import pandas as pdimport matplotlib.pypolt as plt%matplotlib inline # 由于...原创 2020-02-08 23:50:03 · 138 阅读 · 0 评论 -
机器学习:【2】jupyter显存不足报错Blas GEMM launch failed的解决方案
前言:这两天利用jupyter进行训练模型时,总会出现莫名错误,但是重启电脑后错误又会自行消失。往往打开jupyter后,第一次可以正常训练,第二次类似的程序就会报错,经过百度各路大神的博客,终于找到了原因是因为jupyter占用显存过多导致。问题描述&解决:上图是本人遇到的奇怪错误,显示报错信息为内部错误,无奈太菜看不太明白报错信息。经过运行nvidia-smi,证明...原创 2020-02-06 21:34:42 · 1437 阅读 · 0 评论 -
机器学习:【1】tensorflow2.0GPU版本在windows10环境下的安装
听说tensorflow2.0版本比1.x版本有更多的特点,按照bilibili中的日月光华教程安装好了,记录一下所踩到的坑以及解决方案。首先需要满足Nvidia显卡算力不低于3.0:可以在这里看一下自己的显卡型号:https://developer.nvidia.com/cuda-gpus,本人的显卡是GeForce1050,满足要求。 安装Anaconda的对应版本:https://ww...原创 2020-02-06 16:36:30 · 599 阅读 · 0 评论