sinat_34269128的博客

本课程根据李宏毅2020课程中的Transformer章节进行学习 对视频学习过程进行记录 Transfomer是一个seq2seq结构，重点使用的self-attention layer取代了RNN layer 一般情况下处理一个sequence时候最常使用的RNN处理： a为输入层，b为输出层，但是这种使用RNN的结构有一个很大的缺点，就是不能够平行化（所谓的平行化就是，RNN在处...

tensorflow 学习之路 九：LSTM实现手写数字识别 同样以手写数字识别为例，学习下循环神经网络tensorflow代码的使用： 这里使用LSTM作为RNN的一个例子。 1.首先先介绍下参数，不同于前面的传统神经网络结构中需要将图片扁平化处理，将28×28的图片变成1×784的步骤，在LSTM中，如果是28×28的图片，就是28行，28列，每次输入的是一行，一张图片就需要28次的输入...

tensorflow学习之路 八：使用卷积神经网络进行手写数字识别。 前面的文章使用了传统神经网络对手写数字进行识别，为了学习卷积神经网络，继续使用手写识别这个案例，不过这里使用卷积神经网络代替传统神经网络。通过案例学习到，如何使用卷积神经网络替代传统神经网络完成手写识别方法。学习如何定义以及使用卷积神经。 结构： 这里整个模型的结构是：2层卷积层以及2层全连接...

tensorflow学习之路 七：手写数字识别 手写数字识别的数据集采用的是MNIST数据集：该数据集包含60,000个训练样本和10,000个测试样本。他们的大小同一为28×28。（28行，28列的一个矩阵，表示一个0~9的数字） 每张图片的大小是28×28=784，所以对一张图片来说，输入的一张图片的维度是784维 1.神经网络结构：输入层784...

tensorflow之路 六：非线性回归 通过代码能够实现一个：输入层为一个神经元，隐藏层为10个神经元，输出层为一个神经元的神经网络模型。 输入为：-0.5至0.5随机初始化的200个点作为x值 代码： import tensorflow as tf import numpy as np import matplotlib.pyplot as plt #使用numpy生成500样本点...

tensorflow学习之路 五：线性拟合 步骤： 1.随机生成100随机点作为x，定义一个方程y=k×X+b，使用方程计算y的值 #使用numpy生成100个随机的点 x_data = np.random.rand(100) y_data = x_data*1+3 2.创建两个变量k和b，表示要建立的线性模型的斜率k和截距b，建立方程 #构造一个线性模型 b = tf.Variab...

tensorflow学习之路 四：Fetch和Feed的使用 一、Fetch 简介：Fetch的作用是在会话中可以同时执行多个op。 例子：这里有两个op，分别是加法和乘法，使用sess.run([])同时执行两个op，将两个op放入【】中. import tensorflow as tf #定义三个常量 input1 = tf.constant(1.0) input2 = tf.co...

tennsorflow学习之路 三：变量自增操作 本代码实现的目的是创建一个变量x，每执行一次自增1op操作，完成x=x+1操作，使用for循环定义需要执行几次自增1的操作。 import tensorflow as tf #创建一个变量，初始化为0，名字为counter state = tf.Variable(0,name='counter') #创建一个op，作用是使state+1 ...

tensorflow学习之路 二： 继上一篇文章中使用两个常量做加法运算之后，本片文章使用变量来做简单的运算操作： 前置知识：tensorflow创建变量之后，在session调用之前需要进行变量的初始化操作： init = tf.global_variables_initializer() 接下来我们开始看一个tensorflow实现的带有变量的减法操作：注意这里我们使用的是向量相加减...

tensorflow：学习tensorflow之路 一 步骤：构建一个Graph，将需要计算的变量放入Graph中进行计算 一个简单的矩阵相乘案例： """ 创建一个Graph，然后启动 """ #导入需要的模块 import tensorflow as tf import os os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2' #创建两个常量...