qq_42873479的博客

Tensorflow2.0——LSTM随着距离的增加，RNN无法有效的利用历史信息。而长短记忆神经网络——LSTM，能够学习长的依赖关系。LSTM的链状结构，有四层，这四层以特殊的方式进行交互。门(Gate)是一种可选地让信息通过的方式。 它由一个Sigmoid神经网络层和一个点乘法运算组成。Sigmoid神经网络层输出0和1之间的数字，这个数字描述每个组件有多少信息可以通过， 0表示不通过任何信息，1表示全部通过。LSTM有三个门，用于保护和控制细胞的状态。LSTM的三个门【Forget

循环神经网络RNN时间序列表示波形图片文字Word embedding循环神经网络RNNRNN layer使用梯度离散和梯度爆炸梯度爆炸梯度离散时间序列表示波形[ b, 100, 1 ] :b条线，100个时刻，每个时刻有一个价格。图片[b, 28, 28] :b副图，共28个时刻，每个时刻取28个像素点。文字序列表示：[b, seq_len, feature_len]b个句子，seq_len每个句子单词数，feature_len每个单词的维度。可以根据需要调整b的位置：[word

Tensorflow2.0——卷积神经网络卷积神经网络卷积池化与采样经典卷积神经网络LeNet-5卷积神经网络卷积layers.Conv2Dweight&biasnn.conv2D池化与采样池化：Max/Avg pooling上采样：upsampleUpSampling2D：Relu：经典卷积神经网络LeNet-599.2%acc ；5/6layers...

Tensorflow2.0——OverfittingOverfittingregularization/weight decay动量与学习率momentum动量learning rate decayEarly StoppingdropoutStochastic Gradient DescentOverfitting解决办法：1.增加数据量2.降低模型复杂度：控制网络结构、增加正则项（惩罚项）3.dropout4.数据增强5.测试数据在过拟合前停止迭代regularization/weight

Tensorflow2.0数据集加载数据集加载keras.datasetsboston housing/Mnist/CIFAR10/100/imdbtf.Datasets.from_tensor_slices1.Mnist手写数据集2.CIFAR10/100from_tensor_slices()：将numpy格式转换为tensor格式，还可以同时接收x和y，0存放特征数据，1存放标签。shufflemapbatchrepeat 重复迭代数据集

Tensorflow2.0——高阶操作高阶操作合并与分割数据统计高阶操作合并与分割Merge and split：tf.concat、tf.stacktf.split、tf.unstack1.concat:可以指定维度合并（其他维度相同），不能增添维度2.tf.stack:其他维度相同，可以增添维度，默认是在axis=0维度添加。3.tf.unstack：把指定维度拆分，全为一维4.tf.split数据统计...

Tensorflow2.0——基础Tensorflow基础Tensorflow数据类型创建tensorTypical Dim DataTensorflow基本操作索引和切片维度变化Tensorflow基础Tensorflow数据类型scalar：标量1.1vector：向量[1.1],[1.1,2.2]matrix：矩阵[[1.1,2.2],[3.3,4.4]]tensor：所有数据类型int、float、doublebool、string【基本操作】【数据类型转换】创建tens

Tensorflow基础Tensorflow基础基础概念图op会话张量tensorboard可视化线性回归的实现模型保存和加载Tensorflow基础基础概念tensor：张量（数据）operation(op)：专门运算的操作节点，所有操作都是一个opgraph：图，整个程序的结构Session：会话，运算程序的图Tensorflow属于计算密集型，大多是在cpu上进行计算。django、scrapy属于IO密集型，比如http请求，磁盘操作等等。图图默认已经注册，一组表示 tf.O