归去来兮的博客

长短期记忆（Long Short-Term Memory，LSTM）网络是一种特殊的循环神经网络（RNN），专门设计用于解决传统 RNN 在处理长序列数据时面临的梯度消失 / 爆炸问题，能够有效捕捉长距离依赖关系。其核心在于引入记忆细胞（Cell State）和门控机制（Gate Mechanism），通过控制信息的流动来实现对长期信息的存储与遗忘。

循环神经网络（Recurrent Neural Network, RNN）是一种专门设计用于处理序列数据（如文本、语音、时间序列等）的神经网络模型。其核心思想是通过引入时间上的循环连接，使网络能够保留历史信息并影响当前输出。

卷积神经网络（Convolutional Neural Network, CNN）是一种深度学习模型，广泛应用于图像识别、计算机视觉等领域。其设计理念源于对生物视觉皮层神经机制的模拟，核心原理是通过卷积、池化（下采样）、全连接等操作，自动提取输入数据的层级特征，完成分类或回归任务。

在神经网络中，激活函数（Activation Function）扮演着至关重要的角色，它为神经网络引入非线性因素，使得网络能够学习和模拟复杂的非线性函数关系，从而具备处理各种复杂问题的能力。如果没有激活函数，多层神经网络将仅仅是一个线性组合模型，其表达能力会受到极大限制。以下是几种常见的激活函数汇总。

之前在windows下装了TensorFlow和Anaconda，运行环境是Pycharm.（开始直接在cmd下试的没问题，运行命令：pytho fileneme.py，感觉用着不方便，还是学着用PyCharm吧。不过二者遇到的问题都是一致的，可用同样方法解决）错误1：模块导入问题正常情况下，导入各种模块、包时，在 File->Settiings->Project:project_na

TensorBoard是TensorFlow自带的一套可视化工具，可以展现tensorflow运行过程的计算图及各数据信息。本人tensorflow安装的是windows7下的cpu版本，IDE是PyCharm. 其tensorboard的使用如下：1.指定日志文件，进行记录写好name_scope后，在Session运行之前加上语句writer = tf.summary.FileWriter("...

MNIST数据集是一个手写识别数据集，机器学习基础的数据集，其原始数据集以字节形式存储，包含四个部分：训练集images: train-images-idx3-ubyte.gz (包含60000个样本) 训练集labels: train-labels-idx1-ubyte.gz (包含60000个标签) 测试集images:t10k-images-idx3-ubyte.gz (...

刚接触深度学习，Tensorflow模型的保存和加载尚不清楚，根据教程的翻译做一记录，不当之处敬请指正。原文地址：http://cv-tricks.com/tensorflow-tutorial/save-restore-tensorflow-models-quick-complete-tutorial/在本教程中，将作出如下讲解： I. Tensorflow模型是什么样的？ II...

核心：卷积操作一、内容卷积神经网络（CNN）是一种特殊结构的神经网络，因含卷积层的卷积操作而得名，具有很强的特征提取能力，这里对卷积神经网络的各层概念及计算过程做一笔记，对于它的深层理解见仁见智吧。一般CNN各层分别为输入层、卷积层、下采样层、全连接层、输出层。该方法最初针对图像问题提出来的，也最早应用于图像问题，其最显著的一个特性就是对当前特征图局部范围内特征的提取。它的三个特征是局...