黎国溥

前言本文综合整理常用的神经网络，包括生物神经网络、人工神经网络、卷积神经网络、循环神经网络、生成对抗网络；参考了许多高校的课程、论文、博客和视频等。文章的结构是先进行概念了解，然后结合图片、结构图、一步一步详细讲解；大家要不看看？( •̀ ω •́ )y一、人工神经网络简介：人工神经网络(Artificial Neural Network, ANN)，由人工神经元构成的网络，模拟人类的大脑；它模拟生物过程以反映人脑某些特征的计算结构。联系：人工神经元模拟生物神经元；人工神经网络模拟...

前言本文介绍循环神经网络的案例，通过搭建和训练一个模型，来对电影评论进行“文本分类”；将影评分为积极或消极两类；是一个二分类问题。使用到网络电影数据库的 IMDB 数据集，包含 50,000 条影评文本，所有评论都具有正面或负面情绪，这是二元情绪分类的数据集。思路流程导入数据集 探索集数据，并进行数据预处理 构建模型（搭建神经网络、编译模型） 训练模型（把数据输入模型、评估准确性、作出预测、验证预测） 使用训练好的模型 优化模型、重新构建模型、训练模型、使用模型.

前言鸢尾花识别是学习AI入门的案例，这里和大家分享下使用Tensorflow 2框架，编写程序，获取鸢尾花数据，搭建神经网络，最后训练和识别鸢尾花。流程：1）获取鸢尾花数据，分析处理。2）整理数据位训练集，测试集。3）搭建神经网络模型。4）训练网络，优化网络模型参数。5）保存最优的模型，进行识别...

前言本文使用深度卷积生成对抗网络（DCGAN）生成手写数字图片，代码使用Keras API与tf.GradientTape 编写的，其中tf.GradientTrape是训练模型时用到的。什么是生成对抗网络？生成对抗网络（GAN），包含生成器和判别器，两个模型通过对抗过程同时训练。生成器，可以理解为“艺术家、创造者”，它学习创造看起来真实的图像。判别器，可以理解为“艺术评论家、审核者”，它学习区分真假图像。训练过程中，生成器在生成逼真图像方便逐渐变强，而判别器在辨别这些图像的能力

本文介绍SE注意力模块，它是在SENet中提出的，SENet是ImageNet 2017的冠军模型；SE模块常常被用于CV模型中，能较有效提取模型精度，所以给大家介绍一下它的原理，设计思路，代码实现，如何应用在模型中。后面还会介绍其它注意力模型：SK-Nets、CBAM、DANet、ECA-Net、CA等注意力模块。

本文介绍SK模块，一种通道注意力模块，它是在SK-Nets中提出的，SK-Nets是2019 CVPR中的论文；SK模块可以被用于CV模型中，能提取模型精度，所以给大家介绍一下它的原理，设计思路，代码实现，如何应用在模型中。

本文介绍ECA注意力模块，它是在ECA-Net中提出的，ECA-Net是2020 CVPR中的论文；ECA模块可以被用于CV模型中，能提取模型精度，所以给大家介绍一下它的原理，设计思路，代码实现，如何应用在模型中。它是一种通道注意力模块。

本文介绍注意力机制的概念和基本原理，并站在计算机视觉CV角度，进一步介绍通道注意力、空间注意力、混合注意力、自注意力等。

本文介绍循环神经网络的进阶案例，通过搭建和训练一个模型，来对钢琴的音符进行预测，通过重复调用模型来进而生成一段音乐；使用到Maestro的钢琴MIDI文件 ，每个文件由不同音符组成，音符用三个量来表示：音符名、音高、持续时间。通过搭建和训练循环神经网络模型，输入一系列音符能预测下一个音符。

前言本文介绍卷积神经网络的入门案例，图像分类；使用到CIFAR10数据集，它包含10 类，即：“飞机”，“汽车”，“鸟”，“猫”，“鹿”， “狗”，“青蛙”，“马”，“船”，“卡车” ；共 60000 张彩色图片；通过搭建和训练卷积神经网络模型，对图像进行分类，能识别出图像是“汽车”，或“鸟”，还是其它。思路流程导入 CIFAR10 数据集 探索集数据，并进行数据预处理 建立模型（搭建神经网络结构、编译模型） 训练模型（把数据输入模型、评估准确性、作出预测、验证预测） 使用训练..

本篇文章带大家熟悉“迁移学习”的开发流程，介绍如何使用预先训练好的神经网络，结合实际的功能需求，来实现一些图像任务；比如：实现对猫和狗的图像进行分类。预先训练好的神经网络，通常称为“预训练模型”，它在大型数据集上进行训练，取得业界认可的效果，开源给广大开发者使用的模型。本文主要介绍在keras中的关于图像任务的开源模型。比如：在ImageNet数据集上预训练过的用于图像分类的模型 VGG16、VGG19、ResNetV2、InceptionV3、MobileNetV2、DenseNet、NA

人工神经网络 (Artificial Neural Network, ANN)，由人工神经元构成的网络，模拟人类的大脑；它模拟生物过程以反映人脑某些特征的计算结构。神经元及其突触是神经网络的基本器件；模拟生物网络首先模拟生物神经元。人工神经元在人工神经网络中，人工神经元经常成为“处理单元”；从网络的观点出发常称为“节点”。人工神经元是对生物神经元的一种形式化描述，它对生物神经元的信息处理过程进行抽象，并用数学语言描述。人工神经网络简介它由处理单..

卷积神经网络（Convolutional Neural Network, CNN），在计算机视觉中得到了广泛的应用。卷积神经网络通过卷积层与池化层的叠加实现对输入数据的特征提取，最后连接全连接层实现分类。基于什么提出卷积神经网络？动物视觉系统对外界的感知是：视觉皮层的每个神经元只响应某些特定区域的刺激（感受野） 从局部到全局（信息分层处理机制）卷积神经网络：每个神经元只需对 局部图像 进行感知；在更高层将局部的信息综合起来，得到全局信息；

循环神经网络（Recurrent Neural Networks，RNN），是一种反馈网络，模拟“人脑记忆功能”，常用于语言识别、机器翻译、视频分析、生成图像描述等。循环神经网络通过使用带自反馈的神经元，使得网络的输出不仅和当前的输入有关，还和上一时刻的输出相关，于是在处理任意长度的时序数据时，就具有短期记忆能力。RNN能有效处理序列特性的数据，它能挖掘数据中的时序信息以及语义信息。

生成对抗网络（GAN，generative adversarial network），是一种常用于学习类别特征的神经网络结构；主要有两部分组成，分别是生成网络、判别网络。生成对抗网络让机器能作诗、作曲、作画。生成学习算法判别式学习：人工神经网络ANN、卷积神经网络CNN、循环神经网络RNN 这些神经网络模型均属于判别式学习算法。该类算法根据改定特征x，计算样本属于y的概率。生成式学习：生成对抗网络GAN 这种神经网络模型属于生成式学习算法。该类算法先从训练集中总结出各个类别的特征，.

前言本文介绍卷积神经网络的入门案例，通过搭建和训练一个模型，来对几种常见的花朵进行识别分类；使用到TF的花朵数据集，它包含5类，即：“雏菊”，“蒲公英”，“玫瑰”，“向日葵”，“郁金香”；共 3670张彩色图片；通过搭建和训练卷积神经网络模型，对图像进行分类，能识别出图像是“蒲公英”，或“玫瑰”，还是其它。本篇文章主要的意义是带大家熟悉卷积神经网络的开发流程，包括数据集处理、搭建模型、训练模型、使用模型等；更重要的是解在训练模型时遇到“过拟合”，如何解决这个问题，从而得到“泛化”更好的模型。..

前言风格迁移，基于A图像内容，参考B图像的风格（名画，像毕加索或梵高一样绘画），创造出一幅新图像。本文基于TF-Hub开源项目进行开发，60多行代码快速实现神经网络的风格迁移，为方便大家使用，已经整理相关代码和模型到Github中，直接下载即可使用。一、模型效果二、原理风格迁移是基于生成对抗网络实现的，是一种优化技术，用于将两个图像，A图像内容和B图像风格，混合再一起，是输出的图像看起来像A图像，但是也参考了B图像的风格。通过优化输出图像，以匹配A图像的内容统计数和B..

前言本文介绍神经网络的入门案例，通过搭建和训练一个模型，来对对电影评论进行文本分类；将影评分为积极（positive）或消极（nagetive）两类。这是一个二分类（binary）问题。使用到网络电影数据库（Internet Movie Database）的 IMDB 数据集（IMDB dataset），包含 50,000 条影评文本，这是二元情绪分类的数据集。TF封装的IMDB数据集本篇文章主要的意义是带大家熟悉神经网络的开发流程，包括数据集处理、搭建模型、训练模型、使用模型等；更重要