神经网络隐藏层是什么
一个神经网络包括有多个神经元“层”,输入层、隐藏层及输出层。输入层负责接收输入及分发到隐藏层(因为用户看不见这些层,所以见做隐藏层)。
这些隐藏层负责所需的计算及输出结果给输出层,而用户则可以看到最终结果。
谷歌人工智能写作项目:小发猫
神经网络中各个隐藏层能提取出和人类看到的一样的特征?
关于循环神经网络RNN,隐藏层是怎么来的?
RNN的隐藏层也可以叫循环核,简单来说循环核循环的次数叫时间步,循环核的个数就是隐藏层层数。
循环核可以有两个输入(来自样本的输入x、来自上一时间步的激活值a)和两个输出(输出至下一层的激活值h、输出至本循环核下一时间步的激活值a),输入和输出的形式有很多变化,题主想了解可以上B站搜索“吴恩达深度学习”其中第五课是专门对RNN及其拓展进行的讲解,通俗易懂。
B站链接:网页链接参考资料:网页链接。
神经网络(深度学习)的几个基础概念
从广义上说深度学习的网络结构也是多层神经网络的一种。传统意义上的多层神经网络是只有输入层、隐藏层、输出层。其中隐藏层的层数根据需要而定,没有明确的理论推导来说明到底多少层合适。
而深度学习中最著名的卷积神经网络CNN,在原来多层神经网络的基础上,加入了特征学习部分,这部分是模仿人脑对信号处理上的分级的。
具体操作就是在原来的全连接的层前面加入了部分连接的卷积层与降维层,而且加入的是一个层级。
输入层-卷积层-降维层-卷积层-降维层--....--隐藏层-输出层简单来说,原来多层神经网络做的步骤是:特征映射到值。特征是人工挑选。深度学习做的步骤是信号->特征->值。
特征是由网络自己选择。
深度神经网络具体的工作流程是什么样的?
第一,深度神经网络不是黑盒,个人电脑开机直到神经网络运行在内存中的每一比特的变化都是可以很细微的观察的。没有任何神秘力量,没有超出科学解释的现象发生。
第二,深度神经网络的工作方式是基于传统的电脑架构之上的,就是数据+算法。但人们确实从中窥探到了一种全新的电子大脑方式。所以目前有研究提炼一些常用神经网络算法加速硬件。微软等巨头则在开发量子计算。
第三,深度神经网络是一个很初级的特征自动提取器。说初级因为简单粗暴。以前为了节约算力特征关键模型都是人工亲自设定。而现在这部分工作随着算力的提高可以自动化。
所以从某种意义上来说深度神经网络也是一种自动编程机,但和人们相比,一点点小小的自动化都需要很多很多的计算力支持,这一点也不重要,重要的是,它能工作(手动英文)。那么深度神经网络究竟是什么呢?
它是一个能迭代更新自己的特征提取算法。现在这个算法可是像全自动高级工厂,数据往里一丢,不得了!整个工厂里面所有机器都动了起来。没见过的小伙伴当场就被吓呆瓜了,用流行的话说叫懵住。
几千只机械手把数据搬来搬去,拿出魔方一样的盒子装来装去又倒出来。整个场面就叫一个震撼。算法运行规模也更大了。
关于神经网络请教
神经网络的隐含层的神经元个数是自己指定的。目前还没有一个广泛有用的公式来确定神经元个数,一般都是根据经验来指定的,或者通过试凑法得到。你后来的问题我也比较晕,不太懂。
你可以到一些matlab论坛里去提问,会有很多专业性比较强的人回答你的问题的。我认为ilovematlab论坛不错,可以去问问。