婊ㄥ窞绁炵粡缃戠粶浼樺寲绠楁硶鍏徃

bp神经网络用啥算法？

自己找个例子算一下，推导一下，这个回答起来比较复杂神经网络对模型的表达能力依赖于优化算法，优化是一个不断计算梯度并调整可学习参数的过程，Fluid中的优化算法可参考 优化器 。

在网络的训练过程中，梯度计算分为两个步骤：前向计算与 反向传播 。前向计算会根据您搭建的网络结构，将输入单元的状态传递到输出单元。

反向传播借助 链式法则 ，计算两个或两个以上复合函数的导数，将输出单元的梯度反向传播回输入单元，根据计算出的梯度，调整网络的可学习参数。BP算法隐层的引入使网络具有很大的潜力。

但正像Minskey和Papert当时所指出的．虽然对所有那些能用简单(无隐层)网结解决的问题有非常简单的学习规则，即简单感知器的收敛程序(主要归功于Widrow和HMf于1960年提出的Delta规刚)，BP算法但当时并没有找到同样有技的含隐层的同培的学习规则。

对此问题的研究有三个基本的结果。一种是使用简单无监督学习规则的竞争学习方法．但它缺乏外部信息．难以确定适台映射的隐层结构。第二条途径是假设一十内部(隐层)的表示方法，这在一些先约条件下是台理的。

另一种方法是利用统计手段设计一个学习过程使之能有技地实现适当的内部表示法，Hinton等人(1984年)提出的Bolzmann机是这种方法的典型例子．它要求网络在两个不同的状态下达到平衡，并且只局限于对称网络。

Barto和他的同事(1985年)提出了另一条利用统计手段的学习方法。

但迄今为止最有教和最实用的方瑶是Rumelhart、Hinton和Williams(1986年)提出的一般Delta法则，即反向传播(BP)算法。

Parter(1985年)也独立地得出过相似的算法,他称之为学习逻辑。此外，Lecun(1985年)也研究出大致相似的学习法则。

谷歌人工智能写作项目：神经网络伪原创

人工神经网络评价法

人工神经元是人工神经网络的基本处理单元，而人工智能的一个重要组成部分又是人工神经网络文案狗。人工神经网络是模拟生物神经元系统的数学模型，接受信息主要是通过神经元来进行的。

首先，人工神经元利用连接强度将产生的信号扩大；然后，接收到所有与之相连的神经元输出的加权累积；最后，将神经元与加权总和一一比较，当比阈值大时，则激活人工神经元，信号被输送至与它连接的上一层的神经元，反之则不行。

人工神经网络的一个重要模型就是反向传播模型(Back-PropagationModel)(简称BP模型)。

对于一个拥有n个输入节点、m个输出节点的反向传播网络，可将输入到输出的关系看作n维空间到m维空间的映射。由于网络中含有大量非线性节点，所以可具有高度非线性。

(一)神经网络评价法的步骤利用神经网络对复垦潜力进行评价的目的就是对某个指标的输入产生一个预期的评价结果，在此过程中需要对网络的连接弧权值进行不断的调整。(1)初始化所有连接弧的权值。

为了保证网络不会出现饱和及反常的情况，一般将其设置为较小的随机数。(2)在网络中输入一组训练数据，并对网络的输出值进行计算。

(3)对期望值与输出值之间的偏差进行计算，再从输出层逆向计算到第一隐含层，调整各条弧的权值，使其往减少该偏差的方向发展。

(4)重复以上几个步骤，对训练集中的各组训练数据反复计算，直至二者的偏差达到能够被认可的程度为止。(二)人工神经网络模型的建立(1)确定输入层个数。

根据评价对象的实际情况，输入层的个数就是所选择的评价指标数。(2)确定隐含层数。

通常最为理想的神经网络只具有一个隐含层，输入的信号能够被隐含节点分离，然后组合成新的向量，其运算快速，可让复杂的事物简单化，减少不必要的麻烦。(3)确定隐含层节点数。

按照经验公式：灾害损毁土地复垦式中：j——隐含层的个数；n——输入层的个数；m——输出层的个数。人工神经网络模型结构如图5-2。

图5-2人工神经网络结构图(据周丽晖，2004)(三)人工神经网络的计算输入被评价对象的指标信息(X1，X2，X3，…，Xn)，计算实际输出值Yj。

灾害损毁土地复垦比较已知输出与计算输出，修改K层节点的权值和阈值。灾害损毁土地复垦式中：wij——K-1层结点j的连接权值和阈值；η——系数(0＜η＜1)；Xi——结点i的输出。

输出结果：Cj＝yj(1-yj)(dj-yj)(5-21)式中：yj——结点j的实际输出值；dj——结点j的期望输出值。

因为无法对隐含结点的输出进行比较，可推算出：灾害损毁土地复垦式中：Xj——结点j的实际输出值。

它是一个轮番代替的过程，每次的迭代都将W值调整，这样经过反复更替，直到计算输出值与期望输出值的偏差在允许值范围内才能停止。

利用人工神经网络法对复垦潜力进行评价，实际上就是将土地复垦影响评价因子与复垦潜力之间的映射关系建立起来。

只要选择的网络结构合适，利用人工神经网络函数的逼近性，就能无限接近上述映射关系，所以采用人工神经网络法进行灾毁土地复垦潜力评价是适宜的。

(四)人工神经网络方法的优缺点人工神经网络方法与其他方法相比具有如下优点：(1)它是利用最优训练原则进行重复计算，不停地调试神经网络结构，直至得到一个相对稳定的结果。

所以，采取此方法进行复垦潜力评价可以消除很多人为主观因素，保证了复垦潜力评价结果的真实性和客观性。(2)得到的评价结果误差相对较小，通过反复迭代减少系统误差，可满足任何精度要求。

(3)动态性好，通过增加参比样本的数量和随着时间不断推移，能够实现动态追踪比较和更深层次的学习。

(4)它以非线性函数为基础，与复杂的非线性动态经济系统更贴近，能够更加真实、更为准确地反映出灾毁土地复垦潜力，比传统评价方法更适用。

但是人工神经网络也存在一定的不足：(1)人工神经网络算法是采取最优化算法，通过迭代计算对连接各神经元之间的权值不断地调整，直到达到全局最优化。

但误差曲面相当复杂，在计算过程中一不小心就会使神经网络陷入局部最小点。

(2)误差通过输出层逆向传播，隐含层越多，逆向传播偏差在接近输入层时就越不准确，评价效率在一定程度上也受到影响，收敛速度不及时的情况就容易出现，从而造成个别区域的复垦潜力评价结果出现偏离。

什么算法可以防止bp神经网络过拟合？

你好，遗传算法在一定程度上可以防止过拟合。遗传算法主要是针对神经网络的优化的。他是通过交叉和突变来实现对神经网络的优化。过拟合其实是说模型太过严格，泛化不够。容错性不够好。

因为遗传算法通过交叉和突变，他可以提升模型的泛化能力。

遗传算法为什么可以优化bp神经网络？

在MATLAB中用神经网络算法求解无约束最优化问题

。

程序一：GA训练BP权值的主函数functionnet=GABPNET(XX,YY)%使用遗传算法对BP网络权值阈值进行优化，再用BP算法训练网络%数据归一化预处理nntwarnoffXX=[1:19;2:20;3:21;4:22]';YY=[1:4];XX=premnmx(XX);YY=premnmx(YY);YY%创建网络net=newff(minmax(XX),[19,25,1],{'tansig','tansig','purelin'},'trainlm');%下面使用遗传算法对网络进行优化P=XX;T=YY;R=size(P,1);S2=size(T,1);S1=25;%隐含层节点数S=R*S1+S1*S2+S1+S2;%遗传算法编码长度aa=ones(S,1)*[-1,1];popu=50;%种群规模savedata2XXYY%是将xx,yy二个变数的数值存入data2这个MAT-file，initPpp=initializega(popu,aa,'gabpEval');%初始化种群gen=100;%遗传代数%下面调用gaot工具箱，其中目标函数定义为gabpEval[x,endPop,bPop,trace]=ga(aa,'gabpEval',[],initPpp,[1e-611],'maxGenTerm',gen,...'normGeomSelect',[0.09],['arithXover'],[2],'nonUnifMutation',[2gen3]);%绘收敛曲线图figure(1)plot(trace(:,1),1./trace(:,3),'r-');holdonplot(trace(:,1),1./trace(:,2),'b-');xlabel('Generation');ylabel('Sum-SquaredError');figure(2)plot(trace(:,1),trace(:,3),'r-');holdonplot(trace(:,1),trace(:,2),'b-');xlabel('Generation');ylabel('Fittness');。

神经网络算法可以求最优解嘛?

神经网络可以做优化问题，但不一定能找到最优解。

逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。

直观性的思维是将分布式存储的信息综合起来，忽然间产生的想法或解决问题的办法。这种思维方式的根本之点在于以下两点：1、信息是通过神经元上的兴奋模式分布存储在网络上。

2、信息处理是通过神经元之间同时相互作用的动态过程来完成的。神经网络：思维学普遍认为，人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。

人工神经网络就是模拟人思维的第二种方式。这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。

虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。

matlab神经网络工具箱，会比自己写的遗传算法优化bp神经网络好用嘛？