神经网络图怎么分析,画神经网络结构图

神经网络Hopfield模型

一、Hopfield模型概述1982年，美国加州工学院J.Hopfield发表一篇对人工神经网络研究颇有影响的论文。他提出了一种具有相互连接的反馈型人工神经网络模型——Hopfield人工神经网络。

Hopfield人工神经网络是一种反馈网络(RecurrentNetwork)，又称自联想记忆网络。

其目的是为了设计一个网络，存储一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到所存储的某个平衡点上。

Hopfield网络是单层对称全反馈网络，根据其激活函数的选取不同，可分为离散型Hopfield网络(DiscreteHopfieldNeuralNetwork，简称DHNN)和连续型Hopfield网络(ContinueHopfieldNeuralNetwork，简称CHNN)。

离散型Hopfield网络的激活函数为二值型阶跃函数，主要用于联想记忆、模式分类、模式识别。这个软件为离散型Hopfield网络的设计、应用。

二、Hopfield模型原理离散型Hopfield网络的设计目的是使任意输入矢量经过网络循环最终收敛到网络所记忆的某个样本上。

正交化的权值设计这一方法的基本思想和出发点是为了满足下面4个要求：1)保证系统在异步工作时的稳定性，即它的权值是对称的，满足wij=wji，i，j=1，2…，N；2)保证所有要求记忆的稳定平衡点都能收敛到自己；3)使伪稳定点的数目尽可能地少；4)使稳定点的吸引力尽可能地大。

正交化权值的计算公式推导如下：1)已知有P个需要存储的稳定平衡点x1，x2…，xP-1，xP，xp∈RN，计算N×(P-1)阶矩阵A∈RN×(P-1)：A=(x1-xPx2-xP…xP-1-xP)T。

2)对A做奇异值分解A=USVT，U=(u1u2…uN)，V=(υ1υ2…υP-1)，中国矿产资源评价新技术与评价新模型Σ=diαg(λ1，λ2，…，λK)，O为零矩阵。

K维空间为N维空间的子空间，它由K个独立的基组成：K=rαnk(A)，设{u1u2…uK}为A的正交基，而{uK+1uK+2…uN}为N维空间的补充正交基。下面利用U矩阵来设计权值。

3)构造中国矿产资源评价新技术与评价新模型总的连接权矩阵为：Wt=Wp-T·Wm，其中，T为大于-1的参数，缺省值为10。

Wp和Wm均满足对称条件，即(wp)ij=(wp)ji，(wm)ij=(wm)ji，因而Wt中分量也满足对称条件。这就保证了系统在异步时能够收敛并且不会出现极限环。

4)网络的偏差构造为bt=xP-Wt·xP。下面推导记忆样本能够收敛到自己的有效性。

(1)对于输入样本中的任意目标矢量xp，p=1，2，…，P，因为(xp-xP)是A中的一个矢量，它属于A的秩所定义的K个基空间的矢量，所以必存在系数α1，α2，…，αK，使xp-xP=α1u1+α2u2+…+αKuK，即xp=α1u1+α2u2+…+αKuK+xP，对于U中任意一个ui，有中国矿产资源评价新技术与评价新模型由正交性质可知，上式中当i=j，；当i≠j，；对于输入模式xi，其网络输出为yi=sgn(Wtxi+bt)=sgn(Wpxi-T·Wmxi+xP-WpxP+T·WmxP)=sgn[Wp(xi-xP)-T·Wm(xi-xP)+xP]=sgn[(Wp-T·Wm)(xi-xP)+xP]=sgn[Wt(xi-xP)+xP]=sgn[(xi-xP)+xP]=xi。

(2)对于输入模式xP，其网络输出为yP=sgn(WtxP+bt)=sgn(WtxP+xP-WtxP)=sgn(xP)=xP。

(3)如果输入一个不是记忆样本的x，网络输出为y=sgn(Wtx+bt)=sgn[(Wp-T·Wm)(x-xP)+xP]=sgn[Wt(x-xP)+xP]。

因为x不是已学习过的记忆样本，x-xP不是A中的矢量，则必然有Wt(x-xP)≠x-xP，并且再设计过程中可以通过调节Wt=Wp-T·Wm中的参数T的大小来控制(x-xP)与xP的符号，以保证输入矢量x与记忆样本之间存在足够的大小余额，从而使sgn(Wtx+bt)≠x，使x不能收敛到自身。

用输入模式给出一组目标平衡点，函数HopfieldDesign()可以设计出Hopfield网络的权值和偏差，保证网络对给定的目标矢量能收敛到稳定的平衡点。

设计好网络后，可以应用函数HopfieldSimu()，对输入矢量进行分类，这些输入矢量将趋近目标平衡点，最终找到他们的目标矢量，作为对输入矢量进行分类。

三、总体算法1.Hopfield网络权值W[N][N]、偏差b[N]设计总体算法应用正交化权值设计方法，设计Hopfield网络；根据给定的目标矢量设计产生权值W[N][N]，偏差b[N]；使Hopfield网络的稳定输出矢量与给定的目标矢量一致。

1)输入P个输入模式X=(x[1]，x[2]，…，x[P-1]，x[P])输入参数，包括T、h；2)由X[N][P]构造A[N][P-1]=(x[1]-x[P]，x[2]-x[P]，…，x[P-1]-x[P])；3)对A[N][P-1]作奇异值分解A=USVT；4)求A[N][P-1]的秩rank；5)由U=(u[1]，u[2]，…，u[K])构造Wp[N][N]；6)由U=(u[K+1]，…，u[N])构造Wm[N][N]；7)构造Wt[N][N]=Wp[N][N]-T*Wm[N][N]；8)构造bt[N]=X[N][P]-Wt[N][N]*X[N][P]；9)构造W[N][N](9～13)，构造W1[N][N]=h*Wt[N][N]；10)求W1[N][N]的特征值矩阵Val[N][N](对角线元素为特征值，其余为0)，特征向量矩阵Vec[N][N]；11)求Eval[N][N]=diag{exp[diag(Val)]}[N][N]；12)求Vec[N][N]的逆Invec[N][N]；13)构造W[N][N]=Vec[N][N]*Eval[N][N]*Invec[N][N]；14)构造b[N]，(14～15)，C1=exp(h)-1，C2=-(exp(-T*h)-1)/T；15)构造中国矿产资源评价新技术与评价新模型Uˊ——U的转置；16)输出W[N][N]，b[N]；17)结束。

2.Hopfield网络预测应用总体算法Hopfield网络由一层N个斜坡函数神经元组成。应用正交化权值设计方法，设计Hopfield网络。根据给定的目标矢量设计产生权值W[N][N]，偏差b[N]。

初始输出为X[N][P]，计算X[N][P]=f(W[N][N]*X[N][P]+b[N])，进行T次迭代，返回最终输出X[N][P]，可以看作初始输出的分类。

3.斜坡函数中国矿产资源评价新技术与评价新模型输出范围[-1，1]。四、数据流图Hopfield网数据流图见附图3。

五、调用函数说明1.一般实矩阵奇异值分解(1)功能用豪斯荷尔德(Householder)变换及变形QR算法对一般实矩阵进行奇异值分解。

(2)方法说明设A为m×n的实矩阵，则存在一个m×m的列正交矩阵U和n×n的列正交矩阵V，使中国矿产资源评价新技术与评价新模型成立。

其中Σ=diag(σ0，σ1，…σp)p⩽min(m，n)-1，且σ0≥σ1≥…≥σp＞0，上式称为实矩阵A的奇异值分解式，σi(i=0，1，…，p)称为A的奇异值。

奇异值分解分两大步：第一步：用豪斯荷尔德变换将A约化为双对角线矩阵。

即中国矿产资源评价新技术与评价新模型其中中国矿产资源评价新技术与评价新模型中的每一个变换Uj(j=0，1，…，k-1)将A中的第j列主对角线以下的元素变为0，而中的每一个变换Vj(j=0，1，…，l-1)将A中的第j行主对角线紧邻的右次对角线元素右边的元素变为0。

]]j具有如下形式：中国矿产资源评价新技术与评价新模型其中ρ为一个比例因子，以避免计算过程中的溢出现象与误差的累积，Vj是一个列向量。

即Vj=(υ0，υ1，…，υn-1)，则中国矿产资源评价新技术与评价新模型其中中国矿产资源评价新技术与评价新模型第二步：用变形的QR算法进行迭