神经网络(c++)【转】

最新推荐文章于 2025-03-17 18:38:08 发布
转载 最新推荐文章于 2025-03-17 18:38:08 发布 · 485 阅读 · 0

来自：http://blog.youkuaiyun.com/calcular/article/details/50392502

#ifndef DATASER_H
#define DATASER_H

#include<iostream>
#include<math.h>
#include<time.h>
#include<stdlib.h>
#include<algorithm>
#include<queue>
using namespace std;

#define NETL 5	//输入维度
#define NETX 10	//每层多少个单元,大于输入维度

/*	产生正太分布	*/	
double gaussrand()
{
	static double V1, V2, S;
	static int phase = 0;
	double X;
	if (phase == 0) {
		do {
			double U1 = (double)rand() / RAND_MAX;
			double U2 = (double)rand() / RAND_MAX;
			V1 = 2 * U1 - 1;
			V2 = 2 * U2 - 1;
			S = V1 * V1 + V2 * V2;
		} while (S >= 1 || S == 0);
		X = V1 * sqrt(-2 * log(S) / S);
	}
	else
		X = V2 * sqrt(-2 * log(S) / S);
	phase = 1 - phase;
	return X;
}

/* 找到最小值 */
int fminm(double *in,int dim,double &minm)	//已绝对化处理
{
	int i,c;
	c = -1;
	double minx = 99999.9;
	for (i = 0;i < dim;i++)
	{
		if (fabs(in[i]) < minx)
		{
			minx = fabs(in[i]);
			c = i;
		}
	}
	minm = minx;
	return c;
}

/*	找到第二小	*/
int fmin_d2(double *in, int dim,const double minm)	//三个都是输入
{
	int i, c;
	c = -1;
	double minx = 99999.9;
	for (i = 0;i < dim;i++)
	{
		if (fabs(in[i]) < minx)
		{
			if (fabs(in[i]) != minm)
			{
				minx = fabs(in[i]);
				c = i;
			}
		}
	}
	return c;
}

/* 打印一行数据 */
void disp(const double *data,const int dim)
{
	int i;
	for (i = 0;i < dim;i++)
	{
		printf("%-10f ", data[i]);
	}
	printf("\n");
}

/*
	计算单元:多维降一维
	in:输入信息
	w:权重
	dim:维度
*/
double calo(const double *in,const double *w,const int dim)
{
	double r = 0;
	int i;
	for (i = 0;i < dim;i++)
	{
		r += in[i] * w[i];
	}
	r = 1.0 / (1.0 + exp(-1.0*r));
	return r;
}

/* 降维得到误差值 */
double acalo(const double *in,const double *w,const int dim,const double expect)
{
	double r;
	r = calo(in, w, dim);	//线性降维
	return r - expect;	//当前点在期望点上方还是下方,相对位置
}

/* 
	单次维度系数调整 
	用法示例:error[i] = tra(in, w[i], N, ex, offset[i], e[i]);
*/
double tra(	//返回更改权重后的误差
	const double *in,
	double *w,	//会得到更改的权重系数
	const int dim,
	const double expect,
	double *offset,	//权重调整值记录数组
	double &e	//得到误差改进值
	)
{
	double r,err,re,v;
	int i;
	r=calo(in, w, dim);
	err = r - expect;
	v = 0.8;	//学习速率  34,16,9,8,8,9,15,59,x,x
	for (i = 0;i < dim;i++)
	{
		offset[i] = v*err*r*(1.0 - r)*in[i];
	}
	for (i = 0;i < dim;i++)
	{
		w[i] -= offset[i];
	}
	re= acalo(in, w, dim,expect);
	e= fabs(re) - fabs(err);
	//disp(offset, dim);
	//printf("err:%-10f e:%-10f\n", re, e);
	return re;
}

/* 
	多层复杂网络求输出 
*/

double calo2(
	const double in[NETL],	//输入
	const double w1[NETX][NETL],	//一层权值,输入层
	const double w2[NETX][NETX],	//二层权值，隐层
	const double w3[NETX][NETX],	//三层权值，隐层
	const double w4[NETX]	//输出层权值
	)
{
	int i, j;
	double sum;
	double out[NETX][2];	//输出缓冲
	for (i = 0;i < NETX;i++) {
		sum = 0;	//第一层输出
		for (j = 0;j < NETL;j++)  sum += w1[i][j] * in[j];
		out[i][0] = 1.0 / (1.0 + exp(-1.0*sum));
	}
	for (i = 0;i < NETX;i++) {	//第二层输出
		sum = 0;
		for (j = 0;j < NETX;j++)  sum += w2[i][j] * out[j][0];
		out[i][1] = 1.0 / (1.0 + exp(-1.0*sum));
	}
	for (i = 0;i < NETX;i++) {	//第三层输出
		sum = 0;
		for (j = 0;j < NETX;j++)  sum += w3[i][j] * out[j][1];
		out[i][0] = 1.0 / (1.0 + exp(-1.0*sum));
	}
	sum = 0;
	for (i = 0;i < NETX;i++)  sum += out[i][0] * w4[i];
	return	(1.0 / (1.0 + exp(-1.0*sum)));
}

/* 复杂网络单次训练 */
double tra2(	//训练网络，将会改变权重系数,得到误差
	const double in[NETL],	//输入
	double w1[NETX][NETL],	//一层权值,输入层
	double w2[NETX][NETX],	//二层权值，隐层
	double w3[NETX][NETX],	//三层权值，隐层
	double w4[NETX],	//输出层权值
	const double expect
	)
{
	int i, j;
	double sum,res,err;
	double out[NETX][3];//输出缓冲
	for (i = 0;i < NETX;i++) {
		sum = 0;	//第一层输出
		for (j = 0;j < NETL;j++)  sum += w1[i][j] * in[j];
		out[i][0] = 1.0 / (1.0 + exp(-1.0*sum));
	}
	for (i = 0;i < NETX;i++) {	//第二层输出
		sum = 0;
		for (j = 0;j < NETX;j++)  sum += w2[i][j] * out[j][0];
		out[i][1] = 1.0 / (1.0 + exp(-1.0*sum));
	}
	for (i = 0;i < NETX;i++) {	//第三层输出
		sum = 0;
		for (j = 0;j < NETX;j++)  sum += w3[i][j] * out[j][1];
		out[i][2] = 1.0 / (1.0 + exp(-1.0*sum));
	}
	sum = 0;
	for (i = 0;i < NETX;i++)  sum += out[i][2] * w4[i];
	res=(1.0 / (1.0 + exp(-1.0*sum)));
	err = res - expect;
	/* 梯度下降传递误差 */
	double lost[NETX][3];	//误差矩阵
	for (i = 0;i < NETX;i++)	//传递第三层误差
	{
		lost[i][2] = err*res*(1.0 - res)*w4[i];
	}
	for (i = 0;i < NETX;i++)	//传递第二层误差
	{
		sum = 0;
		for (j = 0;j < NETX;j++)
		{
			sum += lost[j][2] * out[j][2] * (1.0 - out[j][2])*w3[j][i];
		}
		lost[i][1] = sum;
	}
	for (i = 0;i < NETX;i++)	//传递第一层误差
	{
		sum = 0;
		for (j = 0;j < NETX;j++)
		{
			sum += lost[j][1] * out[j][1] * (1.0 - out[j][1])*w2[j][i];
		}
		lost[i][0] = sum;
	}
	/* 更新权值 */
	double v;	//学习速率
	v = 0.1;	
	for (i = 0;i < NETX;i++)	//更新第一层权值
	{
		for (j = 0;j < NETL;j++)
		{
			w1[i][j] -= v*lost[i][0] * out[i][0] * (1.0 - out[i][0])*in[j];
		}
	}
	for (i = 0;i < NETX;i++)	//更新第二层权值
	{
		for (j = 0;j < NETX;j++)
		{
			w2[i][j] -= v*lost[i][1] * out[i][1] * (1.0 - out[i][1])*out[j][0];
		}
	}
	for (i = 0;i < NETX;i++)	//更新第三层权值
	{
		for (j = 0;j < NETX;j++)
		{
			w3[i][j] -= v*lost[i][2] * out[i][2] * (1.0 - out[i][2])*out[j][1];
		}
	}
	for (i = 0;i < NETX;i++)	//更新第四层权值
	{
		w4[i] -= v*err*res*(1.0 - res)*out[i][2];
	}
	double cals;
	cals=calo2(in, w1, w2, w3, w4);
	return cals - expect;
}

/*	网络结构体	*/
typedef struct stu_unit2 {
	double w1[NETX][NETL];
	double w2[NETX][NETX];
	double w3[NETX][NETX];
	double w4[NETX];
}unit2;

void ninit(unit2 &inet)
{
	int  i, j;
	for (i = 0;i < NETX;i++)
		for (j = 0;j < NETL;j++)
			inet.w1[i][j] = (2.0*rand() / RAND_MAX) - 1.0;
	for (i = 0;i < NETX;i++)
		for (j = 0;j < NETX;j++)
			inet.w2[i][j] = (2.0*rand() / RAND_MAX) - 1.0;
	for (i = 0;i < NETX;i++)
		for (j = 0;j < 5;j++)
			inet.w3[i][j] = (2.0*rand() / RAND_MAX) - 1.0;
	for (i = 0;i < NETX;i++)
		inet.w4[i] = (2.0*rand() / RAND_MAX) - 1.0;
}

/*	随机梯度下降训练	*/
double strain2(unit2 inet,double *in[NETL],double *expect,const int exdim)
{
	double los;
	int co;
	co = rand() % exdim;
	los=tra2(in[co], inet.w1, inet.w2, inet.w3, inet.w4, expect[co]);
	return los;
}

/*	直接训练组	*/
double dtrain2(unit2 &inet, double in[][NETL], double *expect,  int exdim)
{
	double *los = new double[exdim];
	for (int i = 0;i < exdim;i++)
		los[i] = tra2(in[i], inet.w1,
			inet.w2, inet.w3, inet.w4, expect[i]);
	double sum = 0.0;
	for (int i = 0;i < exdim;i++)
	{
		sum += fabs(los[i]);
		//cout << los[i] << endl;
	}
	delete[]los;
	return sum/(double)exdim;
}

/*	输出网络	*/
double ncal(unit2 inet, double in[NETL])
{
	return calo2(in, inet.w1, inet.w2, inet.w3, inet.w4);
}

#define SAVEPATH "net.dat"

/*	储存网络	*/
void nsave(unit2 inet)
{
	FILE *pFile = fopen(SAVEPATH, "wb");
	fwrite(&inet, sizeof(unit2), 1, pFile);
	fclose(pFile);
}

/*	加载网络	*/	
void nload(unit2 &inet)
{
	FILE *fp = fopen(SAVEPATH, "rb");
	fread(&inet, sizeof(unit2), 1, fp);
	fclose(fp);
}

#endif


C++实现的神经网络
09-14
虽然用C++实现神经网络会比较麻烦，不过如果注意到以下下的trick, 在用C++实现神经网络时会舒服很多，代码也会非常简明，核心代码在百行左右也不是问题。 C++没有内置的向量,矩阵库，可以自己先轮几个Vector, Matrix类以及各种数学运算操作，最好搞成链式操作。 不要用index form来推导和实现BP算法，个人比较喜欢matrix form, 公式会非常紧凑，实现起来也不太容易出错 顶层框架设计，比如先设计几个基类Model类，数据库类，定义几个通用的接口。实现具体的算法时，只要实现特定接口即可。 我最近实现了一把基本的神经网络，包括LR和多层NN模型, 使用C++11， Visual Studio 2017开发
C++实现神经网络
weixin_30502965的博客
10-15 1118
原文地址BP神经网络原理及C++代码实现 头文件ANN.h #ifndef _ANN_H_ #define _ANN_H_ #include<assert.h> #include<stdlib.h> #include<iostream> #include<string> #include&l...
c++从零实现神经网络
一千世界
02-03 1873
C++从零实现神经网络（收藏版：两万字长文） AI科技大本营2018-01-09 00:00:0012280收藏75 作者 | 冰不语 本文转自微信公众号CVPy 01 Net类的设计与神经网络初始化 闲言少叙，直接开始 既然是要用C++来实现，那么我们自然而然的想到设计一个神经网络类来表示神经网络，这里我称之为Net类。由于这个类名太过普遍，很有可能跟其他人写的程序冲突，所以我的所有程序都包含在namespace liu中，由此不难想到我姓刘...
【c++】神经网络
longlongfishday的博客
01-27 1330
Q: 将Iris（鸢尾花）数据集分为训练集（Iris-train.txt）和测试集（Iris-test.txt），分别含75个样本，每个集合中每种花各有25个样本。 为了方便训练，将3类花分别编号为1，2，3  使用这些数据训练一个4输入（分别对应4个特征）、隐含层（10个神经元）、3输出（分别对应该样本属于某一品种的可能性大小）的神经网络（4*10*3）。   使用训练集对网
c++实现神经网络
ahj53023的博客
11-05 273
引 https://blog.youkuaiyun.com/dQCFKyQDXYm3F8rB0/article/details/79017786 转载于:https://www.cnblogs.com/yudablog/p/9911883.html
C++写的神经网络模型_神经网络_C++神经网络_C++_
10-02
在本项目中，我们主要探讨的是使用C++编程语言实现一个神经网络模型，特别是针对MNIST手写数字识别任务。C++是一种静态类型的、编译式的、通用的、大小写敏感的、不仅支持过程化编程，也支持面向对象编程的程序设计...
C++实现神经BP神经网络
12-17
【C++实现神经BP神经网络】是通过编程语言C++来构建一个反向传播(Backpropagation)算法的神经网络模型。反向传播是监督学习中的一种常用算法，主要用于多层感知器的学习，通过梯度下降法更新网络的权重和偏置，以...
BP神经网络优化PID程序,bp神经网络pid控制,C,C++
09-10
**BP神经网络优化PID程序** 在自动化控制领域，PID（比例-积分-微分）控制器是一种广泛应用的传统控制算法，能够有效稳定系统并减小误差。然而，PID参数的选取直接影响到控制性能，需要根据具体系统特性进行精细...
卷积神经网络C++实现
08-07
本项目提供了一个C++实现的卷积神经网络，具有良好的代码结构和注释，使得学习者能够更好地理解和应用CNN。 首先，我们来了解一下卷积神经网络的基本构成和工作原理。CNN由卷积层、池化层、全连接层和激活函数等...
RBF神经网络C++源码
04-07
在C++中实现RBF神经网络，需要理解以下几个核心概念： 1. **输入层**：输入层不进行任何计算，只是将输入数据传递给隐藏层。在C++代码中，这一层通常用数组或向量来表示输入特征。 2. **隐藏层**：隐藏层是RBF网络...
c++版神经网络实现
06-19
c++版神经网络的实现，内部实现了矩阵运算，前向传播，反向传播的基本逻辑，使用的是交叉熵损失函数，二分类问题，数据集是64*64*3的猫的图片，已被展成12288向量存于txt文件中，由于数据量大训练时间可能较长
神经网络经典算法，C++实现
06-02
神经网络经典算法，C++实现 神经网络经典算法，C++实现 神经网络经典算法，C++实现
[转]BP人工神经网络的C++实现
weixin_30653097的博客
12-03 246
原文地址：http://blog.youkuaiyun.com/luxiaoxun/article/details/7649945 分类： Research（3） 版权声明：本文为博主原创文章，未经博主允许不得转载。 BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多...
【转】C++从零实现神经网络
RToax
02-20 685
开发者技术前线 CVPy [感谢文章原作者，侵删] Table of Contents 一、Net类的设计与神经网络初始化 神经网络的要素 Net类的设计 成员变量与成员函数 神经网络初始化 权值初始化 初始化测试 二、前向传播与反向传播 前言 前向过程 反向传播过程 注意 三、神经网络的训练和测试 前言 完善后的Net类 训练 测试 四、神经网络的预测...
C++实现的BP神经网络（代码与详解）
热门推荐
菜鸡也有大佬梦
08-28 4万+
描述部分 什么是BP神经网络 这个百度比较多就不赘述了 在看到我的文章前一定也看了不少了! 开篇先说几点 本文是基于博客"https://blog.youkuaiyun.com/ironyoung/article/details/49455343"补充与拓展 本文努力去通俗的阐述bp神经网络原理 与结合实际bp网络图重构其代码 尤其核心算法部分 让bp算法使用更清晰明了 并且下面贴的代码注释非常全 保证每...
使用 C++ 实现神经网络：从基础到高级优化
u014358031的博客
01-09 3050
本文介绍了如何使用 C++ 构建神经网络。通过从基础的神经网络构建、训练过程、优化策略，再到如何利用现代 C++ 特性进行性能优化，我们创建了一个简单但有效的神经网络实现。无论是出于学习目的还是性能需求，C++ 都是一种非常适合实现神经网络的编程语言，尤其是在需要高效计算和资源控制的应用中。希望本文能帮助你更好地理解如何在 C++ 中实现神经网络，并掌握如何通过现代编程技术优化神经网络的性能。
使用C和C++实现一个简单的神经元网络
最新发布
小宝哥Code的专栏
03-17 1095
/ 定义神经网络层结构// 输入神经元数量// 输出神经元数量// 权重矩阵// 偏置向量// 该层的输出// 误差项} Layer;
【深度学习系列（二）】：基于c++实现一个简单的神经网络（2）
wxplol的博客
02-01 1645
2、模型的搭建及初始化       在我们读取数据集时我们已经知道输入的神经元个数，在构造NN类时我们需要设置分类数，也就是说我们已经知道输入和输出的神经元个数，所以只要知道隐藏层的层数及每层的神经元个数，那么整个神经网络也就搭建完成了。本程序中通过容器保存插入每层隐藏层神经元个数来确定隐藏层的层数和个数。搭建整个网络，其实就是依次创建每一层的权重和偏置的矩阵，并分别保存到存储权重和偏置的容器中...
【深度学习】使用C++手动搭建一个神经网络
weixin_51068737的博客
04-25 2153
C/C++手动搭建一个神经网络
C++神经网络程序源代码分享
综上所述，这份文件可能包含了一个基于C++编程语言编写的神经网络应用程序的源代码。这份源代码能够被用来创建一个能够运行和训练的人工神经网络模型，从而进行数据处理和模式识别。文件的作者强调了源代码的共享...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值