神经网络中函数逼近的思考

最新推荐文章于 2023-09-20 20:08:28 发布
最新推荐文章于 2023-09-20 20:08:28 发布
阅读量402 收藏
点赞数
文章标签： 神经网络 深度学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_51804522/article/details/118271702
版权
本文探讨了神经网络如何通过函数逼近来解决问题，提出将神经网络视为无穷级数的部分和与余项，强调了寻找普遍规律（Sn）和解决个体差异（Rn）的重要性。作者建议使用不同神经网络的组合，通过逐步增加参数来逼近理想目标。文章中提到，可以先训练简单的规律网络f1，然后逐渐加入新的规律网络f2, f3等，形成分层逼近的策略，同时结合ResNet思想处理余项。训练过程中，早期参与的网络可能会更精准。这种思考方式提供了一种将神经网络微观和宏观结合的新视角。" 79627773,5675886,WebView加载HTTPS页面中HTTP资源的解决与风险,"['WebView', 'HTTPS', '安全']

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

神经网络中函数逼近的思考

函数逼近神经网络原文： http://staff.ustc.edu.cn/~lgliu/Resources/DL/What_is_DeepLearning.html

​ 这篇文章很到位，对于用函数逼近思想考虑神经网络，但这篇文章主要是对于一个神经网络的设计，我更加倾向于用不同的神经网络组合的思想，这样方便到时候分模块调参，看结构，并且可以增删网络个数。

​ 我对于神经网络函数逼近的考虑是类似无穷级数等于前面的部分和数列Sn加上余项R，主要重点就在于这个部分和求好就行。F = w1f1(x)+w2f2(x)±----+wnfn(x)+……=Sn+R。

​ Sn就相当于能完成一类问题的通性，R就相当于完成各个个例的个性，就相当于每个个例的专属噪声。

​ 那么需要两个部分才能理想化逼近最理想化目标。一个由神经网络来搞Rn,一个部分来搞Sn.

​ 然后按照http://staff.ustc.edu.cn/~lgliu/Resources/DL/What_is_DeepLearning.html理解思路，我们可以把一个神经网络单层理解成函数逼近，然后越少的参数就相当于在一个低维空间做事，虽然这样一个浅层参数量很少的神经网络无法很好拟合，但是我可以把他理解成最初的普遍规律，然后传入这个浅层参数量很少的神经网络f0参数x0得出的x1 = f1(x0)传给下一个参数量多一点的神经网络x2 = f2（x1），然后x2和x1作为总的自变量 得到x3做为输入量传入下一个神经网络f3(x3)得到x4.x4就可以当作Sn.

​ 然后这里我对x1 x2 x3进行理解，x2已经是预结果图片，和x1结合是为了更好的让结果图片体

最低0.47元/天 解锁文章
强化学习——函数逼近与神经网络
深海沧澜的博客
11-21 767
1.函数逼近 可数的状态可用Q表格表示，但在实际中的应用状态的数量级十分大，所以可采用值函数近似。 2.神经网络 输入训练数据，输出结果 神经网络可用逼近任意连续函数 神经网络代码举例： 3.DQN 使用神经网络求解RL问题中的经典算法 DQN的本质为Q-learing，从environment中获得state，通过查表，获得Q值及动作，然后输出给环境，拿到 下一个state和reward。 DQN的改进在于直接把Q表格换成神经网络 4.监督学习其训.
基于BP神经网络的函数逼近（不使用任何工具函数）
07-19
基于BP神经网络的函数逼近（不使用任何工具函数）
深度学习代码实践（六）- 使用神经网络来逼近任意函数
千里之行
11-07 5954
问题提出 在前面 “深度学习代码实践（四）- 从0搭建一个神经网络：感知机与激活函数”的博文分享中，提到，神经网络的本质是：通过参数与激活函数来拟合特征与目标之间的真实函数关系。单层网络只能做线性分类任务，两层神经网络可以无限逼近任意连续函数。 这里提到的“用两层神经网络可以无限逼近任意连续函数”。 那么神经网络是不是真的能够逼近任何函数。 我用 Tensorflow 做了一个实验， 以一个已知函数 z = x^2 + y*2 的 80000个随机的 (x,y) 点作为输入，计算得到函数的 z 值.
BP神经网络的函数逼近
我的技术栈碎碎念空间
04-23 7338
给出一个非线性的函数，建立BP神经网络进行拟合图像，其中隐藏神经元的数目为，可以设定。 %BP神经网络的函数逼近 k=2; x=[-1:.05:8]; f=1+sin(k*pi/2*x); %建立BP神经网络结构 %隐藏层为5 未训练参数 n=10; net=newff(minmax(x),[n,1],{'tansig','purelin'},'trainlm'); y1=sim(net,x);...
为什么说神经网络可以逼近任意函数？
热门推荐
deephub
07-22 2万+
本文主要介绍神经网络万能逼近理论，并且通过PyTorch展示了两个案例来说明神经网络的函数逼近功能。 大多数人理解“函数”为高等代数中形如“f(x)=2x”的表达式，但是实际上，函数只是输入到输出的映射关系，其形式是多样的。 拿个人衣服尺寸预测来说，我们用机器学习来实现这个功能，就是将个人身高、体重、年龄作为输入，将衣服尺寸作为输出，实现输入-输出映射。 具体来说，需要以下几个步骤: 收集关键数据（大量人口的身高/体重/年龄，已经对应的实际服装尺寸）。 训练模型来实现输入-输出的映射逼近。 对未知数据进
神经网络实例（BP函数逼近）
09-12
神经网络实例（BP函数逼近） 易懂的原程序，附结果 适于初学者
模糊算法篇：13模糊神经网络在函数逼近中的应用 （含教学视频）.zip
最新发布
01-04
在这个主题中，我们主要探讨模糊神经网络在函数逼近中的应用，这包括其基本原理、设计方法以及实际应用。 **模糊逻辑与神经网络的融合** 模糊逻辑是一种处理不确定性和不精确信息的方法，通过定义模糊集合和模糊...
matlab: 径向基神经网络，实现函数逼近
05-07
利用newrd建立径向神经网络，实现函数的逼近，实现函数的拟合
BP(神经网络在函数逼近中的应用).m
05-06
BP神经网络有很强的映射能力，主要用于模式识别分类、函数逼近、函数压缩等 代码实现的内容：要求设计一个BP网络，逼近以下函数g(x)=1+sin(k*pi/4*x),实现对该非线性函数的逼近。得出信号的频率与隐层节点之间及隐层...
BP神经网络函数逼近
04-16
BP神经网络是一种多层前馈神经网络,该网络的主要特点是信号前向传递, 误差反向传播。在前向传递中,输入信号从输入层经隐含层逐层处理, 直至输出层。每一层的神经元状态只影响下一层神经元状态。如果输出层得不到期望输出, 则转入反向传播,根据预测误差调整网络权值和阈值,从而使B P神经网络预测输出不断逼近期望输出。
实验一：常规神经网络函数逼近实验
青山黛·丹溪的学习记录
09-20 383
通过调整不同的超参数，可以进一步优化模型的性能，以适应不同的任。进行训练，使得神经网络可以根据一个未知的自变量预测对应的应。本实验成功地展示了如何使用反向传播算法来训练神经网络模。，表明模型在训练数据上取得了良好的拟合 效果。函数逼近问题是指在不给出函数关系式的前提下，万次迭代训练后，模型的损失值收敛到。（包含前向传播和反向传播方法）型， 并对特定数据集进行预测。次迭代训练后，损失值收敛到。预测出来的结果为小数，因。使用训练好的模型进行预测。预测出来的结果为小数，
神经网络BP算法逼近指定函数
11-07
利用BP算法逼近函数f=-1.*x.*(x.^2-3.2.*x+2.89).*(x-3)/2;的matlab代码。
神经网络论文中的函数逼近matlab源码
11-08
函数逼近（Function Approximation ）是函数论中的一个重要组成部分,其在数值计算中的作用是十分重要的。运用神经网络进行函数逼近,为函数逼近的发展提供了一条新的思路。 用神经网络作函数的逼近有许多优点: 首先,它提供了一个标准的逼近结构及逼近工具,这个工具可以随着隐层个数改变来达到任意精度; 其次,有标准的学习算法用以确定逼近函数的参数,并且这一过程是拟人的,即很好地模拟了人的学习过程;最后,能处理的数据对象十分广泛:适用于大规模的,高度非线性的,不完备的数据处理。 本文以几种典型神经网络为例(BP神经网络Function Approximation 、RBF神经网络www.BoliLib.com Approximation 、正交多项式基函数神经网络、样条基函数神经网络),对基于神经网络的函数逼近方法进行了研究。神经网络的函数逼近能力受神经元个数、学习率、学习次数和训练目标等因素的影响,因此,在研究过程中,充分运用神经网络的非线性逼近能力,首先对几种用于函数逼近的神经网络的结构及算法进行研究;再针对几种常用函数曲线,如正弦函数、指数函数、对数函数、三角函数等,分别用典型神经网络进行逼近,并对逼近效果进行比较,得到用于函数逼近的神经网络选取规律。所得结论经过实际仿真测试,证明了其有效性。 本文的研究结果对函数逼近的研究具有借鉴意义。
BP神经网络逼近线性函数模型
05-24
BP神经网络逼近线性函数模型 %建立BP神经网络 %tranferFcn属性 'logsig' 隐层采用Sigmoid传输函数 %tranferFcn属性 'logsig' 隐层采用Sigmoid传输函数 %tranferFcn属性 'purelin' 输出层采用线性传输函数 %trainFcn属性 'traingdx' 自适应调整学习速率附加动量因子梯度下降反向传播算法训练函数 %learn属性 'learngdm' 附加动量因子的梯度下降学习函数
什么是深度学习？（从函数逼近论的角度来理解）.pdf
12-27
本文的目的是帮助非人工智能领域的学生（主要是计算机图形学领域的学生及笔者的学生）来搞懂深度学习（这里指狭义的深度学习，即基于DNN的深度学习）的基本概念和方法。笔者尝试用通俗的语言，从函数逼近论的角度来阐释深度神经网络的本质。山于笔者的主要研究领域为计算机图形学，而非人工智能领域，因此本文仅仅为笔者从外行的角度对基于DNN的深度学习的粗浅理解，而非人工智能领域对DNN和深度学习的权威解释。因而，笔者对其中的有些内容的理解是有限的，甚至是有误的。如有不当之处，还请读者指正！
傻瓜攻略（五）——MATLAB实现神经网络的函数逼近和非线性回归
qq_36108664的博客
07-23 6679
本文的主要内容来自Mathworks官网的相关示例，body-fat-estimation。此示例说明神经网络如何基于多个身体测量值来估计体脂率，实现函数拟合。 问题：估计体脂率 在此示例中，尝试构建一个神经网络，该网络可以通过下面的 13 个身体属性来估计一个人的体脂率： 这是输入数据与相关输出目标进行匹配的拟合问题，我们希望所创建的神经网络不仅可以根据已知输入估计已知目标，还能泛化成针对未知输入数据的网络。 为什么使用神经网络？ 神经网络非常擅长处理函数拟合问题。具有足够元素（称为神经元）的神经网络可
TensorFlow学习--函数逼近（RBF神经网络）
TI__boyue的博客
04-28 4469
目录RBF网络相关知识知识概述传送门RBF网络知识 RBF网络相关知识 知识概述 RBF神经网络是一种3层的前向网络，其基本工作原理是：利用RBF构成的隐藏层空间对低维的输入矢量进行投影，将数据变换到高维空间中去，以使原来线性不可分的问题能够变得线性可分。下图为径向基神经网络的基本结构示意图 由于输入层在RBF网络中仅仅起到信号的传输作用，故而输入层和隐含层之间的连接权值都为１，隐含层实现对输入...
利用BP神经网络逼近函数(Python)
亨利王的博客
04-19 1万+
回顾上一篇：深刻理解机器学习的: 目标函数，损失函数和代价函数 引言 前面我们讲了关于张量、张量运算、激活函数、代价函数相关的一系列文章，本篇将使用Python 3从头实现一个神经网络，用来逼近函数，有理论证明，神经网络可以逼近任何函数。本篇作为例子，我们使用神经网络逼近f(x)=sin(x)f(x)=sin(x)f(x)=sin(x)和f(x)=x2f(x)=x^2f(x)=x2两个函数，让大家...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值