浅入深度学习

最新推荐文章于 2025-04-06 09:58:05 发布
最新推荐文章于 2025-04-06 09:58:05 发布
阅读量388 收藏 1
点赞数
分类专栏： 深度学习 文章标签： 深度学习 神经网络 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_53359491/article/details/124984415
版权
本文介绍了神经网络的基础知识，包括神经元、激活函数和损失函数的作用。接着详细讲解了单层和多层感知机模型，以及它们在分类任务中的应用。最后，讨论了参数优化过程，特别是梯度下降和反向传播算法在模型训练中的作用，以提高神经网络的预测准确性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

目录

一、若干基本概念

二、感知机模型

三、参数优化与学习

 

一、若干基本概念

在正式介绍前馈神经网络前，先介绍神经元、激活函数、输出单元及损失函数的一些基本概念。

1.神经元

        在生物学中，神经元细胞有兴奋与抑制两种状态。大多数神经元细胞在正常情况下处于抑制状态，一旦某个神经元受到刺激并且电位超过一定的阈值后，这个神经元细胞就被激活，处于兴奋状态，并向其他神经元传递信息。基于神经元细胞的结构特性与信息传递方式，神经科学家Warren McCulloch 和逻辑学家 Walter Pitts 合作提出了“McCulloch-Pitts(MCP)neuron”模型。在人工神经网络中，MCP模型成为最基本的结构。其结构如下：

由图可见，给定n个2值化（0或1）的输入数据xi ，与连接参数wi，MCP神经元模型对输入数据线性加权求和，然后使用函数将加权结果映射为0或1，以完成二分类任务：

        其中wi为预先设定的连接权重值（一般在0和1中去一个值或者-1和1中取一个值&#

最低0.47元/天 解锁文章
【深度学习的灵魂】单层感知器（MCP人工神经元模型）
十二月的猫
04-01 3787
在我的第一篇《深度学习的发展历史（深度学习入门、学习指导）-优快云博客》中，介绍了深度学习模型发展的一个全进程。在这一个深度学习历史上最早出现的就是MCP人工神经元模型，这个模型有一个相当有名的算法——感知器（也称为单层感知机本篇文章，我们就来讲一讲这个神经网路\深度学习邻域的老祖宗模型单层感知机是机器学习中最基础的方法之一，其本质和逻辑回归有一定的相似，两者都是接受输入，然后会根据输入返回一个输出（两者的区别在于损失函数激活函数选择不同）。单层感知机选用sign函数作为激活函数，选用。
深度学习知识点全面总结
热门推荐
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
01-05 33万+
本文详细介绍深度学习概念及原理，参考网上相关资料汇总，内容包含众多章节，包括神经网络基础及常见深度学习网络结构介绍，用于个人学习总结，适合深度学习初学者学习。同时介绍机器学习常见的分类算法：SVM、神经网络、随机森林、逻辑回归、KNN、贝叶斯。常见的监督学习算法：感知机、SVM、人工神经网络、决策树、逻辑回归.........
【brainpy学习笔记】神经网络建模1——兴奋-抑制平衡网络
Fellyhosn的博客
05-17 2371
前面的笔记介绍了神经元建模和突触建模，用突触将神经元连接起来便形成了神经网络，可以完成更高级的任务。神经网络的模型一般分为脉冲神经网络（spiking neural networks,SNNs）和发放率神经网络（firing-rate neural networks）。本文介绍了兴奋-抑制平衡网络，，它可以模拟大脑中神经元的不规律发放。
神经网络概述
噬魂灬的博客
06-13 4499
以冯·诺依曼型计算机为中心的信息处理技术的高速发展，使得计算机在当今的信息化社会中起着十分重要的作用。但是，当用它来解决某些人工智能问题时却遇到了很大的困难。 例如，一个人可以很容易地识别他人的脸孔，但计算机则很难做到这一点。这是因为脸孔的识别不能用一个精确的数学模型加以描述，而计算机工作则必须有对模型进行各种运算的指令才行，得不到精确的模型，程序也就无法编制。而大脑是由生物神经元构成的
从全科会诊到专科分诊：用医院比喻解析人工智能的MCP模型
最新发布
双非二本自学到互联网公司的成长经历，有故事，有干货。
04-06 660
专业的人做专业的事（特异性激活）该会诊时会诊（非线性组合）流程清晰高效（前向传播）经验持续积累（权重更新）当我们在手机上使用人脸解锁时，背后正是无数个"MCP专科医生"在高效协作：边缘检测"医生"先定位面部轮廓，纹理分析"医生"确认皮肤特征，三维重建"医生"验证活体…这种精密分工，正是McCulloch和Pitts在80年前为机器智能开出的最有效"处方"。
损失函数与反向传播
qq_52237775的博客
02-05 4836
损失函数定义与作用 损失函数(loss function)在深度学习领域是用来计算搭建模型预测的输出值和真实值之间的误差。 1.损失函数越小越好 2.计算实际输出与目标之间的差距 3.为更新输出提供依据（反向传播) 常见的损失函数 回归常见的损失函数有：均方差（Mean Squared Error，MSE）、平均绝对误差（Mean Absolute Error Loss，MAE）、Huber Loss是一种将MSE与MAE结合起来，取两者优点的损失函数，也被称作Smooth Mean Absolute Er
深度学习--神经网络）
python_LC_nohtyp的博客
12-21 1112
神经网络 人工的神经的网络是在模仿自然的神经网络才搭建的，这里我们向介绍一下自然界中的神经元，对两者对象对比学习 神经元 生物学神经元简单介绍 1904 年生物学家就已经知晓了神经元的组成结构 1.每个神经元都是一个信息的处理单元，且具有多输入单输出的特性 2.神经元的输入可以分为兴奋性输入和抑制性输入两种类型 3.神经元阈值特性： 当细胞体膜内外电位差（由突触输入信号总和）超过阈值时产生脉冲，...
深入浅出为引领，浅入深出成雁翎——例谈化学课堂中深度学习的教与学.pdf
08-19
孟娜门春亮在《深入浅出为引领，浅入深出成雁翎——例谈化学课堂中深度学习的教与学》一文中，结合自身教学实践经验，从问题设计、实验探究、即时评价等三个方面，探讨了如何在化学课堂中引导学生实现深度学习。...
浅入深挖 构建数学课堂——深度学习下的数学课堂思考.pdf
08-19
【构建数学课堂——深度学习下的数学教育探索】 数学课堂的质量直接影响到学生的数学素养和学习成效。深度学习理论提倡在教师的指导下，通过富有挑战性的学习任务，激发学生的积极参与，促进他们全身心地投入，实现...
4.神经网络基础，损失函数，反向传播
阿欢的博客
10-07 953
神经网络是一种很古老的算法，它最初产生的目的是制造能模拟大脑的机器。神经网络是计算量有些偏大的算法。然而大概由于近些年计算机的运行速度变快，才足以真正运行起大规模的神经网络。本文对神经网络的基础概念进行介绍。
详解深度学习中，如何进行反向传播
ZauberC的博客
11-08 1246
通过正向传播求初基于输入x的y_pred后，需要通过比较y_pred和原数据y，得到损失函数（一般是它们差值的L2范数）然后，各个权重矩阵就可以根据损失函数反向传播回来的梯度进行学习更新，从而使得下一轮的损失函数更小总的来说，反向传播起到一个提高训练模型精确度的作用。
tensorflow 实现自定义梯度反向传播代码
09-18
今天小编就为大家分享一篇tensorflow 实现自定义梯度反向传播代码，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
学习神经网络笔记之--激活函数、损失函数、向前传播、向后传播
shuidexiongdi的专栏
10-17 790
激活函数：，y‘的结果表示一个概率，取值在[0，1]，由于w'x+b的值可能很大，也可能为负值，所以需要一个函数将其区间映射到[0，1]，此映射函数，我们称为激活函数。 损失函数：损失函数又叫做误差函数，用来衡量算法的运行情况，Loss function:L(y',y).损失函数是在单个训练样本中定义的，它衡量的是算法在单个训练样本中表现如何，为了衡量算法在全部训练样本上的表现如何，我们需要定义...
深度学习基础-从感知机(神经元)说起
Susan Wong
07-11 590
1 感知机 在机器学习中，感知机（perceptron）是二分类的线性分类模型，属于监督学习算法。输入为实例的特征向量，输出为实例的类别（取+1和-1）。感知机对应于输入空间中将实例划分为两类的分离超平面。感知机旨在求出该超平面，为求得超平面导入了基于误分类的损失函数，利用梯度下降法 对损失函数进行最优化（最优化）。 如上图所示，输入任意的特征向量x′∈Rn×1\boldsymbol{x}&a...
机器学习-感知机Perceptron
Santorinisu Blogs
02-19 473
Section I: Brief Introduction on Perceptron The whole idea behind the MCP neuron and Rosenblatt’s thresholded percepton model is to use a reductionist approach to mimic how a single neuron in the brai...
深度学习笔记损失函数反向传播理解记录
m0_51495658的博客
11-09 1698
深度学习笔记损失函数反向传播公式理解 从机器学习笔记到深度学习笔记直到深度学习的第三章损失函数的反向传播卡了不少时间，发现卡顿的根本原因是对前边的一些细节符号没有准确记忆和串起来，联系上前文一条一条过终于顺利理解，留些记录免得遗忘。 1.逻辑回归 逻辑回归的公式都比较好理解，深度学习和机器学习笔记都反复提及： 2.神经网络中的损失函数计算 以双层神经网络为例，有一个输入层，一个隐藏层和一个输出层。 ...
深度学习pytorch代码：损失函数与反向传播
weixin_44575717的博客
04-10 1294
损失函数: 计算实际输出和目标之间的差距 为我们更新输出提供一定的依据(反向传播) 注： 在L1损失下，如果reduction=none，则输入和输出的维度要相同 import torch from torch import nn from torch.nn import L1Loss, MSELoss inputs = torch.tensor([1, 2, 3], dtype=torch.float32) targets = torch.tensor([1, 2,...
反向传播算法
iamcfb_的博客
01-16 9837
       深度神经网络如CNN、FCN等结构中包含两类参数：超参数和可调整参数。 其中超参数指需要预先设定的初始化参数，如网络层数、激活函数、卷积核大小等等。 可调整参数指的是在模型训练过程中被不断调整的参数，主要指隐藏层的权重和偏置项等，可调整参数直接决定了模型输出结果的精度。因此深度神经网络模型训练的目的是为了得到最佳的模型参数组合，最常用的模型训练方法是反响传播算法（Back Propa...
pytorch自动求导，自定义损失函数
qq_20945297的博客
05-17 3997
什么是动态建图？如何动态建图？动态建图为什么可以反向自动求导？我对于这个问题一直存在疑惑，但是去网上有没有找到好的解释，于是，没办法，自己实验吧。首先，我们做如下定义：a = torch.randn(2)b = torch.randn(2)c = torch.randn(2,requires_grad=True)m = a*bprint(m.grad_fn)q = a*cprint(q.grad_...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值