深度学习教程(2) | 神经网络基础(吴恩达·完整版)

吴恩达系列课程——卷积神经网络(From:网易云课堂) 一.卷积神经网络1.计算机视觉图片分类、图片识别:给出64*64图片计算机判断是否是一只猫目标检测:检测出图片中有哪些物体以及他们的位置风格迁移:图片融合图片1的轮廓和图片2的风格eg:1000*1000大小的图片的特征向量将达到1000*1000*3(RGB 3channels),若使用标准的全连接网络将需要产生数量巨大的权值。。。所以引入卷积神经网络 2.边缘检测示例卷积运算是CNN的基础,边... 阅读详情


第1门课 神经网络和深度学习,第2周:神经网络的编程基础

本系列为吴恩达老师《深度学习专项课程(Deep Learning Specialization)》学习与总结整理所得,对应的课程视频可以在这里查看。

引言

在ShowMeAI前一篇文章 深度学习概论 中我们对深度学习(Deep Learning)进行了简单介绍:

  • 我们以房价预测为例,对应讲解了神经网络(Neural Network)模型结构和基础知识。
  • 介绍了针对监督学习的几类典型神经网络:Standard NN,CNN和RNN。
  • 介绍了「结构化数据」和「非结构化数据」2种不同类型的数据。
  • 分析了近些年来深度学习热门,及其性能优于传统机器学习的原因(Data,Computation和Algorithms)。

本节内容我们展开介绍神经网络的基础:逻辑回归(Logistic Regression)。我们将通过对逻辑回归模型结构的分析,过渡到后续神经网络模型。(关于逻辑回归模型,大家也可以阅读ShowMeAI的文章 图解机器学习 | 逻辑回归算法详解 学习)

1.算法基础与逻辑回归

逻辑回归(Logistic regression) 是一个用于二分类的算法。

1.1 二分类问题与机器学习基础

二分类 Binary Classification

二分类就是输出 y y y只有 {0,1} 两个离散值(也有 {-1,1} 的情况)。我们以一个「图像识别」问题为例,判断图片是否是猫。识别是否是「猫」,这是一个典型的二分类问题——0代表「非猫(not cat)」,1代表「猫(cat)」。(关于机器学习基础知识大家也可以查看ShowMeAI文章 图解机器学习 | 机器学习基础知识)。

算法基础与逻辑回归

从机器学习的角度看,我们的输入 x x x此时是一张图片,彩色图片包含RGB三个通道,图片尺寸为 ( 64 , 64 , 3 ) (64,64,3) (64,64,3)。

数据与向量化格式

有些神经网络的输入是一维的,我们可以将图片 x x x(维度 ( 64 , 64 , 3 ) (64,64,3) (64,64,3))展平为一维特征向量(feature vector),得到的特征向量维度为 ( 12288 , 1 ) (12288,1) (12288,1)。我们一般用列向量表示样本,把维度记为 n x n_x nx​。

如果训练样本有 m m m张图片,那么我们用矩阵存储数据,此时数据维度变为 ( n x , m ) (n_x,m) (nx​,m)。

数据与向量化格式

  • 矩阵 X X X的行 n x n_x nx​代表了每个样本 x ( i ) x^{(i)} x(i)特征个数
  • 矩阵 X X X的列 m m m代表了样本个数。

我们可以对训练样本的标签 Y Y Y也做一个规整化,调整为1维的形态,标签 Y Y Y的维度为 ( 1 , m ) (1,m) (1,m)。

1.2 逻辑回归算法

逻辑回归 Logistic Regression

逻辑回归是最常见的二分类算法(详细算法讲解也可阅读ShowMeAI文章 图解机器学习 | 逻辑回归算法详解),它包含以下参数:

  • 输入的特征向量: x ∈ R n x x \in R^{n_x} x∈Rnx​,其中 n x {n_x} nx​是特征数量
  • 用于训练的标签: y ∈ 0 , 1 y \in 0,1 y∈0,1
  • 权重: w ∈ R n x w \in R^{n_x} w∈Rnx​
  • 偏置: b ∈ R b \in R b∈R
  • 输出: y ^ = σ ( w T x + b ) \hat{y} = \sigma(w^Tx+b) y^​=σ(wTx+b)

输出计算用到了Sigmoid函数,它是一种非线性的S型函数,输出被限定在 [ 0 , 1 ] [0,1] [0,1] 之间,通常被用在神经网络中当作激活函数(Activation Function)使用。

逻辑回归做图像分类

Sigmoid函数的表达式如下:

s = σ ( w T x + b ) = σ ( z ) = 1 1 + e − z s = \sigma(w^Tx+b) = \sigma(z) = \frac{1}{1+e^{-z}} s=σ(wTx+b)=σ(z)=1+e−z1​

实际上,逻辑回归可以看作非常小的一个神经网络。

1.3 逻辑回归的损失函数

逻辑回归的代价函数 Logistic Regression Cost Function

在机器学习中,**损失函数(loss function)**用于量化衡量预测结果与真实值之间的差距,我们会通过优化损失函数来不断调整模型权重,使其最好地拟合样本数据。

在回归类问题中,我们会使用均方差损失(MSE):

L ( y ^ , y ) = 1 2 ( y ^ − y ) 2 L(\hat{y},y) = \frac{1}{2}(\hat{y}-y)^2 L(y^​,y)=21​(y^​−y)2

逻辑回归的损失函数

但是在逻辑回归中,我们并不倾向于使用这样的损失函数。逻辑回归使用平方差损失会得到非凸的损失函数,它会有很多个局部最优解。梯度下降法可能找不到全局最优值,从而给优化带来困难。

因此我们调整成使用对数损失(二元交叉熵损失):

L ( y ^ , y ) = − ( y log ⁡ y ^ ) + ( 1 − y ) log ⁡ ( 1 − y ^ ) L(\hat{y},y) = -(y\log\hat{y})+(1-y)\log(1-\hat{y}) L(y^​,y)=−(ylogy^​)+(1−y)log(1−y^​)

逻辑回归的损失函数

刚才我们给到的是单个训练样本中定义的损失函数,它衡量了在单个训练样本上的表现。我们定义代价函数(Cost Function,或者称作成本函数)为全体训练样本上的表现,即 m m m个样本的损失函数的平均值,反映了 m m m个样本的预测输出与真实样本输出 y y y的平均接近程度。

成本函数的计算公式如下:

J ( w , b ) = 1 m ∑ i = 1 m L ( y ^ ( i ) , y ( i ) ) J(w,b) = \frac{1}{m}\sum_{i=1}^mL(\hat{y}^{(i)},y^{(i)}) J(w,b)=m1​i=1∑m​L(y^​(i),y(i))

2.梯度下降法(Gradient Descent)

梯度下降 Gradient Descent

刚才我们了解了损失函数(Loss Function)与成本函数定义,下一步我们就要找到最优的 w w w和 b b b值,最小化 m m m个训练样本的Cost Function。这里用到的方法就叫做梯度下降(Gradient Descent)算法。

在数学上,1个函数的梯度(gradient)指出了它的最陡增长方向。也就是说,沿着梯度的方向走,函数增长得就最快。那么沿着梯度的负方向走,函数值就下降得最快。

(更详细的最优化数学知识可以阅读ShowMeAI文章 图解AI数学基础 | 微积分与最优化)

模型的训练目标是寻找合适的 w w w与 b b b以最小化代价函数值。我们先假设 w w w与 b b b都是一维实数,则代价函数 J J J关于 w w w与 b b b的图如下所示:

梯度下降法

上图中的代价函数 J J J是一个凸函数,只有一个全局最低点,它能保证无论我们初始化模型参数如何(在曲面上任何位置),都能够寻找到合适的最优解。

基于梯度下降算法,得到以下参数 w w w的更新公式:

w : = w − α d J ( w , b ) d w w := w - \alpha\frac{dJ(w, b)}{dw} w:=w−αdwdJ(w,b)​

公式中 α \alpha α为学习率,即每次更新的 w w w的步长。

成本函数 J ( w , b ) J(w, b) J(w,b)中对应的参数 b b b更新公式为:

b : = b − α d J ( w , b ) d b b := b - \alpha\frac{dJ(w, b)}{db} b:=b−αdbdJ(w,b)​

3.计算图(Computation Graph)

计算图 Computation Graph

对于神经网络而言,训练过程包含了两个阶段:前向传播(Forward Propagation)和反向传播(Back Propagation)。

  • 前向传播是从输入到输出,由神经网络前推计算得到预测输出的过程
  • 反向传播是从输出到输入,基于Cost Function对参数 w w w和 b b b计算梯度的过程。

下面,我们结合一个例子用计算图(Computation graph)的形式来理解这两个阶段。

3.1 前向传播(Forward Propagation)

假如我们的Cost Function为 J ( a , b , c ) = 3 ( a + b c ) J(a,b,c)=3(a+bc) J(a,b,c)=3(a+bc),包含 a a a、 b b b、 c c c三个变量。

我们添加一些中间变量,用 u u u表示 b c bc bc, v v v表示 a + u a+u a+u,则 J = 3 v J=3v J=3v。

整个过程可以用计算图表示:

计算图

在上图中,我们让 a = 5 a=5 a=5, b = 3 b=3 b=3, c = 2 c=2 c=2,则 u = b c = 6 u=bc=6 u=bc=6, v = a + u = 11 v=a+u=11 v=a+u=11, J = 3 v = 33 J=3v=33 J=3v=33。

计算图中,这种从左到右,从输入到输出的过程,就对应着神经网络基于 x x x和 w w w计算得到Cost Function的前向计算过程。

3.2 反向传播(Back Propagation)

计算图导数 Derivatives with a Computation Graph

我们接着上个例子中的计算图讲解反向传播,我们的输入参数有 a a a、 b b b、 c c c三个。

① 先计算 J J J对参数 a a a的偏导数

计算图

从计算图上来看,从右到左, J J J是 v v v的函数, v v v是 a a a的函数。基于求导链式法则得到:

∂ J ∂ a = ∂ J ∂ v ⋅ ∂ v ∂ a = 3 ⋅ 1 = 3 \frac{\partial J}{\partial a}=\frac{\partial J}{\partial v}\cdot \frac{\partial v}{\partial a}=3\cdot 1=3 ∂a∂J​=∂v∂J​⋅∂a∂v​=3⋅1=3

② 计算 J J J对参数 b b b的偏导数

计算图

从计算图上来看,从右到左, J J J是 v v v的函数, v v v是 u u u的函数, u u u是 b b b的函数。同样可得:

∂ J ∂ b = ∂ J ∂ v ⋅ ∂ v ∂ u ⋅ ∂ u ∂ b = 3 ⋅ 1 ⋅ c = 3 ⋅ 1 ⋅ 2 = 6 \frac{\partial J}{\partial b}=\frac{\partial J}{\partial v}\cdot \frac{\partial v}{\partial u}\cdot \frac{\partial u}{\partial b}=3\cdot 1\cdot c=3\cdot 1\cdot 2=6 ∂b∂J​=∂v∂J​⋅∂u∂v​⋅∂b∂u​=3⋅1⋅c=3⋅1⋅2=6

③ 计算 J J J对参数 c c c的偏导数

计算图

此时从右到左, J J J是 v v v的函数, v v v是 u u u的函数, u u u是 c c c的函数。可得:

∂ J ∂ c = ∂ J ∂ v ⋅ ∂ v ∂ u ⋅ ∂ u ∂ c = 3 ⋅ 1 ⋅ b = 3 ⋅ 1 ⋅ 3 = 9 \frac{\partial J}{\partial c}=\frac{\partial J}{\partial v}\cdot \frac{\partial v}{\partial u}\cdot \frac{\partial u}{\partial c}=3\cdot 1\cdot b=3\cdot 1\cdot 3=9 ∂c∂J​=∂v∂J​⋅∂u∂v​⋅∂c∂u​=3⋅1⋅b=3⋅1⋅3=9

这样就完成了从右往左的反向传播与梯度(偏导)计算过程。

4.逻辑回归中的梯度下降法

逻辑回归的梯度下降 Logistic Regression Gradient Descent

回到我们前面提到的逻辑回归问题,我们假设输入的特征向量维度为2(即 [ x 1 , x 2 ] [x_1, x_2] [x1​,x2​]),对应权重参数 w 1 w_1 w1​、 w 2 w_2 w2​、 b b b得到如下的计算图:

逻辑回归中的梯度下降法

反向传播计算梯度

① 求出 L L L对于 a a a的导数

逻辑回归中的梯度下降法

② 求出 L L L对于 z z z的导数

逻辑回归中的梯度下降法

③ 继续前推计算

逻辑回归中的梯度下降法

④ 基于梯度下降可以得到参数更新公式

逻辑回归中的梯度下降法

梯度下降的例子 Gradient Descent on m Examples

逻辑回归中的梯度下降法

前面提到的是对单个样本求偏导和应用梯度下降算法的过程。对于有 m m m个样本的数据集,Cost Function J ( w , b ) J(w,b) J(w,b)、 a ( i ) a^{(i)} a(i) 和 权重参数 w 1 w_1 w1​ 的计算如图所示。

完整的Logistic回归中某次训练的流程如下,这里仅假设特征向量的维度为2:

J=0; dw1=0; dw2=0; db=0;
for i = 1 to m
    z(i) = wx(i)+b;
    a(i) = sigmoid(z(i));
    J += -[y(i)log(a(i))+(1-y(i))log(1-a(i));
    dz(i) = a(i)-y(i);
    dw1 += x1(i)dz(i);
    dw2 += x2(i)dz(i);
    db += dz(i);
J /= m;
dw1 /= m;
dw2 /= m;
db /= m;

接着再对 w 1 w_1 w1​、 w 2 w_2 w2​、 b b b进行迭代。

上述计算过程有一个缺点:整个流程包含两个for循环。其中:

  • 第一个for循环遍历 m m m个样本
  • 第二个for循环遍历所有特征

如果有大量特征,在代码中显示使用for循环会使算法很低效。向量化可以用于解决显式使用for循环的问题。

5.向量化(Vectorization)

向量化 Vectorization

继续以逻辑回归为例,如果以非向量化的循环方式计算 z = w T x + b z=w^Tx+b z=wTx+b,代码如下:

z = 0;
for i in range(n_x):
    z += w[i] * x[i]
z += b

基于向量化的操作,可以并行计算,极大提升效率,同时代码也更为简洁:
(这里使用到python中的numpy工具库,想了解更多的同学可以查看ShowMeAI的 图解数据分析 系列中的numpy教程,也可以通过ShowMeAI制作的 numpy速查手册 快速了解其使用方法)

z = np.dot(w, x) + b

不用显式for循环,实现逻辑回归的梯度下降的迭代伪代码如下:

Z = w T X + b = n p . d o t ( w . T , x ) + b Z=w^TX+b=np.dot(w.T, x) + b Z=wTX+b=np.dot(w.T,x)+b

A = σ ( Z ) A=\sigma(Z) A=σ(Z)

d Z = A − Y dZ=A-Y dZ=A−Y

d w = 1 m X d Z T dw=\frac{1}{m}XdZ^T dw=m1​XdZT

d b = 1 m n p . s u m ( d Z ) db=\frac{1}{m}np.sum(dZ) db=m1​np.sum(dZ)

w : = w − σ d w w:=w-\sigma dw w:=w−σdw

b : = b − σ d b b:=b-\sigma db b:=b−σdb

参考资料

ShowMeAI系列教程推荐

推荐文章

吴恩达深度学习(一)之神经网络和深度学习 吴恩达深度学习(一)之神经网络和深度学习第一周 深度学习概论结构化与非结构化数据深度学习快速发展的三大原因联系方式第二周 神经网络基础神经网络矩阵设计准则逻辑回归定义法则代价函数梯度下降运作机制利用计算图计算逻辑回归的梯度下降单个训练样本多个训练样本非向量化(循环,能用向量就不用)向量化(要远快于循环)Python/Numpy 广播机制Python/Numpy 矩阵创建与维度验证准则代码第三周 浅层神经网络神经网络的表示神经网络前向传播的输出单个样本输入多样本输入激活函数种类激活函数对应的导数选择非线性激活 阅读详情

相关推荐

深度学习基础教程

深度学习基础教程电子版讲义,内容完整适合刚入门的研究。

(吴恩达机器学习)神经网络入门

1:为什么神经网络可以实现复杂的非线性假设函数的计算? 对于一个较为复杂的数学式子的求解过程,我们是分步进行求解的。 例如要求解a*(b+c)的值,我们是先进行b+c的计算,然后在将其结果与a相乘。对于这个式子神经网路的求解过程如下图所示: 第一层是输入层,最后一层是输出层,中间为隐藏层。隐藏层实际上就是一个复杂式子的中间计算过程,除了输入层外,其他的每一个节点表示的就是一个计算过程,计...

STILLxjy 5132

深度学习基础教程-全-非影印版

本教程将阐述无监督特征学习和深入学习的主要观点。通过学习,你也将实现多个功能学习/深度学习算法,能看到它们为你工作,并学习如何应用/适应这些想法到新问题上。

Coursera吴恩达《神经网络与深度学习》课程笔记(5)-- 深层神经网络

我的优快云博客地址:红色石头的专栏 我的知乎主页:红色石头 我的微博:RedstoneWill的微博 我的GitHub:RedstoneWill的GitHub 我的微信公众号:红色石头的机器学习之路(ID:redstonewill) 欢迎大家关注我!共同学习,共同进步! 上节课我们主要介绍了浅层神经网络。首先介绍神经网络的基本结构,包括输入层,隐藏层和输出...

红色石头的专栏 2万+

斯坦福大学深度学习基础教程完整版本

斯坦福大学深度学习基础教程完整版本,供各位参考学习使用,谢谢!

斯坦福大学-深度学习基础教程.pdf.zip

深度学习基础教程 斯坦福大学教案

神经网络(吴恩达机器学习系列课程)

神经网络 引入:例子 假如现在我们已知了一组房子规模-价格数据: 如果我们要对其进行一个预测,很明显这就是一个简单的线性回归(以2维空间为例)的问题: 我们首先随机给定一个w,b,那么就可以确定一条“可能满足这几个点的需求”的直线: y=ωx+b y=\omega x +b y=ωx+b 然后利用最小二乘法作为我们的评判指标——也就是损失函数loss, j(θ)=1n∑i=1n(f(xi)−yi)2j(θ)是损失值xi就是样本yi就是真实标签值f(xi)是预测标签值 j(\theta)=\frac

Killer_kali的博客 688

深度学习入门教程与实战项目_Python编程语言_神经网络基础理论_卷积神经网络CNN_循环神经网络RNN_自然语言处理NLP_计算机视觉CV_强化学习RL_深度学习框架Tenso.zip

深度学习入门教程与实战项目_Python编程语言_神经网络基础理论_卷积神经网络CNN_循环神经网络RNN_自然语言处理NLP_计算机视觉CV_强化学习RL_深度学习框架Tenso.zip

Coursera吴恩达《深度学习》课程总结(全)

01 神经网络和深度学习(Neural Networks and Deep Learning) 1-1 深度学习概论 主要介绍:主要对深度学习进行了简要概述。首先,我们使用房价预测的例子来建立最简单的单个神经元组成的神经网络模型。然后,我们将例子复杂化,建立标准的神经网络模型结构。接着,我们从监督式学习入手,介绍了不同的神经网络类型,包括Standard NN,CNN和RNN。不同的神经网络模型适合处理不同类型的问题。对数据集本身来说,分为结构化数据和非结构化数据。近些年来,深度学习对非结构化数据的处理

csdn_xmj的博客 5万+

不用公网IP!用Ollama+Chatbox搭建家庭AI助手(内网穿透方案对比)

本文详细介绍了如何利用Ollama和Chatbox在家庭局域网中搭建本地AI助手,无需公网IP即可实现内网穿透。通过对比不同穿透方案(如Tailscale、FRP等),提供最优配置建议,帮助用户低成本部署隐私安全的家庭AI系统,适用于智能家居、儿童教育等多种场景。

weixin_26765287的博客 468

达梦数据库(DM)的备份与恢复功能

本文系统介绍了达梦数据库(DM)的备份与恢复功能,主要包括作业系统和物理/逻辑备份还原两大模块。作业系统部分详细说明了通过代理环境创建定时备份和删除备份作业的步骤;物理备份还原部分阐述了联机和脱机备份方式,包括数据库、表空间、表和归档的备份还原操作;逻辑备份还原部分介绍了dexp/dimp工具的使用方法及四种级别的导入导出功能。文章还介绍了图形化管理工具进行备份还原的操作流程,全面覆盖了达梦数据库的数据保护方案,为数据库管理员提供了详细的技术指导。

weixin_48812832的博客 1214

深度学习教程(1) | 深度学习概论(吴恩达·完整版)

本篇为深度学习系列教程的引言,以房价预测为例,讲解神经网络(Neural Network)模型结构和基础知识,并介绍针对监督学习的几类典型神经网络:Standard NN,CNN和RNN等知识

ShowMeAI研究中心 1万+

运维与软件实施课表

运维与软件实施课表 课程 章节编号 章节 课程地址 软件及操作系统基础 ch01 软件及操作系统基础01 实施、运维工程师基本技能:https://blog.youkuaiyun.com/qq_28189423/article/details/82700539 老毛桃制作winPE镜像:https://blog.youkuaiyun.com/qq_2818942...

Mr.O~的博客 1万+

吴恩达老师深度学习课程完整笔记

为了方便学习深度学习课程,转载一个吴恩达老师的一个深度学习笔记,转载的网站是下面这个 https://blog.youkuaiyun.com/red_stone1/article/details/80207815 从去年8月份开始,AI界大IP吴恩达在coursera上开设了由5们课组成的深度学习专项课程,掀起了一股人工智能深度学习热潮。这里附上deeplearning.ai的官网: deeplearnin...

Miracle8070 6万+

本地部署静态网站托管平台 Netlify 并实现外部访问(Windows 版本)

Netlify 是一款基于云计算的网站部署和托管平台,专为开发者提供便捷的静态网站和 Jamstack 应用部署服务。它的能力在于将网站构建、部署、托管以及持续集成等流程高度集成,简化了开发和运维的复杂程度。用户无需关心服务器的配置、维护等工作。本文将详细介绍如何在本地安装 Netlify 以及结合路由侠内网穿透实现外网访问 Netlify。

lyxnwct的博客 525

YOLOv11 损失函数进阶:SlideLoss 让小目标检测精度飙升

创建self.loss_fun = loss_fun # 基础损失函数(如BCEWithLogitsLoss)self.loss_coef = loss_coef # 损失系数# 计算滑动权重:根据预测与真实值的差异判断样本难度# 难度越高,权重越大该类在原有损失函数的基础上,通过diff计算样本预测与真实值的差异(差异越大,样本越难),进而生成动态权重,实现对难样本的重点学习。

m0_64661770的博客 233

1-2 Coursera吴恩达《神经网络与深度学习》第二周课程笔记-神经网络基础

记录吴恩达深度学习专项课程笔记,方便之后回顾,共5门课,这是第一门课《神经网络与深度学习》第二周神经网络基础的课程笔记,那我们开始吧。 课程1-1神经网络基础的内容比较简单,主要对深度学习进行了简要概述。首先,我们使用房价预测的例子来建立最简单的单个神经元组成的神经网络模型。然后,我们将例子复杂化,建立标准的神经网络模型结构。接着,我们从监督式学习入手,介绍了不同的神经网络类型,包括Standard NN,CNN和RNN。不同的神经网络模型适合处理不同类型的问题。对数据集本身来说,分为Structured

csdn_xmj的博客 1万+

【AI黑话日日新】什么是AI Infra?

是支撑AI模型开发、训练、推理、部署与规模化运营的,是连接底层算力与上层AI应用的“数字基建”。没有高效的AI Infra,大模型训练、推理与落地都无法高效实现。

专注:太空算力、AI infra、异构调度、大模型成本工程 1118

吴恩达《深度学习》笔记汇总

第一门课:神经网络和深度学习(第一周)——深度学习引言 第一门课:神经网络和深度学习(第二周)——神经网络的编程基础 第一门课:神经网络和深度学习(第三周)——浅层神经网络 第一门课:神经网络和深度学习(第四周)——深层神经网络 第二门课:改善深层神经网络:超参数调试、正则化以及优化(第一周)——深度学习的实用层面 第二门课:改善深层神经网络:超参数调试、正则化以及优化(第二周)——优化算法 第二门课:改善深层神经网络:超参数调试、正则化以及优化(第三周)——超参数调试、Batch正则化和程序框架 ....

Taurus 1万+

20 Embedding 与向量检索:语义为什么能变成距离

Embedding 是 RAG 语义检索的数学基础。本文用工程视角讲清文本如何变成向量,为什么语义相近会表现为距离相近,Top-K 检索如何工作,以及在模型选择、同模型约束、精确匹配和召回评估上的常见坑。

老于的笔记的专栏 6204

【YOLOv11】087、YOLOv11多任务学习:检测、分割、分类联合学习

摘要: 工业质检场景中,多任务模型(检测、分类、分割)的需求日益增长。针对边缘设备部署的挑战,本文提出基于YOLOv11的多任务学习方案。通过共享主干网络和设计分支头(检测、分割、分类),实现高效推理;采用动态权重平衡策略解决多任务损失不平衡问题;并优化数据流处理(支持部分标注)和推理剪裁(按需启用分支)。实验表明,该方法在Jetson Orin上帧率提升3倍,内存占用减少40%,为工业质检提供了轻量高效的解决方案。

企鹅码农的专属播客,分享10多年的实战案例和经验解读,包含YOLO、RT-DETR、AI等各个工作领域。 449

吴恩达-《深度学习DeepLearning》汇总目录

从2019年2月底开始学习《数据结构与算法之美》,王争老师的课程非常好,到2019年8月底已经学完一遍,后面还要多次复习巩固以及OJ刷题。生命不息,学习不止,又要开始新的篇章了–《机器学习》,有点小兴奋,哈哈,之前Python已经大致过了2遍(小甲鱼的视频&从入门到实践),现在要补NumPy、复习高等数学、然后开始吴恩达老师的课程。此篇文章作为学习的汇总目录,供大家参考,一起学习,共同进步...

Michael是个半路程序员 8682

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

深度学习教程 | 吴恩达专项课程 · 全套笔记解读

本篇内容是组织的「深度学习原理知识大全」系列教程入口,教程依托吴恩达老师《深度学习专项课程》,对内容做了重新梳理与制作,以更全面和直观的图文方式,对深度学习涉及的知识、模型、原理、应用领域等进行详解......

ShowMeAI研究中心 1万+

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

深度学习之卷积神经网络0基础入门学习教程——浅层深度学习(全网最详细,不详细你打我)(看不懂你打我)(对小白没用你打我)

教小白如何快速入门深度学习,快速跑通代码写论文!

爱吃橘子的小翟 4044

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

吴恩达神经网络和深度学习

本文章系列是神经网络和深度学习的笔记,将从基础入门,介绍相关概念,然后一步步搭建起小型的神经网络。我使用的是吴恩达的学习课程,特别感谢吴恩达同志的对ai领域做出的贡献。 视频链接地址为:https://mooc.study.163.com/university/deeplearning_ai#/c 需要完整笔记课件等资料请联系邮箱:shaneholmes@qq.com 关于我的GitHub 以下是...

ShaneHolmes 1835
上一篇: 深度学习教程(1) | 深度学习概论(吴恩达·完整版)
下一篇: 深度学习教程(3) | 浅层神经网络(吴恩达·完整版)
ShowMeAI
博客等级 码龄5年 6514粉丝 672原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ShowMeAI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值