深度学习 Day1——T1实现mnist手写数字识别

飞桨day-01手写数字识别实践(使用卷积神经网络) day-01高层API手写数字识别实践(使用卷积神经网络) AI Studio项目地址:https://aistudio.baidu.com/aistudio/projectdetail/1504778 一、导入相关库 import paddle import numpy as np import matplotlib.pyplot as plt paddle.__version__ # 查看paddle版本 二、数据准备 1、数据加载和预处理 import paddle.vision.transf 阅读详情


前言

本文使用的是最简单的CNN模型- -LeNet-5,采用Tenserflow框架完成mnist手写数字识别。简单讲述实现代码与执行结果,并浅谈涉及知识点,涉及知识点包括。
关键字:MNIST手写数字数据集介绍,神经网络程序调用顺序,CNN网络模型结构,CNN网络–卷积层,池化层,全连接层,激活函数,以及预测结果为何出现负数

一、我的环境

  • 电脑系统:Windows 11
  • 语言环境:python 3.8.6
  • 编译器:pycharm
  • 深度学习环境:TensorFlow 2.10.1

二、代码实现与执行结果

1.引入库

import tensorflow as tf
from tensorflow.keras import datasets, layers, models
import matplotlib.pyplot as plt
import matplotlib
matplotlib.rc("font", family='DengXian')  # 设置图片中的中文字体
import numpy as np
import warnings
warnings.filterwarnings('ignore')  # 忽略一些warning内容,无需打印

2.设置GPU(如果使用的是CPU可以忽略这步)

'''前期工作-设置GPU(如果使用的是CPU可以忽略这步)'''
gpus = tf.config.list_physical_devices("GPU")
if gpus:
    gpu0 = gpus[0]  # 如果有多个GPU,仅使用第0个GPU
    tf.config.experimental.set_memory_growth(gpu0, True)  # 设置GPU显存用量按需使用
    tf.config.set_visible_devices([gpu0], "GPU")

本人电脑无独显,故该步骤被注释,未执行。

3.导入数据

'''前期工作-导入数据'''
# 导入mnist数据,依次分别为训练集图片、训练集标签、测试集图片、测试集标签
(train_images, train_labels), (test_images, test_labels) = datasets.mnist.load_data()

4.数据归一化

'''前期工作-数据归一化'''
# 将像素的值标准化至0到1的区间内。(对于灰度图片来说,每个像素最大值是255,每个像素最小值是0,也就是直接除以255就可以完成归一化。)
train_images, test_images = train_images / 255.0, test_images / 255.0
# 查看数据维数信息
print(train_images.shape, test_images.shape, train_labels.shape, test_labels.shape)
"""
输出:((60000, 28, 28), (10000, 28, 28), (60000,), (10000,))
"""

5.可视化图片

'''前期工作-可视化图片'''
# 将数据集前20个图片数据可视化显示
# 进行图像大小为20宽、10长的绘图(单位为英寸inch)
plt.figure(figsize=(20, 10))
# 遍历MNIST数据集下标数值0~49
for i in range(20):
    # 将整个figure分成4行5列,绘制第i+1个子图。
    plt.subplot(4, 5, i + 1)
    # 设置不显示x轴刻度
    plt.xticks([])
    # 设置不显示y轴刻度
    plt.yticks([])
    # 设置不显示子图网格线
    plt.grid(False)
    # 图像展示,cmap为颜色图谱,"plt.cm.binary"为matplotlib.cm中的色表
    plt.imshow(train_images[i], cmap=plt.cm.binary)
    # 设置x轴标签显示为图片对应的数字
    plt.xlabel(train_labels[i])
# 显示图片
plt.show()

显示训练集数据前20个,显示结果如下:

6.调整图片格式

'''前期工作-调整图片格式'''
# 调整数据到我们需要的格式
train_images = train_images.reshape((60000, 28, 28, 1))
test_images = test_images.reshape((10000, 28, 28, 1))
print(train_images.shape, test_images.shape, train_labels.shape, test_labels.shape)
"""
输出:((60000, 28, 28, 1), (10000, 28, 28, 1), (60000,), (10000,))
"""

7.构建CNN网络模型

'''构建CNN网络模型'''
# 创建并设置卷积神经网络
# 卷积层:通过卷积操作对输入图像进行降维和特征抽取
# 池化层:是一种非线性形式的下采样。主要用于特征降维,压缩数据和参数的数量,减小过拟合,同时提高模型的鲁棒性。
# 全连接层:在经过几个卷积和池化层之后,神经网络中的高级推理通过全连接层来完成。
model = models.Sequential([
    # 设置二维卷积层1,设置32个3*3卷积核,activation参数将激活函数设置为ReLu函数,input_shape参数将图层的输入形状设置为(28, 28, 1)
    # ReLu函数作为激活励函数可以增强判定函数和整个神经网络的非线性特性,而本身并不会改变卷积层
    # 相比其它函数来说,ReLU函数更受青睐,这是因为它可以将神经网络的训练速度提升数倍,而并不会对模型的泛化准确度造成显著影响。
    layers.Conv2D(32, (3, 3), activation='relu', input_shape=(28, 28, 1)),
    # 池化层1,2*2采样
    layers.MaxPooling2D((2, 2)),
    # 设置二维卷积层2,设置64个3*3卷积核,activation参数将激活函数设置为ReLu函数
    layers.Conv2D(64, (3, 3), activation='relu'),
    # 池化层2,2*2采样
    layers.MaxPooling2D((2, 2)),

    layers.Flatten(),  # Flatten层,连接卷积层与全连接层
    layers.Dense(64, activation='relu'),  # 全连接层,特征进一步提取,64为输出空间的维数,activation参数将激活函数设置为ReLu函数
    layers.Dense(10)  # 输出层,输出预期结果,10为输出空间的维数
])
# 打印网络结构
model.summary()

网络结构结果如下:

8.编译模型

'''编译模型'''
"""
这里设置优化器、损失函数以及metrics
"""
# model.compile()方法用于在配置训练方法时,告知训练时用的优化器、损失函数和准确率评测标准
model.compile(
    # 设置优化器为Adam优化器
    optimizer='adam',
    # 设置损失函数为交叉熵损失函数(tf.keras.losses.SparseCategoricalCrossentropy())
    # from_logits为True时,会将y_pred转化为概率(用softmax),否则不进行转换,通常情况下用True结果更稳定
    loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
    # 设置性能指标列表,将在模型训练时监控列表中的指标
    metrics=['accuracy'])

9.训练模型

'''训练模型'''
"""
这里设置输入训练数据集(图片及标签)、验证数据集(图片及标签)以及迭代次数epochs
关于model.fit()函数的具体介绍可参考博客:
https://blog.youkuaiyun.com/qq_38251616/category_10258234.html
"""
history = model.fit(
    # 输入训练集图片
    train_images,
    # 输入训练集标签
    train_labels,
    # 设置10个epoch,每一个epoch都将会把所有的数据输入模型完成一次训练。
    epochs=10,
    # 设置验证集
    validation_data=(test_images, test_labels))

训练记录如下:
在这里插入图片描述## 10.预测

'''预测'''
plt.imshow(test_images[0])
# 需要加上这句话,否则不显示图片
plt.show()
pre = model.predict(test_images)  # 对所有测试图片进行预测
print(pre[0])  # 输出第一张图片的预测结果

测试集第一张图片如下:

该图的预测结果如下:
在这里插入图片描述

当修改以下两处代码后预测结果:
输出层:layers.Dense(10, activation=‘softmax’)
损失函数:loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),
在这里插入图片描述

10.显示预测结果图

# 显示预测结果,n为4的倍数
def show_pic(n):
    plt.suptitle("MNIST测试集预测结果", fontsize=20, color="red")
    for i in range(n):
        # num = np.random.randint(1, 10000)
        plt.subplot(4, int(n / 4), i + 1)
        plt.axis("off")
        plt.imshow(test_images[i], cmap="gray")
        plt.title("标签值:" + str(np.argmax(pre[i])), fontsize=14)
    plt.tight_layout(rect=[0, 0, 1, 0.9])
    plt.show()
plt.figure(1)
show_pic(20)
plt.figure(2)
matplotlib.rc("font", family='KaiTi')  # 更改中文字体
show_pic(28)

以下为两次不同字体画图效果

三、知识点详解

1.MNIST手写数字数据集介绍

MNIST手写数字数据集来源于是美国国家标准与技术研究所,是著名的公开数据集之一。数据集中的数字图片是由250个不同职业的人纯手写绘制,数据集获取的网址为:http://yann.lecun.com/exdb/mnist/(下载后需解压)。我们一般会采用(train_images, train_labels), (test_images, test_labels) = datasets.mnist.load_data()这行代码直接调用,这样就比较简单MNIST手写数字数据集中包含了70000张图片,其中60000张为训练数据,10000为测试数据,70000张图片均是2828,如果我们把每一张图片中的像素转换为向量,则得到长度为2828=784的向量。因此我们可以把训练集看成是一个[60000,784]的张量,第一个维度表示图片的索引,第二个维度表示每张图片中的像素点。而图片里的每个像素点的值介于0-1之间。

2.神经网络程序调用顺序

  1. 选择模型
  2. 构建网络模型
  3. 编译
  4. 训练
  5. 预测

3.CNN网络模型结构

本文网络模型按一下方式构建:在这里插入图片描述
在这里插入图片描述
各层的作用

● 输入层:用于将数据输入到训练网络
● 卷积层:使用卷积核提取图片特征
● 池化层:进行下采样,用更高层的抽象表示图像特征
● Flatten层:将多维的输入一维化,常用在卷积层到全连接层的过渡
● 全连接层:起到“特征提取器”的作用
● 输出层:输出结果

4.CNN网络–卷积层

我们以灰度图像为例进行讲解:让一个权重矩阵即卷积核(kernel)逐步在二维输入数据上“扫描”。卷积核“滑动”的同时,计算权重矩阵和扫描所得的数据矩阵的乘积,然后把结果汇总成一个输出像素。使用3x3卷积核,在未使用padding的情况下,卷积之后的图像尺寸为(width-2)*(height-2)。
在这里插入图片描述
【卷积的计算公式】

输入图片的尺寸:一般用nn表示输入的image大小。
卷积核的大小:一般用f
f表示卷积核的大小。
填充(Padding):一般用p来表示填充大小。
步长(Stride):一般用s来表示步长大小。
输出图片的尺寸:一般用o来表示。

如果已知 n,f,p,s,可以求得o
计算公式如下:
o = ⌊ n + 2 p − f s ⌋ + 1 o=\lfloor\frac{n+2p-f}{s} \quad \rfloor+1 o=⌊sn+2p−f​⌋+1
其中" ⌊ ⌋ \lfloor \rfloor ⌊⌋"是向下取整符号,用于结果不是整数时进行向下取整。

5.CNN网络–池化层

池化过程在一般卷积过程后。池化(pooling) 的本质,其实就是采样。Pooling 对于输入的 Feature Map,选择某种方式对其进行降维压缩,以加快运算速度。采用较多的一种池化过程叫最大池化(Max Pooling),其具体操作过程如下:
在这里插入图片描述
池化过程类似于卷积过程,如上图所示,表示的就是对一个 44 feature map邻域内的值,用一个 22 的filter,步长为2进行‘扫描’,选择最大值输出到下一层,这叫做 Max Pooling。
max pooling常用的 s=2,f=2的效果:特征图高度、宽度减半,通道数不变。

6.CNN网络–全连接层

全连接层就是将最后一层卷积得到的特征图(矩阵)展开成一维向量,并为分类器提供输入。
在这里插入图片描述
以上图为例输入一个 2828 的灰度图像,经过卷积层输出20个2424 的图像,再经过池化层输出201212的图像,然后通过了一个全连接层用一个12x12x20x100的卷积层去卷积激活函数的输出,最终得到1*100 的向量。 全连接层将学到的特征表示映射到样本的标记空间的作用。就是把特征整合到一起(高度提纯特征),方便交给最后的分类器或者回归。
全连接层中一层的一个神经元就可以看成一个多项式,我们用许多神经元去拟合数据分布,但是只用一层fully connected layer 有时候没法解决非线性问题,而如果有两层或以上fully connected layer就可以很好地解决非线性问题了。

全连接层对模型影响参数有三个:全接解层的总层数(长度)、单个全连接层的神经元数(宽度)、激活函数
激活函数的作用是增加模型的非线性表达能力
如果全连接层宽度不变,增加长度:
优点:神经元个数增加,模型复杂度提升;全连接层数加深,模型非线性表达能力提高。理论上都可以提高模型的学习能力。
如果全连接层长度不变,增加宽度:
优点:神经元个数增加,模型复杂度提升。理论上可以提高模型的学习能力。

长度和宽度增加并不是越多越好
(1)缺点:学习能力太好容易造成过拟合。
(2)缺点:运算时间增加,效率变低。

那么怎么判断模型学习能力如何?

看Training Curve 以及 Validation Curve,在其他条件理想的情况下,如果Training Accuracy 高, Validation Accuracy 低,也就是过拟合 了,可以尝试去减少层数或者参数。如果Training Accuracy 低,说明模型学的不好,可以尝试增加参数或者层数。

7.CNN网络–激活函数

在神经元中,输入(inputs )通过加权,求和后,还被作用在一个函数上,这个函数就是激活函数。激活函数给神经元引入了非线性因素,使得神经网络可以任意逼近任何非线性函数,这样神经网络就可以应用到众多的非线性模型中。输出层可能会使用线性激活函数,但在隐含层都使用非线性激活函数。
各种激活函数层数不穷,各有优缺点,sigmoid 只会输出正数,以及靠近0的输出变化率最大,tanh和sigmoid不同的是,tanh输出可以是负数,ReLu是输入只能大于0,如果你输入含有负数,ReLu就不适合,如果你的输入是图片格式,ReLu就挺常用的。
在这里插入图片描述
激活函数可以提高模型鲁棒性,非线性表达能力,缓解梯度消失问题,将特征图映射到新的特征空间从而更有利于训练,加速模型收敛等问题都有很好的帮助。

8.CNN网络–预测结果为何出现负数

在 Keras 的二元交叉熵损失函数(tf.keras.losses.BinaryCrossentropy,下面简称为 bce)中,有 from_logits 这个参数。在使用时需要分下面 2 种情况:

  • 如果输入给 bce 的是一个 logit 值(值域范围 [-∞, +∞] ),则应该设置 from_logits=True 。
  • 如果输入给 bce 的是一个概率值 probability (值域范围 [0, 1] ),则应该设置为 from_logits=False 。

如果你的输出层有一个’softmax’激活,from_logits应该是False。如果你的输出层没有’softmax’激活from_logits应该是True。
如果 from_logits=False (即输出层是带softmax激活函数的),那么其结果会被clip在 [epsilon_, 1 - epsilon_] 的范围之内。这是由于简单的softmax函数会有数值溢出的问题。因此如果是先计算softmax再计算cross-entropy,那么要通过clip防止数据溢出问题。而如果设置 from_logits=True,那么模型会将 softmax和cross-entropy 结合在一起计算,这样可以更好的解决softmax的溢出问题。
因此 设置 from_logits=True 一般会比 from_logits=False 数值稳定性更强。(如果计算过程中没用遇到过大或过小的数值,那么两者就没有什么区别)


总结

通过本次的学习,能通过tenserflow框架创建cnn网络模型预测手写数字,并了解了cnn网络各层的作用与相关原理。

参考链接

tf.keras 搭建神经网络六部法https://blog.youkuaiyun.com/xy3233/article/details/122481409
激活函数https://zhuanlan.zhihu.com/p/32824193
激活函数https://zhuanlan.zhihu.com/p/71882757
卷积https://zhuanlan.zhihu.com/p/77471866
池化https://zhuanlan.zhihu.com/p/78760534
全连接层https://zhuanlan.zhihu.com/p/78760688
全连接层https://zhuanlan.zhihu.com/p/33841176
全连接层https://blog.youkuaiyun.com/weixin_43935696/article/details/112212926
预测概率出现负数原因参考链接
https://news.sangniao.com/p/1657299162
https://blog.youkuaiyun.com/muyuu/article/details/122762442
https://blog.youkuaiyun.com/drin201312/article/details/123247057
https://www.zhihu.com/question/60751553

零基础100天CNN实战计划:用Python从入门到图像识别高手 摘要: 本文提供了一份100天CNN系统学习计划,从Python基础到CNN高级应用。计划分为5个阶段:神经网络基础(Day6-20)、CNN核心概念(Day21-40)、实战进阶(Day41-80)、优化部署(Day81-95)和毕业项目(Day96-100)。包含5个完整案例(如医学影像分割、口罩检测)、代码示例和常见问题解决方案,强调"代码优先"学习原则。建议每天1-2小时学习,配合Kaggle竞赛等实战资源,85%坚持完成者成功转型AI工程师。关键工具推荐TensorFlow、T 阅读详情

相关推荐

机器学习实战书单:9本通过代码验证的工程师工具书

机器学习不是纯数学推演,也不是API调用堆砌,而是理论、代码与工程落地的三角闭环。理解梯度下降的链式法则如何映射到autograd,掌握PyTorch DataLoader的num_workers参数为何设为CPU核心数减一,是工程师突破‘知道但不会改bug’瓶颈的关键。这类能力依赖于具备数学可验证性、代码即时可运行、项目真实可部署的高质量学习资源。本文聚焦2022年实测筛选出的9本高时效性、强实践性的ML书籍,覆盖从线性回归脚本速启、模型可解释性交付,到大模型底层逻辑迁移等典型技术路径,特别适配在职工程师

weixin_30415113的博客 403

Week T1:MNIST手写数字识别(CNN)

🍨 本文为🔗365天深度学习训练营内部限免文章(版权归K同学啊所有)🔗深度学习100例-卷积神经网络(CNN)实现mnist手写数字识别 | 第1天K同学啊 | 接辅导、项目定制K同学的学习圈子。

qq_40724911的博客 472

【滚雪球学数学建模】第17.1节· 数据可视化与表达(图表制作(Excel / Python)+ 案例)

🎓 本文收录于 《滚雪球学数学建模》专栏,本专栏专注于从零基础出发,带你循序渐进掌握数学建模的核心方法与思维路径。通过“滚雪球式”学习法,从最简单的生活化案例到经典建模工具,再到省赛、国赛真题实战演练,逐步积累知识与技能,帮助你搭建完整的建模体系。无论你是刚接触建模的新生,还是希望提升科研与竞赛能力的学者与工程师,本专栏都将为你提供一条清晰、高效、可实操的建模成长路线,助力你快速进阶,突破难点,迈向数学建模竞赛与实际应用的更高峰 🚀!

**My Coding Family** 1499

深度学习七日打卡营-Day(01)基础知识介绍

写在前面:参加paddlepaddle深度学习七日打卡营是在20年的寒假,当时作为大二的我听的一头雾水,后来才发现,深度学习真的是计算机专业的必备技能啊!!!回来恶补一下 附课程链接:深度学习七日打卡营 深度学习七日打卡营第一天1.深度学习介绍1.1课程简介1.2 实践必备1.3浅话深度学习1.4 神经网络二、深度学习万能公式三、使用paddle进行手写数字识别1.引入相关库2.数据准备及预处理2.1查看数据集3.模型选择和开发3.1 优化器的配置4 模型评估测试4.1 模型评估4.2 模型预测4.3 ba

qq_48345413的博客 647

高通QNN SDK实战:从PyTorch模型到Snapdragon设备的完整部署指南

本文提供了一份详尽的高通QNN SDK实战指南,手把手教你如何将PyTorch模型高效部署到Snapdragon设备。内容涵盖从环境搭建、模型转换、量化优化到多后端部署与性能评测的完整流程,旨在帮助移动AI开发者打通模型落地的“最后一公里”,充分发挥高通平台的硬件加速潜力。

pz8901234的博客 1284

5g LDPC编译码-LDPC编码

本文摘要:LDPC编码是5G业务信道的核心编码技术,属于线性分组码。5G中LDPC编码分为两种基图类型(BG1和BG2),通过码块分割、CRC处理等步骤实现。编码过程主要涉及校验矩阵生成和校验位计算,其中校验矩阵采用稀疏矩阵结构。文中详细介绍了5G LDPC编码的具体实现流程,包括码块分割规则、校验位生成方法,以及两种基图(BG1和BG2)在矩阵结构和参数设置上的差异,重点阐述了通过模块化方法求解校验比特位的技术路径。

weixin_38270585的博客 1368

5.15 day21

知识点回顾:LDA线性判别PCA主成分分析t-sne降维自由作业:探索下什么时候用到降维?降维的主要应用?或者让ai给你出题,群里的同学互相学习下。可以考虑对比下在某些特定数据集上t-sne的可视化和pca可视化的区别。

qq_65584449的博客 744

setoolkit克隆网站获取用户信息

一、环境 kali、DVWA 二、步骤 首先打开kali,输入setoolkit 依次选择选项1-选项2-选项3-选项2 输入钓鱼网站的网址(默认为本地网址) 输入要克隆的网址URL 这里我的网址如图,将网址复制 然后模拟攻击场景,攻击者向受害者发送了一条钓鱼链接,此链接与DVWA的登陆页面完全一样,受害者点击之后并进行登陆信息 点击login之后,用户信息就被setool...

BeatRex的博客 2998

深度学习与图像识别:原理与实践 笔记Day_11

基于数值微分的反向传播 在本节中,我们尝试使用基于数值微分的方式实现手写数字的识别,并且是使用mini_batch来提升计算性能,使用的优化方法是随机梯度下降法,随机是指:“随机选择数据源中的小批次”的意思,随机梯度下降的英文名SGD。 第一步、激活函数的定义。主要是使用softmax和Relu,代码如下: ...

qq786558544的博客 278

一起学习Avalonia(十三)

Avalonia 前面已经简单介绍了一下相关开发,有一个系统的了解。 到今天Avalonia已经基本成熟,但是扩展支持的还是不可能达到大企业的,我估计这也不可能。考虑了下,微软的MAUI框架可能会普及性更高,Avalonia也是我无意间知道的。 微软毕竟是会宣讲的全球。并且微软全球研发投入很大,全部专职开发,这种速度当然大。但是MAUI根据计划,可能还要很长时间,而且是社区支持Linux,估计时间更久。这不能适应现在的国产化开发。 预计一段时间还是需要Avalonia作为优先。当前Avalonia使

jinyuttt的专栏 4089

SAP VF01开票报错:出口贸易数据不完整

找了半天资料,最后发现是没有维护凭证抬头的数据;由于我不是SD模块顾问,整体流程使用的是原本环境里面的数据,用新建工厂引用,所以也不知道为啥会出发这个贸易业务。正常传到FICO模块,生成会计凭证、获利分析、利润中心及CO凭证。需要维护这三个字段后才能正常转到FI生成会计凭证。VF01开票报错:出口贸易数据不完整。

MaiKouBei的博客 1546

day06||深度学习(李沐动手学深度学习)

两个卷积层+有两个隐藏层的多层感知机。

m0_67567149的博客 289

Flocking for Multi-Agent Dynamic Systems: Algorithms and Theory的理论简述和python仿真实现(附源码)

经典论文Flocking for Multi-Agent Dynamic Systems: Algorithms and Theory的学习与编程仿真,提供源码

m0_59701926的博客 1239

《深度学习21天实战caffe》第6天 学习笔记

这一节的学习主要是通过手写体数字识别例程来熟悉caffe的基本使用。首先下载MNIST数据集$ cd data/mnist $ ./get_mnist.sh下载到四个文件 训练集(图片)train-images-idx3-ubyte 训练集(标签)train-labels-idx1-ubyte 测试集(图片)t10k-images-idx3-ubyte 测试集(标签)t10k-labels-

zt_1995的专栏 2419

大模型量化方法总结

本文主要对大模型量化方法进行了总结,希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 模型精度 3. 量化方法 3.1 方法一 3.2 方法二 3.3 方法三

herosunly的博客 1万+

汽车UDS诊断详解及Vector相关工具链使用说明——1.1 应用层协议整体介绍

本文我们先从整体的维度来介绍一下应用层协议,每个UDS服务都遵循本文中的协议。 一、SI(Service ID) SI是UDS指令的第一个字节,我们第一篇文章中提到的10等服务就是指这个服务的SI=0x10,它是服务的标识,每个服务的SI都是唯一的。 ...

weixin_42967006的博客 5476

Day 24 常见的降维算法

特征间高度相关(多重共线性),即许多特征本质上表达相似信息,模型训练不稳定,如经济学中GDP、消费、投资等变量强相关,用PCA提取“经济活动强度”主成分;常见的降维算法(Dimensionality Reduction Algorithms)主要用于在保留数据主要特征的同时,减少特征维度,从而降低计算复杂度、缓解“维度灾难”、提高模型泛化能力。二、非线性降维方法:t-SNE(t分布随机领域嵌入)、LLE(局部线性嵌入)、MDS(多维尺度分析)等。一、线性降维方法:主成分分析、因子分析、线性判别分析。

m0_60110547的博客 375

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

动手学习深度学习_Day03

本文主要内容是Softmax线性回归以及多层感知机相关内容。

ITisit1的博客 976

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

零基础深度学习35天实战路线图:从手算矩阵到PyTorch部署

深度学习并非高不可攀的黑箱,而是数学建模、数值计算与系统工程的有机融合。理解梯度下降如何映射为optimizer.step()、矩阵乘法如何对应张量操作,是突破入门瓶颈的关键。本文以PyTorch为核心框架,围绕神经网络训练全流程,系统拆解从标量求导、NumPy手算梯度,到自动微分、CNN构建、ONNX导出及Flask服务部署的技术链条。强调数学直觉(如交叉熵的惩罚机制、卷积的边缘检测本质)与工程实践(显存监控、NaN排查、DataLoader调优)的双重落地,覆盖零基础学员最常卡点:环境配置、维度匹配、G

weixin_34186128的博客 458

TensorFlow+深度学习笔记2

TensorFlow+深度学习笔记2 标签(空格分隔):TensorFlow+深度学习笔记 本周掌握的知识: 深度学习基本概念理解:Linear regression、Logistic regression、Softmax。并使用python完成对应代码实现; 在课件的指导下,参考示例实现了Deep CNN, 最终的识别率达到99.35%; 了解了LeNet,参考《Tensorfl...

Pan_Chengyuan的博客 718

DAY21常见的降维算法

作业:自由作业:探索下什么时候用到降维?降维的主要应用?或者让ai给你出题,群里的同学互相学习下。可以考虑对比下在某些特定数据集上t-sne的可视化和pca可视化的区别。特征数量远大于样本数量(如基因数据、文本数据、图像数据),导致计算效率低、存储需求高。维度灾难(Curse of Dimensionality):高维数据中样本稀疏,距离计算失效(如KNN、K-Means表现变差)。示例:图像分类(如MNIST 784维 → PCA降至50维)。自然语言处理(词向量1000维 → 降维至100维)。多个特征

qq_43749630的博客 855

AI零基础入门路线:Python到PyTorch,覆盖机器学习与计算机视觉

人工智能学习往往始于一个困惑:Python、机器学习、深度学习、神经网络、PyTorch这些概念之间究竟是什么关系?实际上,Python是数据处理与模型实现的基础语言,机器学习是通过数据学习规律的算法体系,深度学习则利用多层神经网络自动提取特征,而PyTorch作为动态计算图框架,为模型训练提供了高效工具。理解从数据预处理、模型构建到反向传播优化的完整链路,是入门AI的核心。这些技术已广泛应用于图像分类、目标检测、文本情感分析等真实场景。对于零基础学习者,不必追求一次精通,关键是先跑通环境、完成一个小型项目

weixin_34258838的博客 324

PyTorch张量操作与自动微分实战指南

深度学习框架中的张量(Tensor)是构建神经网络的基础数据结构,其高效操作直接影响模型性能。PyTorch通过动态计算图实现自动微分,这种机制允许开发者像编写普通Python代码一样构建和调试模型。从内存预分配策略到广播机制的应用,合理的张量操作能显著提升GPU利用率并避免显存碎片化。在模型训练过程中,autograd模块的梯度管理(如梯度清零、梯度裁剪)对保证收敛稳定性至关重要。这些技术在手写数字识别等计算机视觉任务中具有广泛应用,结合混合精度训练等优化手段,可以进一步提升训练效率。通过理解PyTorc

weixin_34072458的博客 294

ONNX_day3

本文是 ONNX 部署学习路线 Step 6 的完整指南,聚焦「如何把同一个 ONNX 模型真正部署到没有完整 Linux/CPU 环境的 Embedded MCU,或带 AI NPU 的 SoC 上」。内容涵盖两条核心路线(MCU 与 NPU SoC)、ONNX 不能直接放进 STM32 的原因、MCU 的真正工作方式、4 类主流部署方案、NPU 硬件选型建议,以及 NPU 最重要的概念——Compiler 与 Graph Partitioning,最后说明 ONNX Runtime 在 NPU 体系中的

cxicc的专栏 198

CNTK 配置文件完全指南:语法、参数体系与源码级实现原理

本文围绕 Microsoft Cognitive Toolkit (CNTK) 的配置文件系统展开,完整讲解配置数据的三种类型(简单值、数组、参数集)、层次化参数搜索机制、注释与重复值处理规则,并以一个 MNIST DNN 训练示例串起 `command`、`precision`、`deviceId`、SGD 训练器、NDL 网络构建器与数据读取器的全部配置细节。读完本文,你将掌握如何编写、复用、

gitblog_00202的博客 501

常用ai模型和一些术语的科普

本文是easyai.tech的阅读笔记。

weixin_42100211的博客 1134
上一篇: 深度学习——学习之前需要的工作准备
下一篇: 深度学习 Day2——T2彩色图片分类
LittleRuby
博客等级 码龄7年 465粉丝 38原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值