【深度学习图像识别课程】keras实现CNN系列:(4)MLP/CNN实现CIFAR-10图像分类

【深度学习】CIFAR10图像分类 使用PyTorch分别实现多层感知机(MLP)和卷积网络(ConvNet),并完成CIFAR10数据集(http://www.cs.toronto.edu/~kriz/cifar.html)分类。本案例不提供初始代码,请自行配置网络和选取超参数,包括层数、卷积核数目、激活函数类型、损失函数类型、优化器等方面。提交所有代码和一份案例报告,要求如下:l详细介绍所使用的模型及其结果,至少包括超参数选取,损失函数、准确率及其曲线; 阅读详情

 

一、卷积层、池化层的一般设置

1、卷积层

滤波器数量逐渐增加,kernel_size范围2*2~5*5,一般设置为2*2,strides设置为1, padding='same',并在最后添加Relu激活。如果对于第一层,还要增加input_shape。

深度从输入层的3,变成16,再到32,再到64,维度越来越大。深度要更深,于是我们考虑减少宽度、高度。

from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D, Flatten, Dense

model = Sequential()
model.add(Conv2D(filters=16, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(Conv2D(filters=32, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(Conv2D(filters=64, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))

model.summary()

 

2、池化层

这时,池化层上场。一般设置pool_size=2, stride=2,这样正好pool输出的宽和高都是输入的一半。

from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D

model = Sequential()
model.add(Conv2D(filters=16, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(MaxPooling2D(pool_size=2))
model.add(Conv2D(filters=32, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(MaxPooling2D(pool_size=2))
model.add(Conv2D(filters=64, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(MaxPooling2D(pool_size=2))

model.summary()

 

3、扁平,全连接层概率判断

当信息不再具有空间关系,而是变成不同属性,则可以进行扁平,并通过全连接层进行概率预测。

from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D, Flatten, Dense

model = Sequential()
model.add(Conv2D(filters=16, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(MaxPooling2D(pool_size=2))
model.add(Conv2D(filters=32, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(MaxPooling2D(pool_size=2))
model.add(Conv2D(filters=64, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(MaxPooling2D(pool_size=2))
model.add(Flatten())
model.add(Dense(500, activation='relu'))
model.add(Dense(10, activation='softmax'))

model.summary()

 

二、CIFAR-10图像库介绍

  CIFAR10数据集包含有5万张32*32的训练彩色图,共标记了超过10个分类;还有1万张测试图片。

 

三、MLP实现CIFAR10图像库分类

1 加载CIFAR10数据库

import keras
from keras.datasets import cifar10
(x_train, y_train),(x_test, y_test) = cifar10.load_data()
print(x_train.shape)
print(x_test.shape)

2 可视化前36幅图像

import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline

fig = plt.figure(figsize=(20,5))
for i in range(36):
    ax = fig.add_subplot(3, 12, i + 1, xticks=[], yticks=[])
    ax.imshow(np.squeeze(x_train[i]))

3 归一化

x_train = x_train.astype('float32')/255
x_test = x_test.astype('float32')/255

4 切分训练集、验证集、测试集

from keras.utils import np_utils
num_classes = len(np.unique(y_train))
y_train = keras.utils.to_categorical(y_train, num_classes)
y_test = keras.utils.to_categorical(y_test, num_classes)

(x_train, x_valid) = x_train[5000:], x_train[:5000]
(y_train, y_valid) = y_train[5000:], y_train[:5000]

print('x_train shape:', x_train.shape)

print(x_train.shape[0], 'train examples')
print(x_valid.shape[0], 'valid examples')
print(x_test.shape[0], 'test examples')

5 定义模型

from keras.models import Sequential
from keras.layers import Dense, Dropout, Flatten

model = Sequential()
model.add(Flatten(input_shape = x_train.shape[1:]))
model.add(Dense(1000, activation='relu'))
model.add(Dropout(0.2))
model.add(Dense(512, activation='relu'))
model.add(Dropout(0.2))
model.add(Dense(num_classes, activation='softmax'))

model.summary()

6 编译模型

model.compile(loss='categorical_crossentropy', optimizer='rmsprop', metrics=['accuracy'])

7 训练模型

from keras.callbacks import ModelCheckpoint

checkpoint = ModelCheckpoint(filepath='MLP.weights.best.hdf5', verbose=1, save_best_only=True)
hist = model.fit(x_train, y_train, batch_size=32, epochs=20, validation_data=(x_valid, y_valid), callbacks=[checkpoint],
                verbose=2, shuffle=True)

多个epoch,通过checkpoint选择validation_error最小的epoch时的模型参数。就是下面的意图:

 

 

8 加载在验证集上分类正确率最高的一组模型参数

 

model.load_weights('MLP.weights.best.hdf5')

9 测试集上计算分类正确率

score = model.evaluate(x_test, y_test, verbose=0)
print('\n', 'Test accuracy:', score[1])

我们看到,MLP的正确率只有40%,接下来看看CNN可以达到多少。

 

四、CNN实现CIFAR10图像库分类

1-9个步骤中,就第5步不一样,另外新增了第10个步骤可视化。

1 加载CIFAR10数据库

import keras
from keras.datasets import cifar10

(x_train, y_train),(x_test, y_test) = cifar10.load_data()

2 可视化前36幅图像

import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline 

fig = plt.figure(figsize=(20*5))
for i in range(36):
    ax = fig.add_sbuplot(3, 12, i+1, xticks=[], yticks=[])
    ax.imshow(np.squeeze(x_train[i]))

3 归一化

x_train = x_train.astype('float32')/255
x_test = x_test.astype('float32')/255

4 切分训练集、验证集、测试集

from keras.utils import np_utils
num_classes = len(np.unique(y_train))
y_train = keras.utils.to_categorical(y_train, num_classes)
y_test = keras.utils.to_categorical(y_test, num_classes)

(x_train, x_valid) = x_train[5000:], x_train[:5000]
(y_train, y_valid) = y_train[5000:], y_train[:5000]

print('x_train shape:', x_train.shape)

print(x_train.shape[0], 'train examples')
print(x_valid.shape[0], 'valid examples')
print(x_test.shape[0], 'test examples')

5 定义模型

from keras.models import Sequential
from keras.layers import Conv2D, MaxPooling2D, Flatten, Dense, Dropout

model = Sequential()
model.add(Conv2D(filters=16, kernel_size=2, padding='same', activation='relu', input_shape=(32,32,3)))
model.add(MaxPooling2D(pool_size=2))
model.add(Conv2D(filters=32, kernel_size=2, padding='same', activation='relu'))
model.add(MaxPooling2D(pool_size=2))
model.add(Conv2D(filters=64, kernel_size=2, padding='same', activation='relu'))
model.add(MaxPooling2D(pool_size=2))
model.add(Dropout(0.3))
model.add(Flatten())
model.add(Dense(500, activation='relu'))
model.add(Dropout(0.4))
model.add(Dense(num_classes, activation='softmax'))

model.summary()

CNN的参数为52万多,而之前MLP有359万多,参数少了1个数量级。

 

6 编译模型

model.compile(loss='categorical_crossentropy', optimizer='rmsprop', metrics=['accuracy'])

7 训练模型

from keras.callbacks import ModelCheckpoint

checkpoint = ModelCheckpoint(filepath='MLP.weights.best.hdf5', verbose=1, save_best_only=True)
hist = model.fit(x_train, y_train, batch_size=32, epochs=20, validation_data=(x_valid, y_valid), callbacks=[checkpoint],
                verbose=2, shuffle=True)

可以看到,每个epoch的运算速度比之前快了1倍。

 

8 加载在验证集上分类正确率最高的一组模型参数

model.load_weights('MLP.weights.best.hdf5')

9 测试集上计算分类正确率

score = model.evaluate(x_test, y_test, verbose=0)
print('\n', 'Test accuracy:', score[1])

测试准确率比之前的40%多提高了接近50%,当然还可以通过修改参数来优化网络结构。

 

10 可视化部分预测

y_hat = model.predict(x_test)
cifar10_labels = ['airplane', 'automobile', 'bird', 'cat', 'deer', 'dog', 'frog', 'horse', 'ship', 'truck']
fig = plt.figure(figsize=(20, 8))
for i, idx in enumerate(np.random.choice(x_test.shape[0], size=32, replace=False)):
    ax = fig.add_subplot(4, 8, i + 1, xticks=[], yticks=[])
    ax.imshow(np.squeeze(x_test[idx]))
    pred_idx = np.argmax(y_hat[idx])
    true_idx = np.argmax(y_test[idx])
    ax.set_title("{} ({})".format(cifar10_labels[pred_idx], cifar10_labels[true_idx]),
                 color=("green" if pred_idx == true_idx else "red"))

 

五、kaggle竞赛最优结果,正确率达到95%以上

http://blog.kaggle.com/2015/01/02/cifar-10-competition-winners-interviews-with-dr-ben-graham-phil-culliton-zygmunt-zajac/

2015年,GPU训练时间:90小时,测试正确率:95%以上

从MNIST手写数字识别入门:深度学习数据集的基石与应用实战 在机器学习与计算机视觉领域,数据集是算法验证和模型训练的基石。一个高质量、标准化且广泛认可的数据集,能够帮助开发者将抽象算法与具体任务高效连接,并建立客观的性能基准。MNIST数据集作为经典的入门级图像数据集,以其结构清晰、规模适中的特点,成为了理解数据格式、模型架构和训练流程的绝佳起点。通过解析其二进制文件结构,开发者可以深入理解数据加载的本质;而利用TensorFlow、PyTorch等框架内置工具,则能快速进行工程实践。该数据集不仅是全连接神经网络和卷积神经网络的试炼场,也为联邦学习、生成对抗网络等前 阅读详情

相关推荐

卷积神经网络CNN精讲:从LeNet-5到AlexNet的PyTorch实战

卷积神经网络(CNN)是深度学习处理图像数据的核心架构,它通过卷积层、池化层与全连接层的组合自动完成特征提取与分类,广泛应用于图像识别、目标检测等任务。理解卷积核的滑动计算、特征图尺寸变化以及激活函数的作用,是掌握CNN的关键。LeNet-5作为经典浅层网络,以简单结构诠释了CNN的基本流程;AlexNet则引入ReLU、Dropout等技巧,推动了深度学习的爆发。从手写数字识别到大规模图像分类,CNN已成为计算机视觉领域的基础工具。本文围绕CNN的结构原理、经典模型逐层拆解,并结合PyTorch代码演示完

weixin_34212762的博客 378

采用模型集成的方法对CIFAR-10数据集进行分类

为了改善机器学习或者深度学习的任务,除了调参,还有模型集成、迁移学习、数据增强等优化方法。模型优化,代码将实现将 lenet 以及 net1 net2 集合,来训练对CIFAR-10数据集进行分类 提升分类效果。 # 导入需要的模块 import torch import torch.nn as nn import torch.nn.functional as F import torchvision import torchvision.transforms as transforms im...

weixin_40006291的博客 2059

基于CIFAR-10的TensorFlow与sklearn前馈神经网络实战实现

CIFAR-10 是计算机视觉领域经典的基准数据集之一,包含 60,000 张 $32 \times 32$ 彩色图像,涵盖 10 个类别(如飞机、汽车、鸟类等),每类 6,000 张图像。其中训练集 50,000 张,测试集 10,000 张,数据量适中但挑战性强,适合用于验证图像分类模型的泛化能力。由于其图像分辨率低、类内差异大、类间边界模糊,对模型的特征提取能力提出较高要求。

weixin_30951515的博客 884

【深度学习】- 作业3: CIFAR10图像分类

用多层感知机( MLP) 和卷积网络( ConvNet) 完成CIFAR10分类

victor_manches的博客 1184

Keras六大数据集深度解析:从离线加载到模型实战全指南

在深度学习入门与模型验证阶段,高质量、标准化的数据集是快速实验的基石。Keras内置的经典数据集,如MNIST、CIFAR-10和IMDB,以其开箱即用的特性,为学习者和研究者提供了便捷的基准测试环境。这些数据集涵盖了图像分类、文本情感分析等核心任务,其价值在于极低的使用门槛和高度的一致性,能帮助开发者将精力聚焦于模型架构与算法原理的理解。然而,在网络受限或生产环境中,在线下载数据可能成为瓶颈。通过剖析Keras的数据加载机制,可以构建离线数据包,实现本地秒速加载,并结合数据预处理、增强技术以及卷积神经网络

weixin_29052717的博客 301

电路课设-音响分频器电路设计

(一)题目简介 1.一阶分频器电路设计 假定高音和低音扬声器均等效为 16 欧姆电阻,设计如图 2 的简单分频器电 路,要求高低频分界(两个滤波器的截止频率)为 5kHz。 1) 写出高音扬声器和低音扬声器电压对于 vs 的传递函数,确定电路中电 容 C 和电感 L 的元件值;2)利用 AC 频率扫描分析求出两个扬声器电压的频率响应曲线,验证计算 结果。用包含高低频成分的电压 vs 激励进行测量验证。 3)计算并利用 EWB 仿真证明从 vs 看进去的阻抗为一常数 16 欧姆。

weixin_53507617的博客 1万+

(四)深度学习入门之对图像进行简单分类(cifar10数据集)

cifar-10简介 cifar-10是一个有十个类的32*32色图片数据集,共有60000张。官方网址如下: http://www.cs.toronto.edu/~kriz/cifar.html 我在官方网站上下载了这个数据集的python版。 官网上对该数据集作了一些描述 1.该数据集的data是10000X3072的numpy数组。每张32*32=1024的图用3072个数表示其各像素点的...

xuzkbd的博客 3199

避坑指南:GROMACS模拟中.tpr、.xtc、.edr、.cpt文件你用对了吗?从生成到分析全流程解析

本文详细解析GROMACS分子动力学模拟中.tpr、.xtc、.edr、.cpt等核心文件的使用技巧,从文件生成到轨迹优化、能量分析的全流程避坑指南。重点介绍拓扑文件校验、轨迹格式选择、周期性边界处理等实战经验,帮助科研人员高效管理模拟数据并准确提取关键能量信息。

weixin_30631587的博客 118

第13篇:卷积神经网络(CNN):图像识别的基石

本文系统介绍卷积神经网络(CNN)的核心原理与应用,包括卷积层、池化层等关键组件,分析LeNet、AlexNet等经典架构,并提供TensorFlow/Keras实现CIFAR-10图像分类的代码示例。通过特征可视化揭示CNN的学习机制,最后总结CNN的优缺点并提出学习建议。文章帮助读者全面理解CNN在计算机视觉中的作用,为后续深度学习研究奠定基础。

to do , to be . 1535

如何快速下载Gaia DR3星表数据?中国虚拟天文台镜像站保姆级教程

本文提供了一份详细的保姆级教程,指导用户如何通过中国虚拟天文台镜像站高速、稳定地下载Gaia DR3星表数据。文章详细介绍了镜像站的访问地址、数据组织结构,并给出了使用wget、aria2c等工具进行批量下载的实战策略,帮助国内用户避开国际网络延迟,高效获取近20亿颗天体的海量数据。

weixin_29231263的博客 310

VisionPro 9.0 QuickBuild里用C#脚本调用Halcon 23.11模型,保姆级图文配置流程

本文详细介绍了如何在VisionPro 9.0 QuickBuild环境中使用C#脚本调用Halcon 23.11深度学习模型,提供从环境配置到模型集成的保姆级图文教程。重点解决图像格式转换、许可证配置等工业视觉检测中的常见问题,帮助开发者快速实现高效、稳定的视觉检测流水线部署。

weixin_27027459的博客 439

【人工智能项目】CIFAR10识别实验及分析

【人工智能项目】CIFAR10识别实验及分析 本次分享的是当时接的一个实验报告的活儿,那么话不多说 ,走起来瓷!!! 一、 数据预处理 1.1 实验环境 本实验采用的软硬件实验环境如表所示: 在Windows操作系统下,采用基于Tensorflow的Keras的深度学习框架,对MNIST进行训练和测试。 采用keras的深度学习框架,keras是一个专为简单的神经网络组装而设计的Python库,具有大量预先包装的网络类型,包括二维和三维风格的卷积网络、短期和长期的网络以及更广泛的一般网络。使用keras

Mind_programmonkey的博客 7610

脑电数据预处理十四:主成分分析(PCA)用于伪迹去除与降维

本文探讨了主成分分析(PCA)在脑电图(EEG)预处理中的双重应用。针对EEG数据的高维特性和伪迹干扰问题,PCA既可有效去除高振幅伪迹(如眼动、心电等),又能实现数据降维。文章详细解析了PCA的核心原理,包括正交基向量投影和方差最大保留机制,并提供了基于MNE-Python的完整实现方案。通过代码示例展示了PCA在伪迹去除和降维中的具体应用效果,包括功率谱密度和时域波形的可视化对比。虽然ICA在复杂伪迹处理上更具优势,但PCA以其算法简单、计算高效的特点,成为EEG分析流程中不可或缺的基础工具。

qq_32516809的博客 1419

【Keras-NIN】CIFAR-10

系列连载目录 请查看博客 《Paper》 4.1 小节 【Keras】Classification in CIFAR-10 系列连载 学习借鉴 github:BIGBALLON/cifar-10-cnn 知乎专栏:写给妹子的深度学习教程 参考 【NIN】《Network In Network》(arXiv-2013) 【Keras-CNN】CIFAR-10 本地远程访问Ubuntu16....

bryant_meng 1474

Unity VR 零基础开发之 Pico4 MR

2、弹出弹窗后,点击Android选项,然后再点击Switch Platform按钮切换成安卓平台。3、切换完成后Android选项后面会显示unity图标。

十画的博客 5119

扫地机器人行业 企业篇-产业总部地理分布

中国扫地机器人产业呈现区域集聚特征,广东省以13家企业领跑全国,其中深圳独占9家(如大疆、云鲸智能等),佛山、广州、东莞各有分布。江苏省6家企业主要集中在苏州(科沃斯、追觅科技等)。北京聚集了石头科技、小米等4家品牌。浙江、山东、湖南等地也有代表性企业分布。国际品牌方面,美国iRobot、韩国三星/LG、日本松下等均在各自国家设立总部,而戴森、飞利浦等欧洲品牌则将中国运营中心设在上海或苏州。值得注意的是,部分品牌如由利、宝家丽虽为外资起源,但主要运营实体已落户中国。

智能硬件研发,欢迎交流 365

【深度学习】常见数据集和常见卷积神经网络

MNIST 数据集 class MNISTLoader(): def __init__(self): mnist = tf.keras.datasets.mnist (self.train_data, self.train_label), (self.test_data, self.test_label) = mnist.load_data() self.test=self.test_data.astype(np.float32) #

weixin_44410512的博客 893

【MATLAB】嵌入式PID控制参数整定与优化

本文提出了一种基于MATLAB仿真的嵌入式PID参数优化方法,解决了传统人工试凑法效率低、适应性差的问题。通过建立一阶滞后被控对象模型,对比分析了不同PID参数组合的性能表现,筛选出最优参数。仿真结果表明,优化后的PID参数能有效降低超调量(从传统方法的显著超调降至接近0%),缩短调节时间,提高稳态精度。最终将优化算法部署到STM32平台,实现了"仿真整定-参数优化-嵌入式落地"的完整开发流程。该方法显著提升了嵌入式系统的响应速度和控制精度,为工业控制应用提供了标准化解决方案。

unber的博客 48

Keras_examples

Keras应用实例 date:2019-02-23 参考自 keras_team 实例包括:图像(视频),文字(序列),生成模型,Keras特色功能实现,这里先简单探讨图像和Keras模型功能部分。 软件环境: python3.5 tensorflow1.12.0 keras.2.2.4 PS: ipynb格式转markdown格式: jupyter nbconvert --to markdown...

sunny0660的博客 734

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

Python深度学习:从入门到实战

亲爱的读者,欢迎您翻开这本书。我们即将探索的,是深度学习的宇宙——一个由数据、算法与算力构筑的奇妙世界。它既是严谨的科学,也是创造的艺术,更是一条通往未来智慧的修行之路。本书将带您从最基础的数学原理出发,亲手搭建神经网络,驾驭Transformer等前沿模型,最终将智慧转化为现实世界的价值。请放下畏惧,保持好奇。这不仅是一次知识的学习,更是一场思维的远行。来,随我一起,开启这趟非凡的旅程吧。

weixin_45747731的博客 450

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

TensorFlow实战指南从入门到精通深度学习框架

对于一些需要特殊结构的复杂模型,Keras的Subclassing API提供了更高的灵活性。通过继承tf.keras.Model类,可以自定义模型的前向传播逻辑。同样,通过继承tf.keras.layers.Layer类,可以创建自定义的层。当需要对训练过程进行更精细的控制时,可以脱离高级的fit API,转而使用GradientTape来自定义训练循环。这允许开发者手动计算梯度、实施自定义的优化步骤或设计复杂的损失函数,为实现前沿的研究思想提供了可能。

郭正阳 452

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

上一篇: matlab中legend函数的用法
下一篇: 深入浅出 TensorFlow(六)TensorFlow 高层封装
It_BeeCoder
博客等级 码龄10年 967粉丝 238原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值