NeuralNetwork And Deep Learning 实验操作Chapter3

最新推荐文章于 2024-01-28 20:34:07 发布
原创 最新推荐文章于 2024-01-28 20:34:07 发布 · 200 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #神经网络 #人工智能

本实验在MNIST数据集上使用Python3.6进行神经网络训练，对比了不同损失函数及正则化参数对模型性能的影响，发现交叉熵损失函数优于二次代价函数，且适当正则化能有效抑制过拟合。

实验环境

Python3.6 shell
在这里插入图片描述

步骤

shell中FIle->open找到mnist_loader.py，打开。
在这里插入图片描述
之后，run->run moudle,在shell中会出现如下文字
在这里插入图片描述

交叉熵实验
输入如下命令
在这里插入图片描述
在这里插入图片描述
运行结果
在这里插入图片描述
最优结果为9568/10000，比二次代价函数要好。

over fitting

选择training_data的前1000张，Epoch=400
输入如下命令
在这里插入图片描述
运行结果
在这里插入图片描述
结果：最好结果仅为8179/10000，过度拟合

regularization

1、lambda=0.1，training_data=1000
在这里插入图片描述
在这里插入图片描述
2、lambda=5.0,training_data=50000
在这里插入图片描述
结果：准确率得到显著提升，即regulariziation可以抑制overfitting。
在这里插入图片描述

基于卷积神经网络的数字手势识别APP(安卓) 毕业设计 附完整代码
01-30 550
基于卷积神经网络的数字手势识别APP(安卓) 毕业设计 附完整代码
Neural Networks and Deep Learning 学习笔记(三)
非原创，不博客
06-16 601
1. 怎么理解C(w,b)≡12n∑x∥y(x)−a∥2 C(w,b) \equiv \frac{1}{2n} \sum_x \| y(x) - a\|^2首先，∥v∥\|v\|是指范数 范函是一个函数，其为矢量空间内的所有矢量赋予非零的正长度或大小 好吧，这其实是个均方误差函数，可自行查阅百度百科，但是不明白为什么是12n\frac{1}{2n}。2. 什么是梯度下降，为什么要用梯度下降算法。
《neural network and deep learning》题解——ch03 其他技术（momentun，tanh）
09-05 1228
http://blog.youkuaiyun.com/u011239443/article/details/77848503问题一 • 如果我们使⽤ µ > 1 会有什么问题？ • 如果我们使⽤ µ < 0 会有什么问题？ 如果我们使⽤ µ > 1，∇C趋近于0时，v依旧会越来越大。如果我们使⽤ µ < 0，∇C趋近于0时，v会变为梯度的反方向。问题二 增加基于 momentum 的随机梯度下降到
《neural network and deep learning》题解——ch03 交叉熵代价函数
07-13 2740
这在分类问题一般是可行的,但是对其他的问题(如回归问题)y 可以取 0 和 1 之间的中间值的。我们已经深入讨论了使用二次代价函数的网络中在输出神经元饱和时候学习缓慢的问题,另一个可能会影响学习的因素就是在方程 (61) 中的 x j 项。但是如果我们使用不同的 c得到不同的函数,其本质上和原来的柔性最大值函数是很相似的。正如通常的柔性最大值函数。是输入中的最大值，则$ a^L_j$ 的极限值为1，否则$ a^L_j$ 的极限值为0。用上一章的定义符号,证明对二次代价函数,关于输出层的权重的偏导数为。
NeuralNetwork And Deep Learning 实验操作Chapter 1
weixin_40313940的博客
12-08 223
- Using neural nets to recognize handwritten digits 本人新手，最近开始学习Michael Nielsen 的NeuralNetwork And Deep Learning跟着作者一步一步动手操作，以加深理解。原文是英文，但网上已有许多翻译博文，在下水平有限就不再班门弄斧，仅仅贴上自己动手实验的结果分享给大家，为自己的学习留下一些经历。 实验环境...
【学习笔记】Neural networks and deep learning-神经网络和深度学习
Chen_yuazzy的博客
05-19 859
本文是Online Book《Neural networks and deep learning-神经网络和深度学习》的学习笔记，主要记录概括章节内容，可以说是一个大纲，供复习之用，详细内容见链接原文。 Chapter 1 使用神经网络识别手写数字 1.1perceptrons （感知机） 1.2sigmoid neuron（sigmoid神经元） 1.3神经网络的构建 1.4一种简单...
《Neural Networks and Deep Learning》读书笔记系列：1.识别手写字
howie6879's blog
11-01 701
深度学习笔记系列之识别手写字Neural Networks and Deep Learning[1] 是由 Michael Nielsen[2] 编写的开源书籍，这本书主要讲的是如何掌握神经网络的核心概念，包括现代技术的深度学习，为你将来使⽤神经网络和深度学习打下基础，以下是我的读书笔记。神经网络是一门重要的机器学习技术，它通过模拟人脑的神经网络来实现人工智能的目的，所以其也是深度学习的基础，了解...
【Neural Network Expansion】: The Application of Neural Networks and Deep Learning Models in Linear ...
In the realm of machine learning, neural networks and deep learning have become a hot topic, especially for their powerful capabilities in solving linear regression problems. This chapter
[学习笔记] Neuron Networks and Deep Learning
huberd的博客
05-14 642
   文章内容是基于Micheal Nielsen在 http://neuralnetworksanddeeplearning.com 上提供教程《Neural networks and Deep learning》进行的个人学习理解。方便自己温故而知新，加深理解。此文仅为学习笔记，请辩证地进行阅读，还请多多指教。
Neural Networks and Deep Learning 3
我的博客
03-24 628
Ch03 Improving the way neural networks learn 在线书籍 http://neuralnetworksanddeeplearning.com/chap3.html 目录 Ch03 Improving the way neural networks learn 目录 Introducing the cross-entropy cost fun...
TensorFlow官方教程《Neural Networks and Deep Learning》译（第一章）
萧萧的专栏
07-27 1万+
– 更新中 译自：Neural Networks and Deep Learning 成果预展示 如果你能坚持阅读完本章， 你可以获得如下的成果： 上图中的命令行窗口输出为： Epoch 0: 9095 / 10000 Epoch 1: 9213 / 10000 Epoch 2: 9299 / 10000 Epoch 3: 9358 / 10000 ... Epoch 27
手势估计- Hand Pose Estimation
MyArrow的专栏
07-17 2万+
1. 目前进展 1.1 生成模型      1.2 判别模型     1）J. Tompson, M. Stein, Y. LeCun, and K. Perlin. Real-Time Continuous Pose Recovery of Human Hands Using Convolutional Networks. ACM Transactions on Graphics, 33
《neural network and deep learning》题解——ch03 再看手写识别问题题解与源码分析
08-28 2981
http://blog.youkuaiyun.com/u011239443/article/details/77649026完整代码：https://github.com/xiaoyesoso/neural-networks-and-deep-learning/blob/master/src/network2.py我们之前根据《neural network and deep learning》题解——ch02
Win10+MX250+CUDA10.1+cuDNN+Pytorch1.4安装+测试全过程(吐血)
热门推荐
weixin_40313940的博客
02-03 3万+
最近疫情很严重，很多地方不让出门，很多人也都害怕被传染，包括我，咱一学生也出不了太多力，老老实实在家呆着不添乱就是最好的贡献。但是在家呆着实在无聊，学校又延迟开学，想在家做一些深度学习项目练练手（新手上路，大神勿喷哈哈哈），但是无法连上学校实验室服务器，笔记本CPU跑个demo都费劲。我这一想，笔记本不是还有个鸡肋的MX250吗？很好奇MX250和CPU哪个跑更快一点？于是乎就开始了一波操作。。。...
让AI帮你说话--GPT-SoVITS教程
最新发布
weixin_40313940的博客
01-28 1万+
让AI帮你说话--GPT-SoVITS模型合成自己声音
踩坑记：RuntimeError: CUDA error: device-side assert triggered
weixin_40313940的博客
06-28 7355
GAT分类的时候，遇到 RuntimeError: CUDA error: device-side assert triggered 原因是数据的类别和num_classes不一致造成的。 比如我的数据总共有10类，但是类别数是从1-10，而一般的分类程序是从0-9，所以会出现这个问题，将数据类别改成从0开始就好。 ...
llama.cpp部署通义千问Qwen-14B
weixin_40313940的博客
12-03 7012
llama.cpp部署通义千问
分布式训练DDP的那些坑
weixin_40313940的博客
02-05 2542
DistributedDataParallel(DDP)是个好东西，对小白来说就是坑有点多。
大学英语 真题 neural network-deep learning
05-01
神经网络（Neural Network）是一种模拟人脑工作原理的计算机模型，由大量的神经元相互连接形成网络，通过模拟人脑神经元的信号传递和信息处理方式，实现了很多人工智能（AI）和机器学习（ML）领域的重大突破。...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值