cs231n'18：Lecture 4 | Introduction to Neural Networks

最新推荐文章于 2019-07-19 19:53:12 发布

原创最新推荐文章于 2019-07-19 19:53:12 发布 · 304 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#AI #CNN #cs231n

cs231n 同时被 2 个专栏收录

32 篇文章

订阅专栏

Stanford cs231n'18 课程及作业详细解读

25 篇文章

订阅专栏

本课程第四节重点讲解了Backprop算法，并强调其重要性，因为后续将涉及大量相关代码编写。此外，还介绍了与大脑相关的一些基础知识。

第四节课前半部分讲Course Note 4的backprop，这一部分是这门课的重点，后面要写许多与此相关的代码，到时会一个一个的详细说。具体见Course Note 4笔记以及里面的作业。

后面半部分讲与brain相关的一些知识，听听就行了。

Lecture 4 链接

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

FortiLZ

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【CS231n 学习笔记】Lecture6：Training Neural Networks Part 2

weixin_44564705的博客

08-24

254

Parameter Updates SGD 随机梯度下降是一种较为简单的优化算法，首先通过反向传播得到梯度，然后用梯度乘以学习率：随机梯度下降算法是根据梯度的方向进行更新的，如果有一个损失函数表面（损失值集成的平面），有一个方向的长度远远大于其他方向，所以损失函数（偏导数）在该水平方向上就比较浅显（shallow），而在垂直方向上就比较陡峭（steep），我们要根据合成的方向去进行参数更新，以达到损失的最小值，也就是说，损失函数在水平方向更新的很慢，在垂直方向上更新的较快：上述图..

Stanford cs231n'18 课程及作业详细解读

FortiLZ的博客

06-26

4441

Stanford

参与评论您还未登录，请先登录后发表或查看评论

CS231N-4-Neural Networks

Victor的草原

09-17

499

时隔4个多月，暑假去了Stanford同一个教室NVIDIA Auditorium上课，再次回到CS231N的课程，如今已是大三。没有退路。 2017年老师换了，内容也更新了，所以就不听去年的了。本讲我预计是课程的核心内容，神经网络的介绍。注意Neural Networks包括CNN,RNN,DNN等，所以是个很基础的概念，用到的数学知识就是反向传播的链式法则。Recap Our objec

CS231n:(4) Backpropagation and Neural Networks

Wangpeiyi9979的博客

07-19

394

问答总结: 文章目录一、计算图1、计算图结构2、梯度计算技巧一、计算图深度学习、机器学习的优化过程中，我们是要使得losslossloss尽量小。方法是使得参数沿着梯度方向负方向更新。如何计算梯度?前一节已经给出两种方法。(1)利用差分方式计算梯度。(2)直接利用微积分求出梯度解析式。但是这两种方法，在复杂的深度学习网络中，都不太适合程序化。因此，我们引出计算图的概念。 1、计算图结构 (1...

2017CS231n笔记4.介绍神经网络（省略版）

老毛的博客

06-04

383

文章目录内容概述模块化门一维BP实现：向量化BP实现内容概述在线Latex公式这节课对不住了，学过ng的深度学习和李宏毅的机器学习课程BP这块应该是理解比较深刻了，尤其是李宏毅的课程，在讲反向传播的时候提出了反向传播也是一个神经网络的观点，当然这节课的视频观看了以后也有一些收获，大概的简略的记录一下，这次课是由Serena Yeung（00后美女）来讲的，引入部分的思路和ng一样，用的是计算...

cs231n 学习 -- Lecture 4 Backpropagation and Neural Networks

wu472269100的专栏

01-08

223

Introduction To Neural Networks

weixin_33951761的博客

12-03

325

2019独角兽企业重金招聘Python工程师标准>>> ...

cs231n'18：Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition

FortiLZ的博客

06-26

516

一如既往，第一节课都是侃侃大山，没什么好说的。Lecture 1

CS231n笔记 Lecture 4 Introduction to Neural Networks

weixin_30834019的博客

07-26

142

这一讲主要介绍了神经网络，基本内容之前如果学习过Andrew的Machine learning应该也都有所了解了。不过这次听完这一讲后还是有了新的一些认识。计算图 Computational graph 之前没有体会到计算图的强大，今天听Serena讲解后，有一种豁然开朗的感觉。总的来说，有一些很复杂的表达式，如果直接使用它对变量求导，虽然也能得到一个显式的表达，但可能会牵扯到非常复...

[cv231n] Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition

gdtop的个人笔记

02-26

378

Lecture 1 | Introduction to Convolutional Neural Networks for Visual Recognition Feifei-Li Prerequisites Proficiency in Python, high-level familiarity in C/C++ All class assignments will be in Pyth...

cs231n spring 2017 lecture4 Introduction to Neural Networks

weixin_30394669的博客

10-15

134

1. Backpropagation：沿着computational graph利用链式法则求导。每个神经元有两个输入x、y，一个输出z，好多层这种神经元连接起来，这时候已知∂L/∂z，可以求出∂L/∂x =∂L/∂z * ∂z/∂x，∂L/∂y =∂L/∂z *∂z/∂y。靠这种方式可以计算出最终的loss function相对于最开始的输入的导数。这种方法的好处是，每个神经元...

斯坦福CS231n课件

11-09

【斯坦福CS231n课程】是斯坦福大学计算机科学系的一门知名课程，由李飞飞教授主讲，专注于计算机视觉领域的深度学习技术。这门课程深入讲解了如何利用神经网络解决图像识别和理解的问题，对于想要深入了解深度学习在...

CS231n课程知识点汇总（lecture1-5）.docx

11-18

#### Lecture4: Backpropagation and Neural Networks part 1 (Backpropagation; Introduction to neural networks) **Backpropagation** - **计算图：** 将前向传播和后向传播过程可视化为一个计算图。 - **前向/...

cs231n'18： Assignment 3 | RNN Captioning

FortiLZ的博客

07-06

3007

Assignment3 | RNN Captioning 这部分实际上做了两件事情，首先建立一个 RNN，然后以此 RNN 为基础，训练一个模型来完成图片 caption 的工作。我感觉作业中的代码先后顺序有些混乱，这里依照自己的理解，把内容重新组织一下。 Dataset train 和 val 使用的是 Coco2014，从打印出来的 data 信息来大概浏览一下数据的构成。 t...

cs231n'18： Assignment3 | Network Visualization

FortiLZ的博客

07-11

2575

Assignment3 | Network Visualization 在这里只解决与 NN 有关的问题，与 PyTorch 有关的问题，集中到另外的一个 project 专门学习。 Saliency Maps Saliency map 表示的是图片中的每一个像素对最终分类 score 的影响有多大。计算 saliency map 时，首先使用一个训练好的 model，计算出输入图片的对...

cs231n'18： Assignment 2 | FullyConnectedNets

FortiLZ的博客

06-28

2173

Assignment 2 | FullyConnectedNets gradient check函数的不同实现到目前为止用到了三个gradient check函数，分别是：grad_check_sparse，eval_numerical_gradient，eval_numerical_gradient_array。 eval_numerical_gradient def eval...

cs231n'18： Assignment 2 | Batch Normalization

FortiLZ的博客

06-27

1894

Assignment 2 | Batch Normalization 上文吐槽BN部分讲的太烂，2018年果然更新了这一部分，slides里加了好多内容，详见Lecture 6的slides第54到61页，以及Lecture 7的slides第11到18页，这里结合着原始论文和作业，把BN及其几个变种好好总结一下。 Batch Normalization Train 前面的作业中已...

cs231n'18：Assignment 2 | PyTorch

FortiLZ的博客

06-29

1863

Assignment 2 | PyTorch 初步介绍了一下 PyTorch，准备找个教程好好学习一下，以后以 PyTorch 为主了。

cs231n'18： Assignment 2 | Dropout

FortiLZ的博客

06-29

1427

Assignment 2 | Dropout Dropout 就是在 train 的过程中随机的丢掉一部分连接，但是在 test 的时候使用全部的连接。这样做的好处是在 train 的时候引入一些随机性，在 test 的时候相当于用这些随机性进行了 ensemble。起到了 reg 的作用。 Inline Question 1: What happens if we do no...

深度解析斯坦福CS231n课程：深度学习与计算机视觉

斯坦福CS231n课程专注于深度学习在计算机视觉领域中的应用，由李飞飞教授主讲，课程内容丰富，质量非常高，涵盖了深度学习的基础理论到实际应用的多个层面。下面将详细探讨该课程中所涉及的关键知识点： ### 深度...