
深度学习
守望者白狼
深度强化学习、深度学习、自然语言处理 https://github.com/wolf-bailang
展开
-
12. 2020年《DeepMind&UCL深度学习讲座》第12讲:负责任的创新【中文字幕】
[2020年《DeepMind&UCL深度学习讲座》第12讲:负责任的创新【中文字幕】](https://www.bilibili.com/video/BV1Tp4y1v7q7/) 我们该怎么做才能建立安全,可靠和强大的算法?在这一领域工作的技术人员的职责是什么?在本次演讲中,秦崇立和艾森·加布里埃尔分两个部分探讨了这些问题,这些问题通过负责任的创新视角联系在一起。在第一部分中,崇礼探讨...翻译 2020-08-14 14:37:54 · 414 阅读 · 0 评论 -
11. 2020年《DeepMind&UCL深度学习讲座》第11讲:现代潜在变量模型【中文字幕】
[2020年《DeepMind&UCL深度学习讲座》第11讲:现代潜在变量模型【中文字幕】](https://www.bilibili.com/video/BV1Kp4y1v7cf/) 该讲座由DeepMind研究科学家Andriy Mnih进行,探讨了潜在变量模型,这是用于生成模型的强大而灵活的框架。在引入了该框架以及对它至关重要的推理概念之后,Andriy重点研究了两种现代潜在变量模...翻译 2020-08-13 13:01:01 · 370 阅读 · 0 评论 -
10. 2020年《DeepMind&UCL深度学习讲座》第10讲:无监督表征学习【中文字幕】
[2020年《DeepMind&UCL深度学习讲座》第10讲:无监督表征学习【中文字幕】](https://www.bilibili.com/video/BV1QT4y1j7Sc/) 无监督学习是机器学习的三个主要分支之一(以及监督学习和强化学习)。它也可以说是最不发达的分支机构。它的目标是通过发现和利用其隐藏结构来找到对输入数据的简约描述。与监督学习相比,这被认为更让人联想到大脑的学习...翻译 2020-08-11 19:15:09 · 290 阅读 · 0 评论 -
9. 2020年《DeepMind&UCL深度学习讲座》第9讲:生成对抗网络GAN【中文字幕】
[2020年《DeepMind&UCL深度学习讲座》第9讲:生成对抗网络GAN【中文字幕】](https://www.bilibili.com/video/BV1SZ4y1T7rw/) 生成对抗网络(GAN),最早由Ian Goodfellow等提出。 2014年,它已成为生成建模(尤其是图像合成)最有前途的方法之一。在最基本的形式上,它们由两个“竞争”网络组成:一个生成器试图生成类似于...翻译 2020-08-07 11:43:46 · 291 阅读 · 0 评论 -
8. 2020年《DeepMind&UCL深度学习讲座》第8讲:深度学习中的注意力和记忆【中文字幕】
[2020年《DeepMind&UCL深度学习讲座》第8讲:深度学习中的注意力和记忆【中文字幕】](https://www.bilibili.com/video/BV1VA411Y7hm/) 在过去的几年里,注意力和记忆已经成为深度学习的两个重要的新组成部分。DeepMind研究科学家Alex Graves的这篇演讲涵盖了当代广泛的注意力机制,包括任何深层网络中存在的内隐注意,以及外显注...翻译 2020-08-05 10:28:52 · 307 阅读 · 0 评论 -
7. 2020年《DeepMind&UCL深度学习讲座》第7讲:自然语言处理【中文字幕】
[2020年《DeepMind&UCL深度学习讲座》第7讲:自然语言处理【中文字幕】](https://www.bilibili.com/video/BV14p4y1q7E8/) DeepMind研究科学家Felix Hill的本讲座首先讨论了使用ANN进行语言建模的动机:语言具有高度的上下文关系,通常是非组合的,并且依赖于协调许多竞争性信息源。本节还讨论了Elman的时间发现结构和简单...翻译 2020-08-02 11:58:42 · 285 阅读 · 0 评论 -
6. 2020年《DeepMind&UCL深度学习讲座》第6讲:序列和循环网络【中文字幕】
2020年《DeepMind&UCL深度学习讲座》第6讲:序列和循环网络【中文字幕】 在本讲座中,DeepMind研究科学家Marta Garnelo重点介绍了顺序数据以及如何采用机器学习方法来处理这种特殊类型的结构。 Marta首先介绍了序列建模的一些基础知识,包括为此任务设计的通用体系结构,例如RNN和LSTM。然后,她将继续进行序列到序列解码及其应用,然后再介绍序列模型的最新应用示...翻译 2020-07-28 21:24:13 · 209 阅读 · 0 评论 -
5. 2020年《DeepMind&UCL深度学习讲座》第5讲:机器学习的优化【中文字幕】
5. 2020年DeepMind x UCL_深度学习讲座_机器学习的优化 优化方法是使神经网络能够从数据中学习的基础引擎。在本讲座中,DeepMind研究科学家James Martens讨论了基于梯度的优化方法的基础知识及其在训练神经网络中的应用。主要主题包括梯度下降,动量方法,二阶方法和随机方法。 James通过局部二阶近似的解释框架分析了这些方法。在此处下载幻灯片:https:...翻译 2020-07-23 10:03:45 · 275 阅读 · 0 评论 -
4. 2020年《DeepMind&UCL深度学习讲座》第4讲:先进的计算机视觉模型【中文字幕】
4. 2020年DeepMind x UCL_深度学习讲座_先进的计算机视觉模型 在之前的演讲之后,DeepMind研究科学家Viorica Patraucean介绍了图像分类以外的经典计算机视觉任务(对象检测,语义分割,光流估计),并描述了每种模型的最新状态以及标准基准。她讨论了用于视频处理,例如动作识别,跟踪和相关挑战的任务的类似模型。特别是,她提到了最近的工作,以提高视频处理效率,...翻译 2020-07-21 15:14:55 · 276 阅读 · 0 评论 -
3. 2020年《DeepMind&UCL深度学习讲座》第3讲:卷积神经网络的图像识别【中文字幕】
3. 2020年DeepMind x UCL_深度学习讲座_卷积神经网络的图像识别 在之前的演讲之后,DeepMind研究科学家Viorica Patraucean介绍了图像分类以外的经典计算机视觉任务(对象检测,语义分割,光流估计),并描述了每种模型的最新状态以及标准基准。她讨论了用于视频处理,例如动作识别,跟踪和相关挑战的任务的类似模型。特别是,她提到了最近的工作,以提高视频处理效率...翻译 2020-07-20 09:49:10 · 380 阅读 · 0 评论 -
2. 2020年《DeepMind&UCL深度学习讲座》第2讲:神经网络基础【中文字幕】
2. DeepMind x UCL _深度学习讲座_神经网络基础 神经网络是2006年以来负责深度学习革命的模型,但其基础可以追溯到1960年代。在本次讲座中,DeepMind研究科学家Wojciech Czarnecki将讲解这些模型如何操作,学习和解决问题的基础知识。他还介绍了各种术语/命名约定,以使参加者为进一步的更高级的演讲做好准备。最后,他简要介绍了神经网络设计和开发的更多面向...翻译 2020-07-15 20:00:04 · 315 阅读 · 0 评论 -
1. 2020年《DeepMind&UCL深度学习讲座》第1讲:机器学习和AI入门【中文字幕】
1. 2020年DeepMind&UCL_深度学习讲座_机器学习和AI入门 在此讲座中,DeepMind研究科学家和UCL教授Thore Graepel解释了DeepMind基于机器学习的AI方法。 他举例说明了如何结合使用深度学习和强化学习来构建智能系统,包括AlphaGo,Capture The Flag和AlphaStar。 接下来是对不同主题的简短介绍,并在随后的讲座中演讲者。...翻译 2020-06-22 20:27:45 · 530 阅读 · 0 评论 -
深度学习(问题集)
激活函数用来加入非线性因素的,因为线性模型的表达力不够。RELU函数构建稀疏矩阵,也就是稀疏性,这个特性可以去除数据中的冗余,最大可能保留数据的特征,也就是大多数为0的稀疏矩阵来表示,加快计算收敛Batch size太大(内存,一般来说 Batch_Size 越大,其确定的下降方向越准,由于不同权重的梯度值差别巨大,因此选取一个全局的学习率很困难,容易达到局部最优,引起训练震荡越小,采用RM...原创 2019-02-21 10:16:26 · 82122 阅读 · 0 评论 -
深度学习基础知识介绍
1.1 MLP网络MLP网络是一种应用最为广泛的一种网络,其中DNN就是属于MLP网络,它是一个前向结构的人工神经网络,输入一组向量向前传播输出向量,网络结构如下:各个层级关系:其中σ表示激活函数,集中常见的激活函数有:sigmod函数,tanh函数,ReLU函数。sigmod函数:tanh函数:ReLU函数: 1.2 RNN网络RNN是一种节点定向连接成环的人工神经网络,与DN...转载 2019-01-14 11:22:03 · 307 阅读 · 0 评论 -
深度学习(资源篇)
记录深度学习领域最新的理论解读、项目实例、开源代码库、视频、书籍等资讯原创 2019-01-07 15:05:57 · 765 阅读 · 0 评论