AI黑板报的专栏

前言TensorFlow 是一个用于研究和生产的开放源代码机器学习库，提供了各种级别的 API，供大家自由选择。高阶 API：1.Keras （快速设计原型、模块化代码）2.Eager Execution （命令式编程环境，可立即输入结果，无需构建图）低阶 API：1.张量2.session会话…TensorFlow 官方网站推荐使用的高阶 API 进行构建机器学习模型，但...

在进行实际编码之前，我们先介绍下深度学习的三个要素：李航博士曾在《统计机器学习》中提到：统计学习方法三要素：模型、策略和算法.我认为深度学习也有这三要素：1.模型也就是假设空间在深度学习领域，模型包括网络结构和网络中的参数（权重和偏置等）。通常所说的CNN，RNN其实就是模型，但只是深度学习的一个要素而已，只有模型是没办法学习的。在CNN被提出之时，并没有提出相应的学习策略和优化算...

一.什么是Adam算法？Adam 这个名字来源于自适应矩估计（Adaptive Moment Estimation），也是梯度下降算法的一种变形，但是每次迭代参数的学习率都有一定的范围，不会因为梯度很大而导致学习率（步长）也变得很大，参数的值相对比较稳定。如果一个随机变量 X 服从某个分布，X 的一阶矩是 E(X)，也就是样本平均值，X 的二阶矩就是 E(X^2)，也就是样本平方的平均值。A...

工欲善其事，必先利其器。制约人真正发展的个人技术能力和经验是一方面，所使用的工具也是一方面，所谓磨刀不误砍柴工，一个好的工具可以让你起到事半功倍的效果。深度学习研究的热潮持续高涨 ，近几年许多的开源深度学习框架也层出不穷 ，比如 TensorFlow、Caffe、Keras、PyTorch、CNTK等等，其中 ，TensorFlow 由谷歌大脑团队研发 ，在DL领域处于领先地位。本文主要讲解...

本文从理论和实践的角度分别介绍了Batch Normalization，并通过比较加入Batch Normalization前后网络的性能来让大家对Batch Normalization的作用与效果有更加直观的感受！