Donald Su

通过随机操作减缓对抗攻击的影响文章题目：Mitigating Adversarial Effects Through Randomization该文章来自于ICLR 2018-对抗样本的defence方法作者：Cihang Xie, Zhishuai Zhang & Alan L. Yuille – 约翰*霍普金斯大学随着深度神经网络的广泛使用，研究人员发现，神经网络虽然精确度...

1. AI、ML、DL的关系人工智能(Artificial Intelligence, AI)、机器学习(Machine Learning, ML)、深度学习(Deep Learning, DL)的关系人工智能(AI)的简洁定义：努力将通常由人类完成的智力任务自动化。机器学习(ML)中的学习是指：寻找更好数据表示的自动搜索过程。ML系统是训练出来的，而不是明确地用程序编写出来的，机器学...

吃掉那只青蛙 (Eat that frog) [美]博恩·崔西– 拒绝穷忙，把时间留给最重要的事情start： 2019年07月04日19:20:56吃青蛙法则法则一 – 每天早晨的第一件事情就是吃掉一只活青蛙，你就会发现这一天不会再有什么事情比这更糟糕的了。 – 马克·吐温法则二 – 如果必须吃掉两只，那就先吃掉那只长得丑的(先处理更重要、更困难的工作)法则三 – 如果你必须吃掉...

理解深度学习，需要熟悉很多简单的数学概念：张量、张量运算、微分、梯度下降等。本章就是建立对这些概念的直觉。MNIST数据集 包括 60 000张训练图片和 10 000张测试图像，解决 MNIST问题是深度学习的“Hello World”。神经网络的核心组件是层(layer)，是一种数据处理模块，可以看成数据过滤器。进去一些数据，处理的数据变得更加有用。大多数深度学习都是将简单的层链接起来...

分类和回归都包含很多专业术语，这些术语在机器学习领域都有确切的定义，本文对常见术语进行整理。样本（sample）或输入（input）：进入模型的数据点。预测（prediction）或输出（output）：从模型出来的结果。目标（target）：真实值。对于外部数据源，理想情况下，模型应该能够预测出目标。预测误差（prediction error）或损失值（loss va...

本章开始使用神经网络来解决实际问题，介绍三个问题的解决方法，以及神经网络的核心组件。1. 神经网络剖析【第二章】已经介绍了，训练神经网络主要围绕以下四个方面：层，多个层组合成网络（或模型）。输入数据和相应的目标。损失函数，即用于学习的反馈信号。优化器，决定学习过程如何进行。这四者的关系为：1. 层：深度学习的基础组件层是一个数据处理模块，将一个或多个输入张量转换为...

本文开始分享国内最好的一本时间管理书籍《小强升职记》。自己另一篇时间管理的书籍笔记：[读书笔记]-博恩·崔西-吃掉那只青蛙文章目录0. 时间管理的核心系统1. 你的时间都去哪了？一、你真的很忙吗？二、如何记录和分析时间日志？三、如何找到自己的价值观？0. 时间管理的核心系统种子 - 找到时间黑洞，找到职业价值观树苗 - 学习四象限法则、衣柜整理发枝叶 - 如何战胜拖延，如何要事优...

文章目录0. 定义1. 均方误差2. 交叉熵误差3. mini-batcg中的损失函数神经网络的学习通过某个指标表示现在的状态，然后以这个指标为基准，寻找最优权重参数，这个指标就是损失函数(loss function)。如上介绍，神经网络损失函数（loss function）也叫目标函数（objective function）的作用：衡量神经网络的输出与预期值之间的距离，以便控制、调节参...