- 博客(3)
- 资源 (1)
- 收藏
- 关注
RSS订阅转载 深度学习——神经网络中的activation
神经网络中有个词叫做 activation——激活函数现假设一神经网络N，其中w为权值参数，x为输入，b为偏置。神经网络中上层的信号 wx+b 在作为下层的输入 之前，需要 使用 激活函数激活。why？从两个角度解释A：如果不用激活函数（其实相当于激活函数是f(x) = x），在这种情况下你每一层输出都是上层输入的线性函数，很容易验证，无论你神经网络有多少层，输出都是输入的线性组合，与没有隐藏层...
2018-05-02 16:22:48
8262
转载 拉格朗日乘子和KTT条件
介绍拉格朗日乘子和KTT条件，转载自 http://www.cnblogs.com/ooon/p/5721119.html引言本篇文章将详解带有约束条件的最优化问题，约束条件分为等式约束与不等式约束，对于等式约束的优化问题，可以直接应用拉格朗日乘子法去求取最优值；对于含有不等式约束的优化问题，可以转化为在满足 KKT 约束条件下应用拉格朗日乘子法求解。拉格朗日求得的并不一
2017-03-31 14:04:59
2994
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人