
ai理论
qq_39425845
这个作者很懒,什么都没留下…
展开
-
2、逻辑回归(正则项约束数学本质)
https://www.jianshu.com/p/209d73fcb17b【逻辑回归函数模型】1、线性回归连续性不适合离散目标拟合2、sigmod(S型函数1/(1+e**-z)输出值始终落在[0,1]的特征【逻辑回归损失函数】1、预测函数:g(x) = 1/(1+e**-h(x)),其中z为h(x)=θ(0)+θ(1)*x2、损失函数: J(θ) = (1/m)*∑(−y *...原创 2018-11-02 19:07:47 · 664 阅读 · 0 评论 -
1、线性回归理论总结
【梯度下降】1、本质:求解f'(x)=02、算法:起点X0按照步长α向f'(x)为0逼近(x(n+1) = x(n) - α*f'(x(n)))3、结果:迭代操作,f'(x)满足期望精度4、前提:梯度必须为递增(凸函数)【线性回归梯度下降】1、代数推导(1)、预测函数:h(x)=θ(0)+θ(1)*x(2)、损失函数:J(θ)=(1/2m)*∑(h(x(i))-y(i))**2...原创 2018-10-26 19:16:41 · 219 阅读 · 0 评论 -
3、神经网络
【参考资料】http://www.ai-start.Jom/ml2014/html/week4.htmlhttp://www.ai-start.Jom/ml2014/html/week5.html【神经网络】1、特征量N的增多导致二次项数的剧增N**2/2,图像识别中尤为显著2、术语:输入层/输入神经元输出层/输出神经元隐层/隐层神经元权值、偏置、激活函数3、实现核心依赖链式关...原创 2018-11-19 15:27:29 · 168 阅读 · 0 评论 -
4、算法诊断
【参考资料】coursera机器学习课程第六周——课程笔记https://blog.youkuaiyun.com/ccblogger/article/details/78645976http://www.ai-start.Jom/ml2014/html/week6.html【模型选择】1、多项式的次数d1)、数据集分成training、cross validation、test分别用于拟合函数、模...原创 2018-11-30 21:08:07 · 277 阅读 · 0 评论 -
5、支持向量机
【参考资料】coursera机器学习课程第六周——课程笔记https://blog.youkuaiyun.com/u012052268/article/details/78816779#3实践svmhttp://www.ai-start.com/ml2014/html/week7.html【逻辑回归简化】1、预测函数:g(x) = 1/(1+e**-h(x)),其中z为h(x)=θ(0)+θ(1...原创 2018-11-30 21:09:22 · 264 阅读 · 0 评论 -
dl-rnn
【激活函数】1、sigmoid函数 σ(x) = y = 1/(1 + e**(-x)) σ'(x) = y * (1 -y) 2、tanh函数 tanh(x) = y = (e**x - e**(-x))/(e**x + e**(-x)) tanh'(x) = 1 - y**2【RNN推导】RNN求解过程推导与实现https://www.cnblogs.c...原创 2018-12-29 18:46:53 · 198 阅读 · 0 评论 -
卷积神经网络
【核心】1、设计理念1)、特征提取简化计算维度2)、大大简化了模型参数2、概念:卷积层、池化层、全连接层1)、卷积层:过滤层、步幅2)、池化层:一般使用最大池化3)、全连接层:激活函数3、经典网络1)、LeNet-52)、AlexNet3)、VGG-164、残差网络1)、LeNet-52)、AlexNet3)、VGG-16...原创 2019-02-25 14:52:48 · 201 阅读 · 0 评论