区块链斜杠青年(爱踢门)

    AI机器学习相对来说是一个门槛比较高的领域，有大量数学公式，理论推导，也需要大量看英文论文。去年我花了2个月时间学习了基础知识。比如各种概念:熵，损失函数，优化算法，广义线性函。各种模型：K最近邻算法，决策树，随机森林算法，朴素贝叶斯，线性回归，逻辑回归， SVM,  WordVec, 神经网络。    然后后面就是focus在卷积神经网络模型这一块，因为这个应用最广泛，比如图像风格化，抠...

1 简介支持向量机基本上是最好的有监督学习算法了。最开始接触SVM是去年暑假的时候，老师要求交《统计学习理论》的报告，那时去网上下了一份入门教程，里面讲的很通俗，当时只是大致了解了一些相关概念。这次斯坦福提供的学习材料，让我重新学习了一些SVM知识。我看很多正统的讲法都是从VC 维理论和结构风险最小原理出发，然后引出SVM什么的，还有些资料上来就讲分类超平面什么的。这份材料从前几节讲的logist...

多分类问题   在一个多分类问题中，因变量y有k个取值，即。例如在邮件分类问题中，我们要把邮件分为垃圾邮件、个人邮件、工作邮件3类，目标值y是一个有3个取值的离散值。这是一个多分类问题，二分类模型在这里不太适用。   多分类问题符合多项分布。有许多算法可用于解决多分类问题，像决策树、朴素贝叶斯等。这篇文章主要讲解多分类算法中的Softmax回归（Softmax Regression)   推导思路...

雷锋网按：如果对人工智能稍有了解的小伙伴们，或多或少都听过反向传播算法这个名词，但实际上BP到底是什么？它有着怎样的魅力与优势？本文发布于 offconvex.org，作者 Sanjeev Arora与 Tengyu Ma，雷锋网对此进行了编译，未经许可不得转载。目前网络上关于反向传播算法的教程已经很多，那我们还有必要再写一份教程吗？答案是‘需要’。为什么这么说呢？我们教员Sanjeev最近要给本...

    在调整模型更新权重和偏差参数的方式时，你是否考虑过哪种优化算法能使模型产生更好且更快的效果？应该用梯度下降，随机梯度下降，还是Adam方法？这篇文章介绍了不同优化算法之间的主要区别，以及如何选择最佳的优化方法。什么是优化算法？优化算法的功能，是通过改善训练方式，来最小化(或最大化)损失函数E(x)。模型内部有些参数，是用来计算测试集中目标值Y的真实值和预测值的偏差程度的，基于这些参数，就形...

反卷积（Deconvolution）的概念第一次出现是Zeiler在2010年发表的论文Deconvolutional networks中，但是并没有指定反卷积这个名字，反卷积这个术语正式的使用是在其之后的工作中(Adaptive deconvolutional networks for mid and high level feature learning)。随着反卷积在神经网络可视化上的成功应...

all the tips/tricks we developed for learning regular Neural Networks still apply.So what does change? ConvNet architectures make the explicit assumption that the inputs are images, which allows us to...

整理一下之前所学过的关于回归问题的思路：问题引入：房屋估价，给定新的房屋信息，预测出相应的房屋价格；学习过程：构建模型h(θ)；线性回归：最小二乘法、梯度下降法、线性模型的概率解释；局部加权回归：带权重的线性回归、权值的钟形函数；逻辑回归：分类方法、梯度上升法、牛顿法、引出感知机学习算法；广义线性模型：指数分布族、给定概率分布推导出线性模型。    这一节所讨论的重点就是最后的这一条内容，回顾讨论...

第一篇引言卷积神经网络：听起来像是生物与数学还有少量计算机科学的奇怪结合，但是这些网络在计算机视觉领域已经造就了一些最有影响力的创新。2012年神经网络开始崭露头角，那一年Alex Krizhevskyj在ImageNet竞赛上（ImageNet可以算是竞赛计算机视觉领域一年一度的“奥运会”竞赛）将分类错误记录从26%降低到15%，这在当时是一个相当惊人的进步。从那时起许多公司开始将深度学习应用在...

该篇文章是我去年开始学神经网络最深刻的一篇，给了我很多知识量，再次感谢原作者，这也是我分享出来的原因    神经网络是一门重要的机器学习技术。它是目前最为火热的研究方向--深度学习的基础。学习神经网络不仅可以让你掌握一门强大的机器学习方法，同时也可以更好地帮助你理解深度学习技术。　　本文以一种简单的，循序的方式讲解神经网络。适合对神经网络了解不多的同学。本文对阅读没有一定的前提要求，但是懂一些机器...