leo的博客

我们如何去判断一个算法是否是好的呢？举一个例子，我们希望用算法来预测癌症是否是恶性的，在我们的训练集中，只有0.5%的实例是恶性肿瘤，假设我们编写一个非学习而来的算法，在所有情况下都预测肿瘤是良性的，那么误差也只有0.5%，但是我们都知道，这个其实没有任何意义。误差的大小不能视为评判算法效果的依据的。我们把算法的预测结果分为四种情况名称简写含义正确肯定true pos...

算法思想从训练集中找出k个最接近测试对象的训练对象，再从k个对象中确定主导类别，将此类别赋给测试对象。假设训练对象有n个属性，每个对象由n维空间的一个点表示，则真个训练集处于n维空间中，每当给定一个测试对象c我们计算c到训练对象的距离，找到最接近c的k个对象。然后c指派到最近邻中数量最多的类。特别的，当K=1时，测试对象c会被指派到与它最近的训练对象所属的类。关键要素使用k近邻法需要考虑...

文章目录神经网络模型表示代价函数反向传播神经网络模型表示之前学习过的线性回归还是逻辑回归都有这样的特点：当特征太多，计算的负荷会非常大。这个时候我们就要使用神经网络来解决问题了。那么什么是神经网络呢？神经玩咯建立在很多神经元之上，每一个神经元又是一个一个的学习模型，这些神经元也叫做激活单元。它们会采纳一些特诊作为输出，根据本身的模型提供一个输出。x1,x2,x3是我们的输入，a1a2...

文章目录一、逻辑回归问题在分类问题中，要预测的变量是一个离散的值，我们将学习一种逻辑回归的算法（LogisticRegression）这是比较主流的一种方法。在分类问题中，我们尝试预测的结果是否是一类。例如判断一封电子邮件是否是垃圾邮件，判断一次交易是否是欺诈等。之前的线性回归，如果假设函数输出值可能会大于1或者小于0。这会有点奇怪。现在我们要学的逻辑回归算法他的输出值在0与1之间。...

文章目录1.多变量线性回归（Linear Regression with Multiple Variables）多参数中的问题正规方程1.多变量线性回归（Linear Regression with Multiple Variables）上一周记下了单变量的，这一周更进一步！看看多变量的。多变量的h函数为hθ（x）=θ0+θ1x1+θ2x2+…+θnxn这个公式有n+1个参数与n个变量...

文章目录1.1无监督学习和监督学习1.2单变量的线性回归（Linear regression with one variable）1.3 梯度下降这一周开始就要开始学习机器学习了。在这里记下我学习的一些过程。方便以后查阅。1.1无监督学习和监督学习监督学习：数据集中每条数据已标明真确的答案。也就是说，每条数据有确定对应的标签。无监督学习：在无监督学习中没有任何的标签或者有相同的标签。我...

文章目录声明：代码和数据集均来自网络，仅供自己学习。侵删。上次学习了一般的神经网络。这次找个实际的操刀，学习一下。数据库来源：http://pjreddie.com/projects/mnist-in-csv/我们可以从中获得我们想要的数据集和测试集data_file = open("train_100.csv",'r')data_list = data_file.readlines...

文章目录初始化网络权重查询网络训练网络完整结构初识这个领域，由于之前有python基础，根据本人习惯，直接从简单的入手。神经网络需要至少三个部分：初始化函数设定输入层节点，隐藏层节点和输出层节点训练函数学习给定训练集样本后，优化权重查询给定输入。从输出节点返回答案框架如下：#神经网络框架class neuraNetwork:def __init__(...