qq_43727105的博客

什么是亲和矩阵（affinity matrix）？

在深度学习中，监督类学习问题其实就是在规则化参数同时最小化误差。最小化误差目的是让模型拟合训练数据，而规则化参数的目的是防止模型过分拟合训练数据。参数太多，会导致模型复杂度上升，容易过拟合，也就是训练误差小，测试误差大。因此，我们需要保证模型足够简单，并在此基础上训练误差小，这样训练得到的参数才能保证测试误差也小，而模型简单就是通过规则函数来实现的。规则化项可以是模型参数向量的范数。如：L0、L1、L2等。1.L0L_0L0​范数与L1L_1L1​范数L0范数是指向量中非0的元素的个数。如果我们用L

overfitting是这样一种现象：一个假设在训练数据上能够获得比其他假设更好的拟合，但是在训练数据外的数据集上却不能很好的拟合数据。此时我们就叫这个假设出现了overfitting的现象。出现这种现象的主要原因是训练数据中存在噪音或者训练数据太少。而解决overfit的方法主要有两种：提前停止树的增长或者对已经生成的树按照一定的规则进行后剪枝。百度中关于overfitting的标准定义：给定一个假设空间H，一个假设h属于H，如果存在其他的假设h’属于H,使得在训练样例上h的错误率比h’小，但在整个实例

“ 自Embedding的概念问世以来，Embedding的探索和应用就没有停止过，Word2Vec、Sentence2Vec、Doc2Vec、Item2Vec，甚至Everything2Vec。对，“万物皆可Embedding”。几年来，Embedding在推荐系统中的应用也越来越多，方式众多，技法新颖。”由于Embedding太过重要，本文我们将详细讲解Embedding的相关知识，以及在推荐系统中的一些应用。1.什么是embeddingEmbedding，即嵌入，起先源自于NLP领域，称为「词嵌

决策树(Decision Tree)在机器学习中也是比较常见的一种算法，属于监督学习中的一种。看字面意思应该也比较容易理解，相比其他算法比如支持向量机(SVM)或神经网络，似乎决策树感觉“亲切”许多。优点：计算复杂度不高，输出结果易于理解，对中间值的缺失值不敏感，可以处理不相关特征数据。缺点：可能会产生过度匹配的问题。使用数据类型：数值型和标称型。简单介绍完毕，让我们来通过一个例子让决策树“原形毕露”。一天，老师问了个问题，只根据头发和声音怎么判断一位同学的性别。为了解决这个问题，同学们马上

1.实验目的1.熟悉知识的表示方法2.掌握产生式系统的运行机制3.产生式系统推理的基本方法。2.实验内容运用所学知识，设计并编程实现一个小型动物识别系统，能识别虎、金钱豹、斑马、长颈鹿、鸵鸟、企鹅、信天翁等七种动物的产生式系统。规则库：r1： IF 该动物有毛发 THEN 该动物是哺乳动物r2： IF 该动物有奶 THEN 该动物是哺乳动物r3： IF 该动物有羽毛 THEN 该动物是鸟r4： IF 该动物会飞 AND 会下蛋 TH

推荐系统中用户对物品的反馈分为显式和隐式反馈。显式反馈 (如评分、评级) 或单一的隐式反馈 (如浏览、点击、加入购物车)隐式反馈 (implicit feedback)：CTR (Wangchong)CDL (Wang Hao)Neural Collaborative Filtering (Xiangnan He)显式反馈 (explicit feedback)ConvMF显式反馈转换为隐式反馈转换的方式主要有以下几种：以 movielens 数据集为例，电影评分范围为：1，2，3，4

1.实验题目遗传算法求解TSP问题，要求能可视化运行过程，并输出最终距离值，迭代步数，以及路径中的城市顺序。2.实验目的及要求熟悉和掌握遗传算法的原理、流程和编码策略利用遗传求解函数优化问题理解求解TSP问题的流程并测试主要参数对结果的影响...

1.实验题目A*算法求解N数码问题，要求程序内，输入给定初始状态和目标状态，输出所需步数，过程状态及时间（程序可直接运行，无需再手动输入）。2.实验目的及要求熟悉和掌握启发式搜索的定义、估价函数和算法过程利用A*算法求解N数码难题，理解求解流程和搜索顺序熟练掌握numpy库的相关函数3.实验原理A*算法是一种启发式图搜索算法，其特点在于对估价函数的定义上。对于一般的启发式图搜索，总是选择估价函数f值最小的结点作为扩展结点。因此，f是根据需要找到一条最小代价路径的观点来估算结点的，所以，可考

进入大学最先接触的是机器学习，吴恩达老师的机器学习课程激起了我学习的兴趣，因此自己很想深入的了解机器学习算法，加之很想学好python，在此驱动下，我坚持学习Machine learning的相关算法。最简单最初级的分类器是将全部的训练数据所对应的类别都记录下来，当测试对象的属性和某个训练对象的属性完全匹配时，便可以对其进行分类。但是怎么可能所有测试对象都会找到与之完全匹配的训练对象呢，其次就是...

title: Gradient Descentdate: 2020-01-12 12:41:33tags: [Gradient Descent]categories: Machine Learning文章目录title: Gradient Descentdate: 2020-01-12 12:41:33tags: [Gradient Descent]categories: Mach...