qy724728631的博客

给定训练集D，在样本空间上找到最鲁棒的超平面，将不同类别的样本分开。对于线性可分问题，超平面的线性方程为，样本空间内任一点x到平面的距离为。若超平面分类正确，则对应y=+1为正类，否则y=-1。距离超平面最近的几个样本称为支持向量，两个异类支持向量到超平面的距离之和为，称为间隔。优化目标：找到参数w和b在划分正确的前提下使得间隔最大，即         上述问题等价于：

哈希表          散列（hash）是以常数平均时间复杂度进行插入，删除和查找的继续，但不支持排序操作。       每个关键字被映射到从0到TableSize-1范围中的某个数，并放到适当的单元中，这个映射就叫做散列函数（hash function），理想情况下不同关键字映射到不同单元，但由于单元有限，因此要寻找散列函数在单元间均匀地分配关键字。当两个关键字散列映射到同一个值的时候...

转自：http://www.cnblogs.com/ModifyRong/p/7739955.html1.简介      逻辑回归是面试当中非常喜欢问到的一个机器学习算法，因为表面上看逻辑回归形式上很简单，很好掌握，但是一问起来就容易懵逼。所以在面试的时候给大家的第一个建议不要说自己精通逻辑回归，非常容易被问倒，从而减分。下面总结了一些平常我在作为面试官面试别人和被别人面试的时候，经常遇到...

转自：https://www.cnblogs.com/ModifyRong/p/7744987.html1.简介       gbdt全称梯度下降树，在传统机器学习算法里面是对真实分布拟合的最好的几种算法之一，在前几年深度学习还没有大行其道之前，gbdt在各种竞赛是大放异彩。原因大概有几个，一是效果确实挺不错。二是即可以用于分类也可以用于回归。三是可以筛选特征。这三点实在是太吸引人了，导致...

        整个排序能够在主存中完成，元素个数相对较小（小于10^6），称为内部排序，若不能在主存中完成而必须在磁盘或磁带上完成的排序则为外部排序。插入排序       由N-1趟排序组成，对于P = 1到P=N-1趟，插入顺序保证从位置0到P上的元素为已排序状态。void insertSort(vector<int>& a){ int i, j;...

       支持向量机(supportvector machine ,SVM)是一种二类分类模型.它的基本模型是定义在特征空间上的能够正确划分训练数据集并且几何间隔最大的线性分类器。支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规划的问题,也等价于正则化的合页损失函数的最小化问题，支持向量机的学习算法是求解凸二次规划的最优化算...

参考：http://www.cnblogs.com/grandyang/p/8887985.html        所谓的单调栈Monotone Stack，就是栈内元素都是单调递增或者单调递减的。        单调栈的一大优势就是线性的时间复杂度，所有的元素只会进栈一次，而且一旦出栈后就不会再进来了。       单调递增栈可以找到左起第一个比当前数字小的元素。比如数组 [2 1 ...

        Auto-Keras是一款开源的，用于自动化机器学习的高级API，它能够在指定的时间内帮助我们寻找最优的网络结构，是一款非常棒的API！我们将会开始介绍Auto-Keras的安装和使用方法，并且配以实践项目加以说明。注意：忘记再哪看到了，目前autokeras貌似只适用于python3.6（一）安装PyTorch、KerasAuto-Keras依赖于PyTorch、Ker...

算法一：冒泡排序每次比较相邻两元素，若错序则交换，多次遍历，直至无交换，实质上需要排序k-1趟，每次找到未排序元素中的最大值放在已排序序列最后面，稳定。void bubble_sort(int array[], int n){ int i, j; for (i = 0; i < n - 1; i++) //排序n-1趟，每次寻找未排序序列中的最大值 {...

1. Two SumGiven an array of integers, return indices of the two numbers such that they add up to a specific target.You may assume that each input would have exactly one solution, and you may not u...

 二叉树        一棵二叉树（binary tree）由结点（node）的有限集合组成，这个集合或者为空（empty），或者由一个根结点（root）以及两棵不相交的二叉树组成，这两棵二叉树分别称为这个根的左子树（left subtree）和右子树（right subtree）。这两棵子树的根称为此二叉树根结点的子结点（children）；从一个结点到其两个子结点都有边（edge）相连，这...

集成学习（ensenmblelearning）构建并结合多个学习器来学习，常可获得比单一学习器显著优越的泛化性能。PAC（概率近似正确）定义：弱学习器为泛化性能略高于随机猜测的学习器，强学习器指的是识别准确率高并且能在多项式时间内完成的学习器。集成学习可将多个弱学习器结合以达到强学习器的效果。对于集成学习中，个体学习器要有一定的准确性（至少不差于弱学习器）并且要有多样性，即学习期间有差异，然而准确

 扎实的基础知识：1.编程语言（C++）：概念理解                            分析代码运行结果                            写代码定义一个类或类的成员函数（构造函数，析构函数，运算符重载）                            《Effective C++》，《C++ primer》2.数据结构（二叉树和链表...

线性模型，使用最小二乘参数估计使模型预测结果与实际结果y之间的均方误差最小，得到参数w和b（其中b可以算作w的最后一列，对应属性值恒置为1）。线性模型形式简单，易于建模，引入层级结构或高维映射后可得到更为抢到的非线性结构。)为广义线性模型，有加权最小二乘法或极大似然法进行参数估计。对于二元分类问题，y的取值为0或1，假设不同类别训练样本数目相同，当预测的y值大于0.5认证为正，反之为负，y

一颗决策树包含一个根结点，若干内部结点（对应一个测试属性）和若干叶结点（对应决策结果）。决策流程采用分而治之的整体思想，根结点包含样本全集，对各个特征进行判断，直至所有叶结点均对应一种类别的样本。决策树的关键在于划分属性的选择，随着划分不断进行，分支结点所包含样本应尽可能属于同一类别，即纯度越来越高，有三种划分属性选择指标：（1）  信息增益Gain（D，a）= H(D)-H(D|a)：以

 变量和基本类型 1. int和long的范围一致，-2147483648~2147483647，若超过int范围选用long long。2. char在一些机器上有符号，一些机器上无符号，所以用char直接做运算，容易出错。3. 执行浮点数运算，使用double，float精度不够，且二者计算代价相差无几，有些甚至double更快。4. 浮点数赋值给整形变量时，不四舍五入，只...

        Alexnet在 2012年 ImageNet 竞赛中以超越第二名10.9个百分点的优异成绩一举夺冠，从而打响了卷积神经网络、乃至深度学习在计算机视觉领域中研究热潮的“第一枪”。                                                      图是AlexNet的网络结构，共含五层卷积层和三层全连接层。AlexNet的上下两支是...

      卷积神经网络是一种层次模型，其输入是原始数据，如 RGB图像、原始音频数据等。卷积神经网络通过卷积操作、汇合（pooling）操作和非线性激活函数映射等一系列操作的层层堆叠，将高层语义信息逐层由原始数据输入层中抽取出来，逐层抽象，这一过程便是“前馈运算”。其中，不同类型操作在卷积神经网络中一般称作“层”：卷积操作对应“卷积层”，汇合操作对应“汇合层”等等。最终，卷积神经网络的最后一层将...

算法    算法（algorithm）是为求解一个问题需要遵循的、被清楚地指定的简单指令的集合。 数学基础1. 大O表示法：      如果存在正常数 c 和 n0 使得当 N ≥ n0时，T(N) ≤ cf(N)，则记为T(N) = O(f(N))。    （描述了T(N)的相对增长率小于等于f(N)的相对增长率。）2. 大Ω表示法：      如果存在正常数 c...

 线性表（List）        线性表的实现有两种标准方法——顺序表（array-based list或sequential list）和链表（linked list）。        顺序表由数组实现，顺序存储大小事先固定，可能浪费大量空间，优点是可以随机访问O(1)，但插入和删除为O(n)；        链表元素的个数就没有限制，不连续存储，链表的空间需求为O(n)，访问元素...

一般引入tensorflow都用语句： import tensorflow as tf1. 常量：a=tf.constant(10)2. 变量：x=tf.Variable(tf.ones([3,3])) y=tf.Variable(tf.zeros([3,3]))变量定义完后，还必须显式的执行一下初始化操作，即需要在后面加上一句：init=tf.initializ...