weixin_41297324的博客

我们用实验室带有多块卡的GPU服务器，当我们在上面跑程序的时候，当迭代次数或者epoch足够大的时候，我们通常会使用nn.DataParallel函数加入以下代码段来用多个GPU来加速训练。device_ids = [0, 1]net = torch.nn.DataParallel(net, device_ids=device_ids)然鹅，也常常会由于正在运行程序的0卡显存不够放不下我们新来的模型初始化数据而导致显存OOM的问题不断，使得模型无法训练，同时报出警告：UserWarning

目录决策树Q1:决策树是什么？Q2:信息增益中信息熵的概念是什么？Q3:在一个样本集中，其中有100个样本属于A，9900个样本属于B，若通过决策树算法来实现对A、B样本的分类，会遇到什么问题？Q4:什么是过拟合？决策树出现过拟合现象如何处理？Q5:预剪枝和后剪枝是什么？剪枝包含哪些参数？Q6:决策树算法如何对特征进行筛选？Q7:正则化Q8:决策树算法和逻辑回归算法之间的区别？Q9:算法进行模型评估的过程中，常用的一些指标都有哪些，精度、召回率、ROC曲线，这些指标的

目录支持向量机Q1：什么是SVM？Q2：什么是支持向量？alpha什么时候为0，什么时候不为0？Q3：如何提高SVM泛化能力？Q4：SVM为什么要引入核函数？Q5：SVM中引入SMO算法是为了解决什么问题？Q6：SVM有什么优缺点？支持向量机Q1：什么是SVM？支持向量机(SVM)本质上是一种二分类模型，它的基本模型是通过在特征空间中寻找一个间隔最大化的分割超平面来进行线性分类的分类器模型。它进行分割的策略主要有三种：当训练样本线性可分时，通过硬间隔最大化学习

（一）AutoML研究分析 （二）AutoML功能解析 （三）如何实现AutoML-先Auto每个环节 （四）AutoML技术现状与未来展望

在下载好libsvm后，它自带了一个heart_scale可以用来测试，今天我用UCI的iris数据集简单测试了SVM。iris数据集共150个样本，我采用了100个作为训练样本，50个作为测试样本，以 iris_train.scale作为训练数据和以iris_test.scale作为测试数据，同时修改好将 python的路径，并将 grid.py 文件中关于 gnuplot 路径的默认值修改...

1. libSVM的数据格式Label 1:value 2:value ….Label：是类别的标识，比如上节train.model中提到的1 -1，你可以自己随意定，比如-10，0，15。当然，如果是回归，这是目标值，就要实事求是了。Value：就是要训练的数据，从分类的角度来说就是特征值，数据之间用空格隔开比如: -15 1:0.708 2:1056 3:-0.3333需要...

决策树算法描述：ID3与C4.5的区别在于：【1】ID3使用信息增益作为特征选择的度量【2】C4.5使用信息增益率作为特征选择的度量C4.5用信息增益率来选择属性，克服了用信息增益选择属性是偏向选择去之多的属性的不足；在树的构造过程中进行剪枝；能够对连续的属性进行离散化处理；能够对不完整的数据进行处理。实验过程：根据西瓜数据集2.0的数据，对'色泽', '根...

1、决策树是一个树结构（可以是二叉树或非二叉树）决策树是一个树结构（可以是二叉树或非二叉树)其每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放一个类别。使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，知道到达叶子节点，将叶子节点存放的类别作为决策结果。2、决策树分为分类树和回归树分别针对应...