phasorhand的博客

10 分钟 阅读作者 MJ Bahmani2022 年 1 月 25 日更新我已经使用lightGBM有一段时间了。对于大多数扁平数据问题，这是我的首选算法。它有很多突出特性，我建议你浏览一下。但我一直很想了解哪些参数对性能的影响最大，以及我应该如何调整 lightGBM 参数以充分利用它。我想我应该做一些研究，更多地了解 lightGBM 参数…并分享我的研究过程。具体来说我做了以下事项：深入研究LightGBM 的文档浏览 Laurae 文章Lauraepp：xgboost / L.

朴素贝叶斯概述：优点：数据较少的情况下仍然有效，可以处理多类别问题缺点: 对于输入数据的准备方式较敏感适用数据类型：标称型数据贝叶斯决策理论核心选择具有最高概率的决策条件概率条件概率的计算公式如下所示:P ( g r a y |bucketB) = p (gray a n d b u c k e t B ) / P ( b u c k e t B )另一个有效计算条件概率的...

回归：对数据点拟合的过程利用Logistic回归进行分类的主要思想是：根据现有数据对分类边界线建立回归公式，以此进行分类一般过程：(1)收集数据：采用任意方法收集数据。(2)准备数据：由于需要进行距离计算，因此要求数据类型为数值型。另外，结构化数据格式则最佳。(3)分析数据：采用任意方法对数据进行分析。(4)训练算法：大部分时间将用于训练，训练的目的是为了找到最佳的分类回归系数。(...

神经元模型神经网络（neural networks）：“神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应”［Kohonen, 1988］神经网络中最基本的成分：神经元（neurol）模型，即上述定义中的“简单单元” ．M-P 神经元模型：在这个模型 中 ， 神经元接收到来自n个其他神经元传递过来的输入信号？这些输入信号通过...

代价函数下图的谁他0没有参与正则化反向传播算法实例为了计算结果项采用前向传播算法？为了计算倒数项采用反向传播算法（右侧为向量表示）先用前向传播算法再用后向传播算法...

83 决定下一步做什么做之前了解这样做是否有效（筛除无效的选项）Machine learning diagnostic84评估假设（训练集 测试集）取数据前最好打乱一下85 模型选择和训练、验证模型选择问题：数据集最合适的多项式次数如何选用正确的特征选择算法中的正则化参数lambda只有测试集无法考察泛化能力根据测试集的表现选择了模型（相当于测试集参与训练了），再用...

93 确定执行的优先级问题：如何制定一个复杂的机器学习系统设计复杂机器学习系统时所涉及到的问题案例1 Building a spam classifier邮件的特征向量手动挑出单词根据词频挑出单词问题一：如何在有限的时间让分类器高精度低错误率收集更多的素材邮件的标题处理作特征邮件的正文处理作特征（例如感叹号，med1cine）94 误差分析问题：误差分析...