gs1we1的博客

逻辑回归(Logistic Regression)是机器学习中的一种分类模型，，虽然名字中带有回归，但是它与回归之间有一定的联系。由于算法的简单和高效，在实际中应用非常广泛。逻辑回归一般用于二分类问题,比如:是好瓜还是坏瓜健康还是不健康可以托付终身还是不可以。

十 集成学习方法之随机森林机器学习中有一种大类叫集成学习（Ensemble Learning），集成学习的基本思想就是将多个分类器组合，从而实现一个预测效果更好的集成分类器。集成算法可以说从一方面验证了中国的一句老话：三个臭皮匠，赛过诸葛亮。集成算法大致可以分为：Bagging，Boosting 和 Stacking 三大类型。（1）每次有放回地从训练集中取出 n 个训练样本，组成新的训练集；（2）利用新的训练集，训练得到M个子模型；（3）对于分类问题，采用投票的方法，得票最多子模型的分类类别为最终

假设现在我们有一个数据集，它由两类数据组成，数据分布如下图所示：也就是说，我们会选择高概率对应的类别。这就是贝叶斯决策理论的核心思想，即选择具有最高概率的决策。已经了解了贝叶斯决策理论的核心思想，那么接下来，就是学习如何计算p1和p2概率。

获取数据、数据处理、特征工程后，就可以交给预估器进行机器学习，流程和常用API如下。1.实例化预估器(估计器)对象(estimator)， 预估器对象很多,都是estimator的子类（1）用于分类的预估器sklearn.neighbors.KNeighborsClassifier k-近邻sklearn.naive_bayes.MultinomialNB 贝叶斯sklearn.linear_model.LogisticRegressioon 逻辑回归。

特征工程:就是对特征进行相关的处理一般使用pandas来进行数据清洗和数据处理、使用sklearn来进行特征工程特征工程是将任意数据(如文本或图像)转换为可用于机器学习的数字特征,比如:字典特征提取(特征离散化)、文本特征提取、图像特征提取。特征工程步骤为：特征提取， 如果不是像dataframe那样的数据，要进行特征提取，比如字典特征提取，文本特征提取无量纲化(预处理)降维底方差过滤特征选择主成分分析-PCA降维。

Python语言机器学习工具Scikit-learn包括许多智能的机器学习算法的实现Scikit-learn文档完善，容易上手，丰富的API接口函数Scikit-learn官网：https://scikit-learn.org/stable/#Scikit-learn中文文档：https://scikitlearn.com.cn/scikit-learn中文社区数据量小，数据在sklearn库的本地，只要安装了sklearn，不用上网就可以获取数据量大，数据只能通过网络获取。