fanfan4569的博客

Topic: 最小二乘法代数求解 实战 最小二乘法矩阵求解 实战 使用 scikit-learn 进行线性回归预测 本文为实战篇，理论篇：线性回归理论最小二乘法代数求解 实战步骤：定义数据集， 使用 numpy 绘制图形， 使用matplotlib定义拟合直线函数，平方损失函数，计算求解绘制图像测试用例，预测结果...

逻辑回归的类及默认参数：LogisticRegression(penalty='l2', dual=False, tol=0.0001, C=1.0, fit_intercept=True, intercept_scaling=1, class_weight=None, random_state=None, solver='liblinear', max_iter=100, multi_c...

Topic: KNN 算法原理 常用距离算法 决策规则 Kd 树 一、KNN 算法原理什么是最近邻算法（NN） ？最近邻算法（Nearest Neighbor，简称：NN）：其针对未知类别数据 xxx，找到与其距离最近的数据 yyy，将xxx 划入 yyy 的分类中如上图所示，通过计算数据 XuXuX_{u} （未知样本）和已...

一、步骤数据准备：通过数据清洗，数据处理，将每条数据整理成向量。 计算距离：计算测试数据与训练数据之间的距离。 寻找邻居：找到与测试数据距离最近的 K 个训练数据样本。 决策分类：根据决策规则，从 K 个邻居得到测试数据的类别。 下面尝试一个KNN分类流程（1）数据生成"""生成示例数据"""import numpy as npd...

Topic： 加载数据集 数据划分 训练模型 模型预测 准确率计算 K值选择 一、步骤（1）加载数据集本次使用的数据集为丁香花数据集course-9-syringa.csv，丁香花数据集包含 daphne，syringa 和 willow 等 3 个种类，即标签（labels），其中每个种类包含 150 条数据，每条数据包含 4 个特...

文章目录一、朴素贝叶斯基础（1）条件概率（2）贝叶斯定理二、朴素贝叶斯算法实现一、朴素贝叶斯基础（1）条件概率条件概率就是指事件 AA 在另外一个事件 BB 已经发生条件下的概率。![在这里插入图片描述](https://img-blog.csdnimg.cn/20181111191434146.png?x-oss-process=image/watermark,type_Zm...

文章目录一、数据集介绍及预处理二、数据集划分三、建立分类预测模型四、分类准确率计算一、数据集介绍及预处理本次应用到的数据集为企业运营评估数据集 course-10-company.csv，总共有 250 条数据，每条数据包括 6 个特征值，分别为：industrial_risk: 产业风险management_risk: 管理风险finacial_flexibility: 资金灵活...

情景：小样本、非线性及高纬模式识别，不仅可以应用于线性分布数据，还可以用于非线性分布数据文章目录一、支持向量机（1）什么是支持向量机？（2）支持向量机分类演示二、硬间隔表示及求解三、软间隔表示及求解四、非线性分类支持向量机（1） 核技巧与核函数线性核函数多项式核函数高斯径向基核函数Sigmoid 核函数（2） 多分类支持向量机一、支持向量机（1）什么是支持向量机？支持向量机（Su...

一、前言二、感知机三、实战

使用逻辑回归完成分类任务。一、 步骤（1）加载数据集# !wget http://labfile.oss.aliyuncs.com/courses/1081/course-8-data.csvimport pandas as pddf = pd.read_csv("course-8-data.csv", header=0) # 加载数据集df.head() # 预...

本章开始学习分类啦~ Topic: 逻辑回归 （ 逻辑回归 与 线性回归的关系） 逻辑回归模型 梯度下降法 一、逻辑回归逻辑回归（Logistic Regression），又叫逻辑斯蒂回归，是机器学习中一种十分基础的分类方法。逻辑回归是中分类方法，而并不是回归方法线性可分在二维平面内，如果只使用一条直接就可以将样本分开，则称...

Topic: 什么是机器学习？ 什么是监督学习？监督什么？ 什么是回归，什么是分类？ 一、简介（1）什么是机器学习？通常所说的「机器学习」往往就是指「统计机器学习」统计机器学习，英文是：Statistical Machine Learning，它是概率论、统计学、计算理论、最优化方法、以及计算机科学组成的交叉学科，其主要的研究对象是如...

Topic : 尝试加载一个真实数据集，并使用 scikit-learn 构建预测模型，实现回归预测 （以波士顿房价数据集为例）使用最小二乘法进行线性回归拟合 简介：线性回归步骤：使用 Pandas 加载并预览数据集选取特征，用于线性回归模型训练划分数据集，为训练集和测试集构建和训练模型输入测试集特征进行预测评估回归预测结果（平均绝对误差、平均...

Topic: 多项式回归简介 多项式拟合 多项式特征矩阵 之前学习了 线性回归，那么多项式回归又是什么呢？一、多项式回归简介在线性回归中，我们通过建立自变量 x 的一次方程来拟合数据而非线性回归中，则需要建立因变量和自变量之间的非线性关系。从直观上讲，也就是拟合的直线变成了「曲线」。对于非线性回归问题而言，最常见的便是「多项式...

Topic 实现二次多项式拟合 实现多次多项式拟合 使用 scikit-learn 进行多项式拟合 本篇是多项式回归代码实践篇，理论篇：多项式回归理论一、实现 二次多项式拟合步骤：定义数据集使用matplotlib 图像显示数据集点分布情况定义 2 次多项式函数及误差函数获取随机数使用scipy 提供的最小二乘法类，得到最佳拟合...

Topic 什么是线性回归？原理及实现 什么是最小二乘法？ 最小二乘法代数求解 最小二乘法矩阵求解 一、线性回归先来回想下： 回归 回归 面对的一群连续值，从这群连续的点钟找出误差最小的线，从而来预估其他点 通过找到一条直线去拟合数据点的分布趋势的过程，就是线性回归的过程然而这种线可能会有很多，那么如何从中找出最合适的线呢...

Topic: 尝试加载一个真实数据集，并使用 scikit-learn 构建预测模型，实现多项式回归预测 以世界麻疹疫苗接种率基础篇详看：多项式回归步骤：加载数据集定义训练和测试使用的自变量和因变量建立线性回归模型线性回归误差计算多项式回归预测次数选择MSE# 1. 下载数据集# !wget http://labfile.o...

Topic: 为什么需要岭回归？ 岭回归如何防止模型出现过拟合 岭回归代码 一、为什么需要岭回归？（1） 线性回归不好？线性回归主要根据 最小二乘法那么，哪里出了问题呢？最小二乘法的目标：使得训练集中的真实集与回归模型的估计值的均方差最小；我们的目标：测试集中的真实值与回归模型的估计值的差异最小 最小二乘法的目标...

Topic: LASSO 回归 的 几何意义 LASSO 代码 LASSO 的 L1L1L_1 正则项 与 岭回归 的 L2L2L_2 有什么不同？ 一、LASSO回归的几何意义与岭回归相似，LASSO 回归优化的目标函数也等价于：FLASSO=∥y−Xw∥22FLASSO=‖y−Xw‖22F_{LASSO}={\left \| y-Xw...

文章目录一、前言二、概念（1）什么是激活函数（2）激活函数的作用（3）反向传播直观认识三、实战（1）定义神经网络结构（2） 前向传播（3） 反向传播一、前言人工神经网络（英语：Artificial neural network，简称：ANN）感知机模型就是一个人工神经网络，只不过是一个结构简单的单层神经网络。当要解决线性不可分或者多分类问题，往往会尝试将多个感知机组合在一起，变成一个更复...