柳杰的博客

文章目录1.线性可分支持向量机-SVM1）几何间隔、函数间隔、目标函数2）拉格朗日乘子法求解带有等式约束的问题3）拉格朗日乘子法求解带有不等式约束的极值问题、KKT条件4)SVM目标函数求解5.SVM求解举例1.线性可分支持向量机-SVM1）几何间隔、函数间隔、目标函数同一条直线(系数成倍的放大、缩小)的几何间隔相同，但函数间隔会不同2）拉格朗日乘子法求解带有等式约束的问题3）拉格朗日乘子法求解带有不等式约束的极值问题、KKT条件如果不等式约束是大于0或者大于等于0，则必须先转换成小

文章目录1.数据准备2.数据采样3.建模与调参最终代码1.数据准备# 信用卡反欺诈模型# 识别数据中的虚假信息import pandas as pdimport numpy as npimport matplotlib.pyplot as plt# 数据准备# 1.加载数据data = pd.read_csv('data/creditcard.csv',delimiter=',')print(data.shape)print(data.head(5))# 样本类别分布情况pri

文章目录1.过采样（上采样）1）随机过采样2）SMOTE方法3).Border-line SMOTE4).ADASYN-自适应合成采样2.下采样-降采样1）原型生成2）原型选择3）NearMiss3.过采样与下采样结合1）SMOTEENN2)SMOTETomek1.过采样（上采样）1）随机过采样# 统计数据from collections import Counterimport matplotlib.pyplot as plt# 过采样from imblearn.over_sampling

文章目录1.数据说明与预处理2.探索性分析3.数据的预处理与特征工程4.模型训练5.模型评价1.数据说明与预处理import pandas as pdimport matplotlib.pyplot as plt# 加载数据bank = pd.read_csv('data/bank-full.csv',delimiter=';')# 通过查看前五行简要查看数据集的构成print(bank.head(5))# 通过describe()和info()函数查看各类数据的分布情况# 用 des

文章目录1.集成学习简介2.Voting1）Voting能够提高准确度的原因2）Voting的原理3）代码实现1.集成学习简介2.Voting1）Voting能够提高准确度的原因2）Voting的原理硬投票分类器软投票分类器3）代码实现...

文章目录1.PCA简介与原理2.PCA的一种算法-基于协方差矩阵的特征值分解算法1) 原理2)代码实现1.PCA简介与原理2.PCA的一种算法-基于协方差矩阵的特征值分解算法1) 原理2)代码实现import matplotlib.pyplot as pltimport numpy as np# 加载数据def loaddata(): data = np.loadtxt('data/pca_data.csv', delimiter=',') return data

文章目录1.K-means简介与基本原理1）简介2）基本原理2.K-means距离计算方法3.K-means代码实现4.Sklearn实现K-means5.层次聚类1）原理及距离计算2）层次聚类示例1.K-means简介与基本原理1）简介2）基本原理2.K-means距离计算方法一般使用欧氏距离，作为距离度量3.K-means代码实现# K-means代码实现import matplotlib as mplimport matplotlib.pyplot as pltimport

文章目录1.朴素贝叶斯模型2.朴素贝叶斯代码实现4.拉普拉斯修正及其代码实现5.朴素贝叶斯如何处理连续数据6.sklearn实现朴素贝叶斯7.垃圾邮件识别1.朴素贝叶斯模型2.朴素贝叶斯代码实现import numpy as np# 定义加载数据的函数def loaddata(): X = np.array([[1, 'S'], [1, 'M'], [1, 'M'], [1, 'S'], [1, 'S'], [2, 'S'], [2, 'M'],

文章目录1.熵、条件熵2.信息增益、ID3算法1）信息增益2）ID3算法构建决策树3.ID3决策树的代码实现4.C4.5决策树5.基尼指数生成决策树6.预剪枝与后剪枝7.决策树处理连续值与缺失值8.多变量决策树9.sklearn实现决策树10.案例：使用决策树进行个人信用风险评估1.熵、条件熵2.信息增益、ID3算法1）信息增益2）ID3算法构建决策树3.ID3决策树的代码实现import operatorimport numpy as np# 定义加载数据的函数def l

文章目录1.形式化定义2.逻辑回归求解举例说明3.逻辑回归代码实现4.逻辑回归的正则化1）理论部分2）代码实现5.逻辑回归实现多分类1）原理6.sklearn实现逻辑回归7.案例：鸢尾花分类8.案例：手写数字识别1.形式化定义解决的是分类问题，类别分别是0和12.逻辑回归求解举例说明3.逻辑回归代码实现import matplotlib as mplimport matplotlib.pyplot as pltimport numpy as npfrom sklearn.metric

文章目录1.形式化定义2.梯度下降法1)举例2）数学原理3）代码演示3.梯度下降法求解线性回归1）理论2）线性回归代码实现梯度下降算法4.梯度下降算法的变形5.模型评价指标1）理论2）模型评价指标代码6.欠拟合与过拟合与正则化7.岭回归求解与代码实现8.LASSO回归推导过程、求解举例说明及其代码实现1）推导过程2）求解举例说明3）代码实现9. 最小二乘法求线性回归1）理论部分2）最小二乘法求解线性回归代码实现10.使用sklearn实现线性回归、Ridge、 LASSO 、ElasyicNet1）Scik