lhn的博客

机器学习：最小二乘支持向量机（Least Squares Support Vector Machine）参考文献《A Novel Method for Energy Consumption Prediction of Underwater Gliders Using Optimal LSSVM with PSO Algorithm》一、最小二乘支持向量机（LSSVM）LSSVM是Suykens等人提出的一种机器学习算法。LSSVM作为一种基于统计理论的改进型支持向量机，具有先进的完备理论体系，能

机器学习：稀疏核机（Sparse Kernel Machines）研究具有稀疏解的基于核的算法，以便对新输入的预测仅依赖于在训练数据点的子集处计算的核函数。一种是支持向量机（SVM）用于解决分类、回归和新颖性检测中的问题。支持向量机的一个重要性质是模型参数的确定对应于一个凸优化问题，因此任何局部解也是一个全局最优解。支持向量机是一种决策机，因此不提供后验概率。另一种稀疏核技术称为相关向量机（RVM），它基于贝叶斯公式，提供后验概率输出，并且具有比SVM更稀疏的解。一、最大边缘分类器首先讨论线性

基于多目标演化算法和改进概率分类的重尾时间序列预测参考文献《基于多目标演化算法和改进概率分类的重尾时间序列预测，邹小云，林文学》一、时间序列预测算法设计定义1：一个长度为L的时间序列定义为定义2：从时间t截断的时间序列定义为TSt，记为定义3：时间序列预测问题的定义假设一个标记时间序列的训练集为X={(TS1，CL1)，(TS2，CL2)，…，(TSn，CLn)}，其中TSi为时间序列，CLi为对应的类标签。时间序列预测分类问题定义为：根据一部分时间序列TSt*建立从时间序列到类标签的

一种多趋势时间序列预测的神经网络模型参考文献《一种多趋势时间序列预测的神经网络模型，彭相洲，陈雨》一、引言时间序列数据无处不在。用户通常期望从历史的时间数据中预测出新的趋势。例如，对近期股票数据的观测，期望预测未来股价的走势，从而获得更好的收益。然而提取时间序列的自相关趋势、互相关趋势、短期趋势、长期趋势、线性趋势以及非线性趋势等各种趋势是时间序列预测的难点。二、模型架构...

ML-逻辑回归参考视频：https://www.bilibili.com/video/BV1Rt411q7WJ一、逻辑回归逻辑回归解决的问题是分类问题。Sigmoid/Logistic Function我们定义逻辑回归的预测函数为hθ(x)=g(θTx)h_\theta(x)=g(\theta^Tx)hθ​(x)=g(θTx)，其中g(x)g(x)g(x)函数是sigmoidsigmoidsigmoid函数。sigmoidsigmoidsigmoid函数图像0.5可以作为分类的边界：

ML-线性回归与非线性回归参考视频：https://www.bilibili.com/video/BV1Rt411q7WJ一、一元线性回归梯度下降法Python实现梯度下降import numpy as npimport matplotlib.pyplot as pltfrom pandas import read_csvdef read_data(file): data = read_csv(file) x = data.iloc[:,0].tolis

Python深度学习：数据加载1、Dataset基类torch.utils.data.Dataset以一个案例来描述如何使用Dataset来加载数据。数据来源：https://archive.ics.uci.edu/ml/datasets/SMS+Spam+Collection数据介绍：用于骚扰短信识别的经典数据集，每行开头用ham和spam标识正常短信和骚扰短信。from torch.utils.data import Datasetdata_path = "./smsspamcollect

Python深度学习：常见优化算法与数据加载一、常见优化算法二、数据加载

Python深度学习：PyTorch API1、nn.Moduleinitforward：完成一次前向计算的过程nn.Linear(input的特征数量， output的特征数量)class Lr(nn.Module): ''' 定义模型 ''' def __init__(self): super(Lr, self).__init__() self.linear = nn.Linear(1, 1) def for

Python深度学习：梯度下降与反向传播1、梯度向量、学习（参数更新）方向2、梯度下降a、算出梯度b、▽w = (f(w + Δx) - f(w - Δx)) / (2 * Δx)c、w = w - α▽w3、常见的导数计算导数的微分形式：牛顿莱布尼茨公式 f'(x) = df(x) / dx多元函数求偏导：把其他自变量看作常数4、反向传播算法...

Python深度学习：PyTorch1、张量Tensor标量scaler：0-D Tensor向量vector：1-D Tensor矩阵matrix：2-D Tensor…2、创建Tensorimport torchimport numpy as npt1 = torch.tensor([1, 2, 3])print(t1)t2 = torch.tensor(np.arange(12).reshape(3, 4))print(t2)t3 = torch.empty(3,

Python机器学习：Pandas高级1、缺失值处理NaN类型：float判断缺失值缺失值处理：删除缺失值处理：替换

Python机器学习：PandasPandas：开源数据挖掘库，封装了Matplotlib、Numpy1、DataFrame案例增加行索引、列索引2、DataFrame属性

Python机器学习：Numpy以下演示代码基于Jupyter Notebook1、ndarray为什么用ndarray？效率高ndarray属性指定类型2、基本操作生成0和1数组从现有数组中生成生成固定范围数组生成随机数组均匀分布可视化展示正态分布均值：决定图的中轴线位置，左右对称方差：决定图数据集中程度，越小越集中，越大越分散生成正态分布数正态分布可视化展示3、索引、切片4、形状修改reshape()resize()：在原有基础上进行修改

Python机器学习：Matplotlib1、单图绘制import randomimport matplotlib.pyplot as plt# 1、容器层plt.figure(figsize=(6, 3), dpi=100)# 2、辅助显示层plt.yticks(range(40)[::2]) # y刻度plt.xticks(range(60)[::5]) # x刻度plt.grid(True) # 添加网格plt.ylabel("y")plt.xlabel("x")pl

Python机器学习：概述1、人工智能起源：图灵测试、达特茅斯会议2、机器学习是人工智能的一个实现途径，深度学习由机器学习的一个方法发展而来3、人工智能发展必备三要素：数据、算法、算力4、什么类型的数据适合在GPU上运行：计算密集型、并行5、人工智能主要分支：计算机视觉CV、自然语言处理NLP、机器人6、CPU：IO密集型；GPU：计算密集型7、机器学习定义：从数据中自动分析获得模型，并用模型对未知数据进行预测8、工作流程：a.用户数据、b.数据基本处理、c.特征工程、d.机器学习、e.模型