weixin_48618536的博客

本文中布谷鸟算法CS、遗传算法GA、粒子群PSO已经都封装，可以直接在其他模型中进行使用。

【代码】[python]cs、pos优化svm分类，pr曲线输出。

求解f=sin（x1）+…sin(x50）最小值，其中x取值范围各不同，上下限为【0,3】之间任意小数。通过pos方法，采用python和c#进行求解。采用PyCharm Community Edition 2021.2.3编译器进行编写，通过pos方法进行函数求解。采用Visual Studio Code编译器进行编写，通过pos方法进行函数求解。

用python 生成三维图实例。

【代码】【python】人工蜂群算法求解函数值。

保证[0,1]params = {'max_depth': math.ceil(individual[0]),#取整'learning_rate': math.fabs(individual[1]),#取绝对值这里的目标函数接受一个个体（即一组参数）作为输入，并返回该个体的交叉验证误差。这里我们使用了随机数生成器来初始化每个参数，并定义了交叉和变异操作。

模型中特征值2个，目标值1个，data数据集如图所示。搭建kriging参数值预测模型。

本博文中数据集主要以excel的形式存在，通过xlrd实现对数据集的读取，其中x.xlsx为特征值数据集，y.xlsx为目标值数据集。要注意，xlrd版本一定要是1.2.0，否则会报。实现多输入多输出的BP神经网络回归模型。

实现多输入多输出的SVR模型。实现对数据集的读取，其中。本博文中数据集主要以。

GWO是一种基于灰狼行为的优化算法，由Mirjalili等人于2014年提出。该算法模拟灰狼群的捕猎行为，通过模拟狼群中的Alpha、Beta、Delta三种角色的行为来实现全局优化。GWO算法具有收敛速度快、精度高、易于实现等优点，已经成功应用于多种优化问题中。总的来说，GWO算法是一种高效的全局优化算法，可以应用于多种优化问题中。通过这些策略，GWO算法能够在搜索空间中快速地找到全局最优解。

支持向量回归（Support Vector Regression，SVR）是一种基于支持向量机（SVM）的机器学习算法，用于建立训练数据的非线性回归模型。

本博客分享代码主要实现用序列最小优化算法smo二次规划算法qp内点法算法ipm分别优化svm多分类算法，需要注意的是，本文使用的数据集特征内含3个以上，因此具有很高的普适性。

XGBoost (Extreme Gradient Boosting)是一种基于梯度提升决策树的机器学习算法。它是一种高效、灵活和可扩展的技术，而且在许多机器学习竞赛中都表现出色。该算法的主要思想是通过构建多个决策树模型来逐步改进预测结果，每一次迭代都会针对之前模型预测错误的部分进行改进。XGBoost 使用正则化技术避免过拟合，并支持并行计算加速训练过程。此外，它还提供了特征重要性评估、缺失值处理、交叉验证等功能。

SA算法是模拟退火（Simulated Annealing）算法的缩写，它是一种基于统计力学原理的随机优化算法。该算法源自材料科学领域的退火过程，在计算机科学领域中被广泛应用于组合优化和排列问题等。SA算法通过引入随机性来避免陷入局部最优解，模拟物质的温度慢慢冷却的过程，在冷却的过程中逐步减少接受次优决策的概率，从而在达到稳态时收敛到全局最优解。在算法执行过程中，SA会对每一个状态进行评估，并按照一定的概率接受次优解，从而在搜索空间中移动。

蜜蜂算法是一种基于蜜蜂的群体行为模拟的解优算法。其灵感来源于蜜蜂在寻找食物、建筑巢穴等任务中的群体行为。蜜蜂算法通过对这种行为的模拟来实现搜索空间中最优解的寻找。蜜蜂算法的基本思想是，将参数空间视为蜂巢，并在参数空间中展开搜索，将搜索任务分配给一群“蜜蜂”。每个“蜜蜂”在搜索空间中进行搜索，并与其他蜜蜂共享其搜索结果。通过某些操作，蜜蜂会找到最优解并返回给算法，最终获得全局最优解。蜜蜂算法的优点是可以在大型搜索空间中有效运行，同时能够克服局部最优解。

贝叶斯优化（Bayesian Optimization）是一种用于黑盒函数优化的序列模型优化方法。它在较少的函数评估次数下，尝试寻找全局最优解。贝叶斯优化使用高斯过程（Gaussian Process）作为先验模型来建模未知的目标函数。通过对目标函数进行一系列评估和建模迭代，贝叶斯优化能够根据当前模型的置信度，选择下一个最有希望改善性能的输入点进行评估。

分类算法是一类机器学习算法，用于将不同的数据实例分到预定义的类别或标签中。以下是一些常见的分类算法：逻辑回归（Logistic Regression）：通过对线性函数应用sigmoid函数，将数据映射到一个概率值，然后根据阈值对数据进行二分类。决策树（Decision Tree）：构建一棵树状结构来表示特征之间的关系，并根据特征的取值分割数据，最终将数据分到不同的类别中。支持向量机（Support Vector Machine，SVM）：寻找一个超平面来确保不同类别的数据之间的最大间隔。

OODACE是一种软件工程方法论，它代表面向对象设计、分析、编程和评估（Object-Oriented Design, Analysis, Programming, and Evaluation）。其目标是在软件开发过程中提供一种结构化的方法，帮助开发人员更好地理解和应用面向对象的概念。分析阶段旨在识别系统的需求和功能，并将其转化为对象模型。设计阶段涉及确定如何组织和设计这些对象以实现系统的期望功能。编程阶段涉及将设计转化为可执行的代码，并进行测试和调试。

NSGA-II（Non-dominated Sorting Genetic Algorithm II）是一种多目标优化算法，用于解决具有多个冲突目标的优化问题。它通过模拟进化过程中的自然选择和遗传操作，逐步改进种群中的解，以找到一组尽可能好的解，这些解在多个目标下都是非支配的（Pareto优解）。# 定义自变量的类self.x = x# 计算目标函数的值c = self.x#rmse。

由于之前毕设期间主要的工具就是支持向量机，从基础的回归和分类到后来的优化，在接触到支持向量机还有一类支持向量机的，对其产生了一定的兴趣，并对研究过程中的相关示例进行记录，主要是基础的一类支持向量机OC-SVM示例和蜂群算法优化一类支持向量机超参数示例，方便后续的查看。OC-SVM（One-Class Support Vector Machine）是一种支持向量机（Support Vector Machine，SVM）的变体，用于异常检测和异常检测问题。

在上则博文【算法】一类支持向量机OC-SVM（1）中，我们提及到了蜂群算法优化一类支持向量机超参数模型，采用的适应度函数是r方，用的python 自带的r2_score模块，后来想想，不太合适，效果不佳，索性简单粗暴，直接比较分类正确的数量，然后进行适应度判断。同时，增加散点图分布来提高查阅效果。基于以上情况，对编写过程进行一个记录，方便后续同样情况的适用。