ttt77的博客

本文提出了一种基于神经元嵌入的神经网络置换不变表示方法，通过引入可学习的神经元嵌入向量和注意力核函数，实现对神经元排列顺序不敏感的网络表示。该方法有效解决了神经进化中的置换问题，支持参数共享与跨模型兼容，并在MNIST和CIFAR-10等任务上验证了其在保持性能的同时显著减少参数量的能力。结合深度可分离卷积扩展至卷积网络，展示了良好的压缩性能与训练效率，为神经网络的紧凑表示、进化学习及结构迁移提供了新思路。

本文探讨了基于遗传编程（GP）的强化学习策略与神经网络的排列不变表示方法。通过遗传编程，实现了高可解释性的控制策略，并结合质量多样性（QD）方法有效缓解了局部最优问题；同时，提出神经元嵌入的间接编码方式，解决了神经网络在进化过程中的排列问题，提升了网络重组效率和性能保持能力。两种方法分别在策略透明性和结构优化上展现出优势，适用于不同场景，未来有望融合以构建更强大、可解释且高效的智能决策系统。

本文提出并分析了一种基于遗传编程（GP）的可解释强化学习（XRL）方法，旨在解决深度强化学习模型难以理解和复现的问题。通过在OpenAI Gym的经典控制、Box2D和Mujoco环境中进行实验，采用树型和线性两种GP表示形式，并结合多目标优化与类多臂老虎机评估策略，实现了在保持高可解释性的同时具备竞争力的性能。实验结果表明，GP-based RL策略在多个任务上可媲美甚至超越主流神经网络方法，且具有更优的可解释性。研究还探讨了可解释性与性能之间的权衡，为未来XRL的发展提供了方向。

本博客探讨了如何利用GitHub代码库中的软件指标（如代码行数、圈复杂度、AST深度等）引导遗传编程（GE）进行程序搜索。实验比较了多种搜索变体，包括基于传统选择机制的基线算法和引入代码结构相似性引导的metrics50、NSGAII等变体，评估其在性能、程序大小和内容上的表现。结果表明，限制树深度的base dmax17在控制膨胀方面表现良好，而结合n-元组频率的metrics50+ngrams在特定问题上展现出潜力。尽管当前元信息引导效果有限，但为未来通过学习转移概率、示例引导和深度学习模型提升搜索质量

本文介绍了BEACS——一种应对非确定性与部分可观测环境的创新学习分类器系统（ALCS），通过结合行为序列（BSeq）和基于经验的增强预测（EPE），有效解决了感知别名问题并构建准确的环境表示。同时，探讨了利用真实世界代码知识引导语法进化（GE）程序搜索的新方法，通过分析GitHub高质量Python函数语料库，提取LOC、圈复杂度、AST深度等软件指标，作为额外适应度信号提升生成代码的质量与可读性。文章还展示了BEACS在机器人导航与智能游戏中的应用，以及代码知识在代码生成与优化中的实践价值，并展望了未来

本文介绍了一种基于ALCS的环境精确可解释表示方法BEACS，重点探讨其在感知混淆状态（PAI状态）检测与行为序列增强方面的机制。通过在迷宫环境中与BACS和PEPACS系统的对比实验，验证了BEACS在构建完整环境表示、提高决策效率以及概率一致性方面的优越性能。实验结果显示BEACS具有高达99.15%的PAI状态检测平衡准确率，并能有效控制分类器种群增长。同时，文章分析了当前系统的局限性，提出了强化组件优化、PAI状态检测改进、分类器种群控制和表示优化等未来研究方向，展望了BEACS在复杂强化学习任务中

本文介绍了一种新型的预期学习分类器系统——行为增强预期分类器系统（BEACS），旨在解决传统ALCS在非确定性部分可观察环境中表现不佳的问题。BEACS通过将概率增强预测（PEP）改进为经验增强预测（EPE），并首次将其与行为序列（BSeq）方法耦合，显著提升了系统对环境的准确建模能力和决策策略的可解释性。实验在23个迷宫中验证了BEACS的有效性，结果表明其在处理不同类型非确定性方面优于传统方法。文章还探讨了BEACS在机器人导航和智能游戏等实际场景中的应用潜力，并展望了未来优化方向和发展空间。

本文研究了基于(1+1) EA的进化算法在超越已证明收敛范围下的单调合取式学习问题。通过设计新的容差t和引入参数ϑ，算法在更广泛的伯努利分布参数p∈(0,1)下实现了有效收敛。实验结果表明，无论目标函数长短，在所有测试p值下算法均能快速收敛，尤其在长目标情况下表现优异，且在未被理论证明的p范围内展现出更快的收敛速度。研究验证了算法在实际应用中的鲁棒性与潜力，并为未来理论证明和算法优化提供了方向。

本文研究了在可进化性框架下，受(1 + 1)进化算法启发的变异机制对单调合取式的学习能力。通过理论分析与实验验证，证明该机制在比已知收敛范围更广泛的伯努lli (p)^n分布下仍能有效实现单调合取式的进化，尤其在p∈(0,1)的多种取值下表现出良好的成功率。研究还定义了短、中、长合取式的分类标准及成功学习条件，并探讨了不同参数对算法性能的影响，为后续扩展至复杂分布和实际应用提供了基础。

本文介绍了一种结合表示学习与质量多样性方法的神经MAP-Elites（NME）算法，用于创建多样化的遗传编程集成分类器。通过使用变分自编码器（VAE）对高维误差向量进行低维编码，并将其作为行为描述符指导MAP-Elites搜索过程，显著提升了分类器集成的多样性和性能。实验结果表明，NME在多个数据集上优于传统机器学习方法和基本MAP-Elites变体，尤其在标准分类器表现不佳的任务中优势明显。文章还探讨了该方法的潜力、可扩展的高维描述符以及未来在压缩方法、参数关系和计算效率方面的研究方向。

本文介绍了一种名为Neuro-MAP-Elites（NME）的新颖框架，结合线性遗传编程（LGP）和基于神经网络的MAP-Elites算法，旨在提升分类集成模型中的错误多样性。通过引入β-VAE对高维分类错误向量进行低维编码，并作为行为描述符指导进化过程，NME在单次运行中生成多样化且高性能的分类器集合。实验结果表明，该方法在多个数据集上相比传统遗传编程显著提升了平衡准确率与错误多样性，为构建高效集成模型提供了新的思路。

本文提出了一种基于细化类型检查的遗传编程适应度函数，并在多个程序合成任务中评估其性能。实验结果表明，该方法相比传统的输入-输出示例方法和随机搜索，在更少的代数内找到解决方案，平均提升20%至32%，且在更大搜索空间下仍保持优势。细化类型能为有语法错误的程序提供细粒度的适应度反馈，增强搜索引导能力。尽管存在运行时间较长和适用范围限制等挑战，该方法为程序合成中的可扩展性和符号推理融合提供了新的研究方向。

本文提出了一种结合遗传编程与精化类型检查的程序合成模型，通过组合预定义的程序片段生成目标程序，并引入基于LiquidHaskell的精化类型适应度函数来指导搜索过程。相比传统的输入-输出示例方法，该方法在实验中平均减少约20%的迭代代数即可找到正确解，显著提升了合成效率。模型利用形式化验证技术增强搜索引导能力，为程序合成提供了一种更高效、可靠的解决方案。

本文研究了合作协同进化算法（CCEA）在团队协作优化中的应用，重点介绍了CC-(1+1)-GA$_{k_{fixed}}$和CC-(1+1)-GA$_{k_{adaptive}}$两种算法的原理与实现。通过引入可调节的团队更新规模k，算法能够在保持个体贡献可估性的同时提升搜索效率。实验基于多机器人资源选择问题，在三种不同设置下评估了算法性能。结果表明，自适应k值的算法能根据任务动态调整更新策略，避免局部最优，具有良好的适应性、高效性和鲁棒性。进一步分析了k值动态变化趋势及元参数敏感性，并探讨了其在多机器人、

本文研究了多任务线性遗传编程启发式搜索（LGPHH）与合作协同进化算法（CCEA）在不同场景下的应用与性能。通过比较LGPHH、M2GP、M2LGP等方法，分析了多任务框架对算法性能的影响，发现M2LGP和MF-LGProtate在知识迁移方面表现较好，但仍逊于M2GP。同时，探讨了CCEA在团队个体贡献评估中的作用，提出固定与自适应平衡策略，并验证自适应方法在学习效率上的优势。最后展望了将多任务LGPHH与CCEA结合应用于多智能体系统的潜力与挑战，指出未来应关注知识融合机制与动态平衡策略的研究。

本文研究了多任务线性遗传编程（LGP）在动态作业车间调度（DJSS）中的应用，提出三种基于LGP的多任务超启发式方法：MF-LGP、MF-LGProtate和M2LGP。通过同构与异构多任务场景的实验，验证了多任务框架在共享搜索知识、提升调度性能方面的有效性。结果表明，M2LGP在多数场景下表现最优，且LGP相比传统树状遗传编程具有更强的构建块复用能力，为制造业调度问题提供了高效的新解决方案。

本研究探讨了基于体素的模块化软机器人（VSRs）在不同发育时间表下的形态发育机制，采用树-神经基因型表示方法，并结合四种不同的编码方式进化其身体与控制器。通过标准进化算法对早期发育、均匀发育和无发育三种情况进行了系统比较，结果表明早期发育更有利于提升运动性能，尤其是在相位控制器下表现显著。研究揭示了发育时序对机器人整体性能的关键影响，类比生物发育过程，为人工生命系统的形态发生提供了新见解。实验代码与视频资料已公开，便于后续研究拓展。

本研究聚焦于进化模块化软机器人的形态发育，探讨发育调度对可发育体素基软机器人（VSRs）性能的影响。通过设计可进化的形态与控制器，采用基于向量和树的多种发育函数表示方法，结合早期发育与连续发育等调度策略，利用进化算法优化机器人在locomotion任务中的表现。实验结果表明，早期发育调度显著优于连续发育和无发育情况，验证了形态发育在提升机器人适应性与运动性能方面的潜力，为未来机器人设计提供了重要参考。

本博客围绕基于遗传编程的机器人逆运动学与模块化软机器人形态发育展开研究。在逆运动学方面，采用遗传编程提升模型可解释性，对比多种目标函数变体，发现多目标组合 $f [f_1(\theta), f_2]^T$ 更优，其中 IK-CCGP-2P 表现最佳，显著降低大误差率并提升解的一致性。在形态发育方面，研究表明人工代理在生命早期进行发育比终生发育更有效，类比生物发育规律，提出早期结构构建有助于后续适应与行为优化。研究为工业、医疗、救援及探索等应用场景提供了兼具可解释性与高效性的机器人设计新思路。

本文研究基于遗传编程的机器人逆运动学求解方法，提出一种合作协同进化遗传编程（IK-CCGP）算法。通过设计多目标适应度函数，包括关节角度误差、位姿误差、相关系数和维度惩罚，结合两阶段训练策略与逆输入变换技术，有效提升求解精度与收敛速度。实验以KUKA youBot为对象，验证了算法在不同关节组合和输入变体下的性能表现，结果表明IK-CCGP在处理复杂逆运动学问题时具有优越性。同时探讨了算法的通用性、优化策略及实时性等未来改进方向。

本文探讨了遗传编程（GP）在程序合成与机器人逆运动学中的应用。在程序合成中，研究发现小批量大小（2 ≤ β ≤ 10）结合词典序选择能提升测试集成功率和泛化性，且随着批量增大，选择压力降低、训练成功率下降。在机器人逆运动学方面，提出了一种新的合作协同进化遗传编程方法（IK-CCGP），用于解决非标准构型机器人的逆运动学问题。该方法具有良好的可解释性和学习灵活性，尽管精度低于人工神经网络（ANN），但为复杂机器人系统提供了一种可理解的建模途径。实验在5自由度KUKA youBot上验证了方法的有效性，并指出了

本文研究了小批量大小在遗传编程（GP）程序合成中的影响，探讨其对生成程序的成功率和泛化能力的作用。通过三个基准问题——比较字符串长度、成绩评定和小或大——的实验表明，使用小批量大小可有效降低选择压力，避免过早收敛，并在多数情况下提升模型在测试集上的表现。与标准词法选择相比，适当增大批量大小（β ≥ 2）通常能获得更好的泛化率。研究结果为优化GP在实际软件开发中的应用提供了重要参考。

本文介绍了一种基于去噪自动编码器的遗传编程模型DAE-GP，通过引入Levenshtein编辑和语法控制机制，有效平衡搜索过程中的探索与利用。实验表明，使用Levenshtein编辑且去噪强度p0.05时，模型在皇家树问题上表现最佳，显著优于标准GP及其他配置。研究还发现，适当的去噪策略能提升搜索效率和质量，未来可探索动态去噪、新架构应用及预训练策略以进一步优化性能。

本文探讨了低精度LID分类器的进化设计与去噪自编码器遗传编程（DAE-GP）在优化搜索中的应用。通过笛卡尔遗传编程与协同进化，设计出硬件高效且准确率优越的FX-8u LID分类器，结合逻辑右移预处理显著提升性能。同时，DAE-GP利用去噪自编码器LSTM模型和Levenshtein编辑策略，有效控制搜索过程中的探索与利用，适用于不同复杂度的问题。研究展示了两者在医疗诊断与优化问题中的潜力，并展望了未来结合应用的发展方向。

本文研究了基于进化计算的低精度LID分类器设计方法，采用笛卡尔遗传编程（CGP）及其加速版本CGPcoASFP进行自动化分类器生成。通过比较不同数据表示（FP、8位/16位FX）和缩放方法，实验表明CGPcoASFP在显著提升进化速度的同时避免过拟合，而8位无符号定点数（FX-8u）结合右移5位（SR-5）缩放可在保持高分类精度的前提下大幅降低硬件功耗。硬件综合结果显示，所设计的分类器C1在AUC性能和能效方面均优于高位宽实现，适用于可穿戴医疗设备等资源受限场景。研究为帕金森病运动障碍的家庭长期监测提供了高

本文提出一种基于笛卡尔遗传编程（CGP）与自适应大小适应度预测器协同进化（coASFP）的低精度左旋多巴诱发运动障碍（LID）分类器进化设计方法。通过采用8位定点表示和逻辑右移缩放等硬件友好型技术，显著降低芯片面积与功耗，同时保持甚至提升分类精度。该方法适用于专用集成电路（ASIC）实现，具备高能效、防过拟合和强泛化能力，为帕金森病患者的可穿戴监测系统提供了高效嵌入式解决方案。

SLUG是一种结合遗传算法（GA）与遗传编程（GP）的创新特征选择方法，通过GA作为包装器为GP选择最优特征子集，实现高效模型构建。该方法在标准二进制分类和GAMETES数据集上表现优异，尤其在高维噪声数据中展现出强大的特征过滤能力。实验表明，SLUG在多个任务中优于或媲美现有GP方法，且训练稳定性高。未来可通过替换核心学习器、增强GA与学习器的信息交互及引入新颖性搜索等方式进一步提升性能。

本文研究了多目标遗传编程与自适应加权样条（AWS）在符号回归中的应用，通过在八个真实世界数据集上进行实验，比较了不同方法在训练和测试性能、模型复杂度及可解释性方面的表现。结果表明，基于AWS表示的多目标方法GP-AWS-PP在多数情况下优于传统树结构方法，具有更优的泛化能力和稳定性。同时，文章介绍了SLUG特征选择方法，其在处理具有上位性的数据集时表现出高准确性，尽管训练时间较长，但在特征选择与模型构建一体化方面具有显著优势。

本文提出了一种基于自适应加权样条表示的多目标遗传规划方法（GP-AWS-PP），用于提升符号回归模型的泛化能力和可解释性。通过将训练误差和有效特征数量作为双目标进行优化，并结合NSGA-II算法，该方法在多个真实数据集上表现出优于传统单目标及多目标基准方法的性能。实验结果表明，GP-AWS-PP能生成更简约、泛化能力更强的模型，并通过帕累托前沿分析、模型可视化与特征重要性分析验证了其有效性。

本文提出了一种用于信息物理系统（CPS）异常检测的一次性G3P集成学习算法，通过引入变量驱动的停止条件（ntarget）提升搜索效率与多样性。相比传统的多运行G3P方法，该算法在SWaT和N-BaIoT数据集上显著减少了适应度评估次数（fevals），同时在多个数据集中实现了更高的AUC表现，尤其在多运行G3P失效的场景下仍能有效检测异常。生成的信号时序逻辑（STL）公式具有良好的可解释性，支持对异常行为的语义分析。实验还表明，标准G3P易过早收敛于简单公式，而一次性G3P能发现更复杂的多变量模式。尽管在部

本文提出了一种基于语法引导的遗传编程（G3P）的一次性进化算法，用于从无标注的正常运行数据中自动学习信号时序逻辑（STL）公式集合，以实现网络物理系统（CPS）的异常检测。该方法无需领域知识和预定义模板，能够同时学习STL公式的结构与参数，并通过紧密建模训练数据来识别微小偏差作为异常。在SWaT水处理厂和N-BaIoT物联网设备集上的实验表明，该方法在准确率、召回率和F1分数等指标上表现优异，具备良好的可解释性和实用性，适用于关键基础设施的安全监控。

本研究探索了将几何语义遗传编程（GSGP）与基于梯度的Adam优化器相结合的混合优化方法，提出HYB-GSGP和HeH-GSGP两种结合策略。通过在八个现实世界复杂数据集上的实验，验证了混合方法在回归任务中的性能。结果表明，交替执行GSGP与Adam的HYB-GSGP方法在多个数据集上优于经典GSGP，尤其在训练效率和测试精度方面表现突出，且部分结果具有统计显著性。研究为进化算法与梯度优化的融合提供了有效框架和实践依据。

本文探讨了自适应神经网络优化器的进化与几何语义遗传编程（GSGP）和梯度下降优化结合的创新方法。通过AutoLR框架，利用进化算法生成了高性能的自适应优化器ADES，在图像分类任务中表现优异。同时，将GSGP与Adam相结合，提出HYB-GSGP和HeH-GSGP方法，提升了回归问题的测试性能。文章总结了当前成果，并展望了优化器通用性、多方法融合等未来研究方向，为人工智能优化技术的发展提供了新思路。

本文介绍了一种名为ALR的方法，用于进化自适应神经网络优化器，并在图像分类任务中验证其有效性。通过精心设计的语法结构和适应度函数，ALR成功进化出如Sign和ADES等新型优化器。实验表明，ADES在Fashion-MNIST和CIFAR-10数据集上均表现出色，甚至超越了Adam和RMSprop等人造优化器。文章详细解析了语法设计、适应度评估、进化过程与基准测试，并展望了未来在更广范围内的应用潜力。

本文介绍了2022年欧洲遗传编程会议（EuroGP 2022）的概况及其在神经网络优化器设计方面的最新进展。重点阐述了自适应AutoLR（ALR）框架如何利用遗传编程进化出新型优化器，并通过实验验证其在图像分类任务中的性能与泛化能力。研究显示，进化得到的优化器如ADES在多个数据集上表现优异，甚至超越传统人工设计的优化器，展现出遗传编程在自动化机器学习领域的巨大潜力。