Large Language Models As Evolution Strategies

最新推荐文章于 2025-06-10 19:55:42 发布
最新推荐文章于 2025-06-10 19:55:42 发布
阅读量265 收藏
点赞数 5
文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/137089121
版权
LLM 日更 专栏收录该内容
828 篇文章

已下架不支持订阅

本文研究大型语言模型（LLM）能否实现进化优化算法，提出EvoLLM，它在合成BBOB函数和神经进化任务上优于随机搜索和高斯爬山。通过微调，EvoLLM性能得到提升，但预训练和微调协议对其性能有影响。未来将探索LLM在优化领域的更多可能性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文是LLM系列文章，针对《Large Language Models As Evolution Strategies》的翻译。

作为进化策略的大型语言模型

摘要

大型Transformer模型能够实现大量所谓的上下文学习算法。其中包括梯度下降、分类、序列完成、转换和改进。在这项工作中，我们研究了从未明确遇到黑箱优化任务的大型语言模型（LLM）原则上是否能够实现进化优化算法。虽然之前的工作只关注基于语言的任务规范，但我们继续关注LLM在black-box优化中的零样本应用。我们引入了一种新的提示策略，包括对离散群体成员进行最小到最大排序，并查询LLM，以提出对平均统计量的改进，即执行一种黑匣子重组操作。从经验上讲，我们发现我们的设置允许用户获得基于LLM的进化策略，我们称之为“EvoLLM”，该策略在合成BBOB函数和小型神经进化任务上稳健地优于随机搜索和高斯爬山等基线算法。因此，LLM可以充当“插入式”的上下文重组运算符。我们对LLM的模型规模、提示策略和上下文构建进行了几项比较研究。最后，我们证明了通过对先前收集的教师优化进行指令微调来提供教师算法信息，可以灵活地提高EvoLLM的性能轨迹。

1 引言

2 相关工作

3 背景

4 将LLMS转化为ES算法

了解本专栏 已下架不支持订阅
UnknownBody
关注
专栏目录

已下架不支持订阅

LARGE LANGUAGE MODELS AS OPTIMIZERS
c_cpp_csharp的专栏
09-11 922
优化无处不在。虽然基于导数的算法是解决各种问题的强大工具，但梯度的缺乏给许多现实世界的应用带来了挑战。在这项工作中，我们提出了PROmpting优化（OPRO），这是一种利用大型语言模型（LLM）作为优化器的简单有效的方法，其中优化任务用自然语言描述。在每个优化步骤中，LLM都会从包含先前生成的解决方案及其值的提示中生成新的解决方案，然后对新解决方案进行评估，并将其添加到下一个优化步骤的提示中。
揭示大型语言模型的力量、挑战和影响
AI天才研究院
07-08 2176
随着数据耗尽的迫在眉睫，以及在不增加训练数据量的情况下扩展模型大小的趋势持续存在，显然需要创新方法来重新考虑模型大小和训练令牌之间的平衡。最初，仅编码器和编码器-解码器模型的性能优于仅解码器模型，但 GPT-3 的引入改变了一切。最近的一项研究介绍了当代法学硕士的演变轨迹，描绘了近年来语言模型发展的进展，并强调了该领域一些最著名的模型。然而，至关重要的是要始终意识到这些模型中的不平等和公平问题，以及关于各种应用的 FM 扩展特性以及权力集中在拥有更好资源来生产产品的组织中的道德、政治和社会问题。
阅读论文：CONNECTING LARGE LANGUAGE MODELS WITH EVOLUTIONARY ALGORITHMS YIELDS POWERFUL PROMPT OPTIMIZERS
weixin_46942074的博客
04-29 1298
大型语言模型(llm)擅长于各种任务，但它们依赖于精心制作的提示，这些提示通常需要大量的人力。为了使这一过程自动化，在本文中，我们提出了一个新的离散提示优化框架，称为EVOPROMPT，它借用了进化算法(EAs)的思想，因为它们表现出良好的性能和快速收敛。为了使ea能够处理离散的提示，这些提示是需要连贯和人类可读的自然语言表达式，我们将llm与ea连接起来。这种方法使我们能够同时利用llm强大的语言处理能力和ea的高效优化性能。
Evolution of Heuristics: Towards Efficient Automatic Algorithm Design Using Large Language Model
weixin_43961909的博客
01-21 1087
启发式算法广泛用于处理复杂的搜索和优化问题。然而，启发式算法的手动设计通常非常耗费人力，需要丰富的工作经验和知识。本文提出了启发式算法的进化 （EoH），这是一种新颖的进化范式，它利用大型语言模型 （LLM） 和进化计算 （EC） 方法进行自动启发式设计 （AHD）。EoH 代表自然语言中的启发式概念，称为思想。然后由 LLM 将它们转换为可执行代码。进化搜索框架中思想和代码的演变使其在生成高性能启发式算法方面非常有效和高效。
LARGE LANGUAGE MODELS AS OPTIMIZERS翻译
nopSled
09-15 521
优化对于所有领域都至关重要。许多优化技术都是迭代的：优化从初始解决方案开始，然后迭代更新解决方案以优化目标函数。优化算法通常需要针对单个任务进行定制，以应对决策空间和性能带来的特定挑战，尤其是导数无关的优化。在这项工作中，我们提出了 Optimization by PROmpting (OPRO)，这是一种利用大型语言模型 (LLM) 作为优化器的简单有效的方法。随着提示技术的进步，LLM在各个领域都取得了令人印象深刻的表现。
CONNECTING LARGE LANGUAGE MODELS WITH EVOLUTIONARY ALGORITHMS YIELDS POWERFUL PROMPT OPTIMIZERS
weixin_43961909的博客
01-20 870
大型语言模型（LLM）在各种任务中表现出色，但它们依赖于精心设计的提示，而这些提示通常需要大量的人力。为了实现这一过程的自动化，在本文中，我们提出了一种新的离散提示优化框架，称为EvoPrompt，它借用了进化算法（EAs）的思想，因为它们表现出良好的性能和快速收敛性。为了使EA能够处理离散提示，离散提示是需要连贯且人类可读的自然语言表达式，我们将LLM与EA连接起来。这种方法使我们能够同时利用LLM强大的语言处理能力和EA的高效优化性能。
A Survey of Large Language Models（个人笔记）
RSociopath的博客
07-31 670
After instruction tuning, LLMs can demonstrate superior abilities to generalize to unseen tasks [28, 62, 64], even in a multilingual setting” (Zhao 等, 2023, p. 19) 经过指令调整后，LLMs可以表现出优越的泛化能力，即使在多语言环境下，也可以泛化到未见过的任务[ 28、62、64 ]
【文献精读笔记】Explainability for Large Language Models: A Survey （大语言模型的可解释性综述）（四）
weixin_54607024的博客
01-01 1311
发现在保持或提高T5-XL模型在保留数据集上的性能的同时，可以移除60%。此外，一些研究还深入研究了LLMs生成的。
LLMs之Merging：《Exploring Model Kinship for Merging Large Language Models》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
11-11 1201
​ LLMs之Merging：《Exploring Model Kinship for Merging Large Language Models》翻译与解读 目录 《Exploring Model Kinship for Merging Large Language Models》翻译与解读 Abstract 1、Introduction 6 CONCLUSION AND LIMITATIONS LIMITATIONS 《Explor
论文速读| A Survey on Data Synthesis and Augmentation for Large Language Models
科研笔记
01-21 2018
大型语言模型 （LLM） 的成功与用于训练和评估的大量、多样化和高质量数据的可用性有着内在的联系。然而，训练数据集的扩展明显超过了高质量数据的增长率，导致迫在眉睫的数据耗尽危机。这凸显了提高数据效率和探索新数据源的迫切需求。在这种情况下，合成数据已成为一种很有前途的解决方案。目前，数据生成主要包括两种主要方法：数据增强和合成。本文全面回顾和总结了LLM 整个生命周期中的数据生成技术，包括数据准备、预训练、微调、指令调整、偏好对齐和应用。
FinGPT: Open-Source Financial Large Language Models FinGPT：开源金融大型语言模型
cdxxsq的博客
04-03 2512
大型语言模型（LLMs）已展现出在多个领域革新自然语言处理任务的潜力，因此在金融领域引起了极大的兴趣。访问高质量金融数据是金融LLMs（FinLLMs）面临的首个挑战。尽管像BloombergGPT这样的专有模型利用了其独特的数据积累优势，这种特权访问促使人们寻求一个开源的替代方案，以民主化互联网规模的金融数据。在本文中，我们介绍了一个针对金融部门的开源大型语言模型，FinGPT。与专有模型不同，FinGPT采取了以数据为中心的方法，为研究人员和实践者提供了可访问和透明的资源，以开发他们的FinLLMs。
深度学习之模型压缩三驾马车：基于ResNet18的模型剪枝实战（2）
ak47maker的博客
06-05 810
本文针对ResNet18模型剪枝进行了优化改进，主要包含三个方面：1) 将剪枝目标层从底层conv1调整为中间层layer2.0.conv1，减少对基础特征的破坏；2) 采用基于激活值的前向传播方法评估通道重要性，优先剪除低激活通道；3) 改进微调策略，动态解冻关联层并使用更低学习率(0.0001)进行10轮微调。这些优化有效提升了剪枝后模型的稳定性和性能表现，特别是通过中间层剪枝和基于特征贡献的通道选择策略，避免了底层特征破坏带来的连锁反应。
yolo模型精度提升策略
qq_47798402的博客
06-09 477
结合起来，才能最大程度地提升那6种相似BGA的区分能力，从而显著提高整体mAP。持续进行基于难例分析的主动学习是突破瓶颈的可持续方法。使用自适应优化器、学习率热身与余弦退火，进行充分长周期的训练（配合早停）。持续收集模型在相似BGA上的错误样本，优先标注并加入训练集进行迭代。设计模拟BGA实际成像挑战（反光、模糊、视角变化）的增强方案。尝试引入注意力机制，将分类损失替换为。训练数据（2倍以上是合理起点）。（Focal Loss）以及。显著增加6种相似BGA的。（特别是注意力机制）、
【python深度学习】Day 45 Tensorboard使用介绍
2203_75479908的博客
06-05 840
之前在神经网络训练中，为了帮助自己理解，借用了很多的组件，比如训练进度条、可视化的loss下降曲线、权重分布图，运行结束后还可以查看单张图的推理效果。tensorboard这个库，集成了以上所有可视化工具。
智能终端与边缘计算
wozaiwurenchu的博客
06-05 1032
Cloudlet的定义和主要特征Cloudlet（微云）概念于2009年首次出现。它是一种成熟的边缘计算系统，旨在将移动计算的“端-云”两层架构转变为**“端-边-云”的三层架构** [对话历史]。Cloudlet通常部署在网络边缘，靠近接入点、基站或汇聚点，甚至可以直接运行在智能网联汽车或无人机上 [对话历史]。主要特征：可信且资源丰富的主机或机群。基于虚拟机技术，为移动终端提供服务。Cloudlet通过将与具体应用相关的数据部分从通用部分中抽离出来，形成VM Overlay与Base VM。
原始的 P-Tuning 和 P-Tuning v2 在实现细节上有哪些不同
最新发布
ZJQ的博客
06-10 293
P-Tuning v2（2022） - **改进点**： - 在模型的每一层都添加软提示（类似 Prefix Tuning 的思路），而不只是输入层。 - **引入轻量级 MLP 层**：在预训练模型的输出后添加一个小型的多层感知机，增强分类能力。 - **结构特点**： ``` 输入文本 + 软提示 → 预训练LM → MLP层 → 分类输出 ``` MLP 通常由 1-2 层线性层组成，参数量远小于全量微调。
Langchain4j 文档处理（7）
m0_58617940的博客
06-05 1259
来自 langchain4j 模块的文件系统文档加载器（FileSystemDocumentLoader）来自 langchain4j 模块的类路径文档加载器（ClassPathDocumentLoader）来自 langchain4j 模块的网址文档加载器（UrlDocumentLoader）来自 langchain4j-document-loader-amazon-s3 模块的亚马逊 S3 文档加载器（AmazonS3DocumentLoader）
【oobabooga 本地AI模型搭建】
开心就好了啦
06-05 1090
用于大型语言模型的 Gradio Web UI。其目标是成为文本生成的。
OpenAI 即将推出 GPT-5：开启多模态、持续记忆对话新时代
Cha3043445754的博客
06-05 1567
提前学习多模态 AI 的接口设计与调用构建与 AI 协作的开发流程，如 Prompt Engineering + 工具链集成探索 AI 与硬件系统的联动，如边缘端 AI 控制与云协同GPT-5 不是一个模型，而是一种时代的信号。在这个 AI 正悄然重塑世界的时刻，我们既是使用者，也将成为协作者。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值