Large Language Models As Evolution Strategies

最新推荐文章于 2025-06-12 16:50:08 发布
最新推荐文章于 2025-06-12 16:50:08 发布
阅读量266 收藏
点赞数 5
文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/137089121
版权
LLM 日更 专栏收录该内容
828 篇文章

已下架不支持订阅

本文研究大型语言模型（LLM）能否实现进化优化算法，提出EvoLLM，它在合成BBOB函数和神经进化任务上优于随机搜索和高斯爬山。通过微调，EvoLLM性能得到提升，但预训练和微调协议对其性能有影响。未来将探索LLM在优化领域的更多可能性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文是LLM系列文章，针对《Large Language Models As Evolution Strategies》的翻译。

作为进化策略的大型语言模型

摘要

大型Transformer模型能够实现大量所谓的上下文学习算法。其中包括梯度下降、分类、序列完成、转换和改进。在这项工作中，我们研究了从未明确遇到黑箱优化任务的大型语言模型（LLM）原则上是否能够实现进化优化算法。虽然之前的工作只关注基于语言的任务规范，但我们继续关注LLM在black-box优化中的零样本应用。我们引入了一种新的提示策略，包括对离散群体成员进行最小到最大排序，并查询LLM，以提出对平均统计量的改进，即执行一种黑匣子重组操作。从经验上讲，我们发现我们的设置允许用户获得基于LLM的进化策略，我们称之为“EvoLLM”，该策略在合成BBOB函数和小型神经进化任务上稳健地优于随机搜索和高斯爬山等基线算法。因此，LLM可以充当“插入式”的上下文重组运算符。我们对LLM的模型规模、提示策略和上下文构建进行了几项比较研究。最后，我们证明了通过对先前收集的教师优化进行指令微调来提供教师算法信息，可以灵活地提高EvoLLM的性能轨迹。

1 引言

2 相关工作

3 背景

4 将LLMS转化为ES算法

了解本专栏 已下架不支持订阅
UnknownBody
关注
专栏目录

已下架不支持订阅

LARGE LANGUAGE MODELS AS OPTIMIZERS
c_cpp_csharp的专栏
09-11 923
优化无处不在。虽然基于导数的算法是解决各种问题的强大工具，但梯度的缺乏给许多现实世界的应用带来了挑战。在这项工作中，我们提出了PROmpting优化（OPRO），这是一种利用大型语言模型（LLM）作为优化器的简单有效的方法，其中优化任务用自然语言描述。在每个优化步骤中，LLM都会从包含先前生成的解决方案及其值的提示中生成新的解决方案，然后对新解决方案进行评估，并将其添加到下一个优化步骤的提示中。
揭示大型语言模型的力量、挑战和影响
AI天才研究院
07-08 2176
随着数据耗尽的迫在眉睫，以及在不增加训练数据量的情况下扩展模型大小的趋势持续存在，显然需要创新方法来重新考虑模型大小和训练令牌之间的平衡。最初，仅编码器和编码器-解码器模型的性能优于仅解码器模型，但 GPT-3 的引入改变了一切。最近的一项研究介绍了当代法学硕士的演变轨迹，描绘了近年来语言模型发展的进展，并强调了该领域一些最著名的模型。然而，至关重要的是要始终意识到这些模型中的不平等和公平问题，以及关于各种应用的 FM 扩展特性以及权力集中在拥有更好资源来生产产品的组织中的道德、政治和社会问题。
阅读论文：CONNECTING LARGE LANGUAGE MODELS WITH EVOLUTIONARY ALGORITHMS YIELDS POWERFUL PROMPT OPTIMIZERS
weixin_46942074的博客
04-29 1299
大型语言模型(llm)擅长于各种任务，但它们依赖于精心制作的提示，这些提示通常需要大量的人力。为了使这一过程自动化，在本文中，我们提出了一个新的离散提示优化框架，称为EVOPROMPT，它借用了进化算法(EAs)的思想，因为它们表现出良好的性能和快速收敛。为了使ea能够处理离散的提示，这些提示是需要连贯和人类可读的自然语言表达式，我们将llm与ea连接起来。这种方法使我们能够同时利用llm强大的语言处理能力和ea的高效优化性能。
Evolution of Heuristics: Towards Efficient Automatic Algorithm Design Using Large Language Model
weixin_43961909的博客
01-21 1094
启发式算法广泛用于处理复杂的搜索和优化问题。然而，启发式算法的手动设计通常非常耗费人力，需要丰富的工作经验和知识。本文提出了启发式算法的进化 （EoH），这是一种新颖的进化范式，它利用大型语言模型 （LLM） 和进化计算 （EC） 方法进行自动启发式设计 （AHD）。EoH 代表自然语言中的启发式概念，称为思想。然后由 LLM 将它们转换为可执行代码。进化搜索框架中思想和代码的演变使其在生成高性能启发式算法方面非常有效和高效。
LARGE LANGUAGE MODELS AS OPTIMIZERS翻译
nopSled
09-15 522
优化对于所有领域都至关重要。许多优化技术都是迭代的：优化从初始解决方案开始，然后迭代更新解决方案以优化目标函数。优化算法通常需要针对单个任务进行定制，以应对决策空间和性能带来的特定挑战，尤其是导数无关的优化。在这项工作中，我们提出了 Optimization by PROmpting (OPRO)，这是一种利用大型语言模型 (LLM) 作为优化器的简单有效的方法。随着提示技术的进步，LLM在各个领域都取得了令人印象深刻的表现。
CONNECTING LARGE LANGUAGE MODELS WITH EVOLUTIONARY ALGORITHMS YIELDS POWERFUL PROMPT OPTIMIZERS
weixin_43961909的博客
01-20 870
大型语言模型（LLM）在各种任务中表现出色，但它们依赖于精心设计的提示，而这些提示通常需要大量的人力。为了实现这一过程的自动化，在本文中，我们提出了一种新的离散提示优化框架，称为EvoPrompt，它借用了进化算法（EAs）的思想，因为它们表现出良好的性能和快速收敛性。为了使EA能够处理离散提示，离散提示是需要连贯且人类可读的自然语言表达式，我们将LLM与EA连接起来。这种方法使我们能够同时利用LLM强大的语言处理能力和EA的高效优化性能。
【文献精读笔记】Explainability for Large Language Models: A Survey （大语言模型的可解释性综述）（四）
weixin_54607024的博客
01-01 1311
发现在保持或提高T5-XL模型在保留数据集上的性能的同时，可以移除60%。此外，一些研究还深入研究了LLMs生成的。
论文速读| A Survey on Data Synthesis and Augmentation for Large Language Models
科研笔记
01-21 2022
大型语言模型 （LLM） 的成功与用于训练和评估的大量、多样化和高质量数据的可用性有着内在的联系。然而，训练数据集的扩展明显超过了高质量数据的增长率，导致迫在眉睫的数据耗尽危机。这凸显了提高数据效率和探索新数据源的迫切需求。在这种情况下，合成数据已成为一种很有前途的解决方案。目前，数据生成主要包括两种主要方法：数据增强和合成。本文全面回顾和总结了LLM 整个生命周期中的数据生成技术，包括数据准备、预训练、微调、指令调整、偏好对齐和应用。
FinGPT: Open-Source Financial Large Language Models FinGPT：开源金融大型语言模型
cdxxsq的博客
04-03 2515
大型语言模型（LLMs）已展现出在多个领域革新自然语言处理任务的潜力，因此在金融领域引起了极大的兴趣。访问高质量金融数据是金融LLMs（FinLLMs）面临的首个挑战。尽管像BloombergGPT这样的专有模型利用了其独特的数据积累优势，这种特权访问促使人们寻求一个开源的替代方案，以民主化互联网规模的金融数据。在本文中，我们介绍了一个针对金融部门的开源大型语言模型，FinGPT。与专有模型不同，FinGPT采取了以数据为中心的方法，为研究人员和实践者提供了可访问和透明的资源，以开发他们的FinLLMs。
原始的 P-Tuning 和 P-Tuning v2 在实现细节上有哪些不同
ZJQ的博客
06-10 1141
P-Tuning v2（2022） - **改进点**： - 在模型的每一层都添加软提示（类似 Prefix Tuning 的思路），而不只是输入层。 - **引入轻量级 MLP 层**：在预训练模型的输出后添加一个小型的多层感知机，增强分类能力。 - **结构特点**： ``` 输入文本 + 软提示 → 预训练LM → MLP层 → 分类输出 ``` MLP 通常由 1-2 层线性层组成，参数量远小于全量微调。
二维张量dim=1
GHL_17768588743的博客
06-11 665
在PyTorch中处理二维张量（矩阵）时，‌dim=1‌，也就是逐行处理每一行的所有列元素。
扣子开发汽车行业智能客服示例
brucexia的专栏
06-11 1224
在本节中，我们想要创建一个AI客服，用于介绍汽车领域的行业知识，因此需要利用知识库的能力。首先，梳理汽车行业知识，形成FAQ（常见问题解答）。然后，将其上传到知识库中。最后，将知识库配置到AI Agent智能体中，使其能够调用知识库的内容作为回复。完成以上步骤之后，当用户咨询Agent有关汽车领域知识的问题时，Agent将根据FAQ的内容进行回答。传统的机器人客服只能生硬地套用FAQ，缺乏灵活性。
简繁体智能翻译软件
weixin_62784879的博客
06-09 648
以常见物品为例：内地称\"创口贴\"，香港称\"胶布\"，台湾称\"OK绷\"；汽车品牌\"奔驰\"在香港译作\"平治\"、台湾译作\"宾士\"，这类词汇差异需要额外认知成本。该工具内置智能词库系统，能自动识别并转换具有地区特色的用词表达，实现内地、香港、台湾三地语言习惯的精准转换。针对台湾地区使用的注音符号（如ㄅㄆㄇㄈ）及网络流行的火星文等特殊文字形式，提供对应的转换方案。这款工具还有许多功能，我就不一一介绍啦。
大模型Transformer触顶带来的“热潮退去”，稀疏注意力架构创新或是未来
打造全国最全的AI Agent开发知识领域的博客
06-11 1635
大模型狂欢落幕，硬核创新登场！Transformer逼近能力天花板，Agent应用成落地新大陆，而架构层正孕育颠覆性突破。中国团队在云端与终端双轨并进，用稀疏注意力、端侧推理优化打开效率魔盒。告别内卷式数据堆砌，迎接深水区技术创新——这一篇，看懂AI未来十年胜负手！
破局零售挑战！华为云AI+零售峰会聚焦数智转型实践
最新发布
weixin_43735236的博客
06-12 170
该方案面向零售伙伴客户物流、运营、门店、客服和办公等场景，依托华为云最新发布的CloudDevice关键产品和自有AI大模型，在云上服务方面具备一跳入云、一云多端、极低时延、普惠AI等方面的优势，可为零售伙伴客户筑牢算力底座，满足零售伙伴客户“产-供-营-销-服”全链路智能化核心需求。该计划面向全国数智化企业，汇聚华为云及合作伙伴在政策、产品、技术、品牌等方面的资源与能力，向伙伴开放能力共生、商业共赢和数字化服务三大平台，为零售企业的品牌营销与业务运营提供强大技术支撑，加速企业成长。6月13日，鹭岛厦门！
（五）动手学深度学习计算：从数学原理到高效实现的全流程指南
hanyuge的专栏
06-08 895
在实际应用中，我们常常需要自定义层和块来实现特定的功能。PyTorch提供了灵活的API来创建自定义层和块。无参数层：实现不包含可学习参数的层，如激活函数层。return torch.sigmoid(x) # 示例：Sigmoid激活函数含参数层：实现包含可学习参数的层，如自定义的全连接层。组合层：将多个层组合成一个块，实现复杂的功能。return x层是深度学习模型的基本构建块，执行特定的计算任务。块是由多个层组成的模块，提高代码的可读性和可维护性。
CppCon 2015 学习:Algorithmic Differentiation C++ & Extremum Estimation
虾球
06-10 921
浮点数表示法的灵感：科学记数法浮点数的表示方法受到科学记数法的启发。x×baseexponentx×baseexponent6.022×10236.022×1023这种表示法使得我们能够处理非常大的数（如102310^{23}1023）以及非常小的数（如10−2310^{-23}10−23），并且有效地表示各种数值。
钉钉C10圆桌派在北京召开 AI一体机首次签约
weixin_43735236的博客
06-09 139
一体机也提供多种AI助理，覆盖审批、工单、行政、法务等多个高频场景，可广泛应用于零售、连锁、生产制造、教育、法律服务等众多行业，帮助企业进一步提质降本增效，数智化升级。通过部署钉钉AI一体机，杰锐思打造了装配助手、代码助手等AI应用，实现了从知识检索到业务协同的全链路升级，在数据安全的基础上，进一步实现了增效降本和效率提升。6月6日，钉钉在北京举办C10圆桌派-AI专场思享会，会上，钉钉和苏州杰锐思智能科技股份有限公司（以下简称：杰锐思）就AI一体机应用签署合作协议，这是钉钉首次在客户落地AI一体机实践。
NLP-数据集介绍（并不全，文本类介绍）
weixin_50285694的博客
06-09 1117
提供一些文本表征领域的公开数据集。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值