大模型中的提示词（prompt）压缩：让每个Token都物尽其用

一、提示词压缩的定义与目标

提示词压缩（Prompt压缩：提升大型语言模型效率的关键技术），简单来说，就是在确保输入文本的核心意义和上下文完整的前提下，对提供给大语言模型的输入文本进行精简和优化。这一过程涉及去除冗余信息、简化句子结构，并运用专门的压缩技术，尽可能减少令牌的使用数量。

假设向大语言模型提出请求，详细的提示词可能是：“能否请您为我提供一份关于 X 公司最新季度财务报告的全面总结，同时突出其中的积极和消极方面？” 而经过压缩后的提示词则为：“总结 X 公司季度报告：利弊？” 这两个提示词期望获得的输出结果一致，但压缩后的版本更简短、清晰，使用成本也更低。

提示词（Prompt Decorators:改善AI响应的简单方法(文末含代码)）压缩主要致力于实现三个重要目标：降低成本，由于令牌使用数量的减少，使用费用也随之降低；提高速度，更短的输入能够让模型更快地进行处理；优化令牌限制，帮助满足模型的令牌约束条件，特别是在处理长文本上下文的场景中。