
【导语:美国亚马逊数据分析师 Drona Reddy 发布 Markdown 文件,宣称可减少 Claude 输出令牌使用量。虽能在一定程度上节省成本,但在某些场景效果不佳,企业收益也相对有限。】

在 GitHub 一个角落,Drona Reddy 发布了名为 Claude.md 的 Markdown 文件。该文件遵循 MIT 许可协议,列出结构化指令,无需修改代码,就能将 Claude 的输出冗长程度降低约 63%。其原理是消除 Claude 的“冗余”习惯,去除非必要内容,抑制风格怪癖,防止模型认同有缺陷的假设。

Reddy 列举了该 Markdown 文件最能发挥作用的三种场景,包括高流量自动化流程、重复的结构化任务和团队环境。在对 Claude Sonnet 的模拟测试中,若每天发起 100 次请求,每天可节省近 9600 个令牌,每月约节省 0.86 美元;若每天发起 1000 次请求,每月节省约 8.64 美元;三个项目综合使用可减少近 288000 个令牌,相当于每月节省约 25.92 美元。
不过,该文件在某些场景可能效果不佳,如一次性查询、修复严重故障或需要反馈的探索性工作,因为文件本身每次消息都会消耗输入令牌,只有输出量足够高才能实现净收益。

分析师认为,企业及其 CIO 能从该 Markdown 文件中受益,特别是在平衡推理成本和将 AI 项目投入生产时。Forrester 首席分析师 Charlie Dai 表示,减少 63% 的令牌使用量能显著降低推理成本和延迟。
然而,Pareekh Consulting 首席分析师 Pareekh Jain 指出,这种收益更多体现在运营层面,不能从根本上改变企业的 AI 经济模式。在企业环境中,输出令牌只是总使用量的一部分,大多数企业可能只会看到个位数的节省。

该 Markdown 文件设计为与模型无关,理论上适用于能遵循结构化指令的大型语言模型。但 Reddy 指出,他尚未测试其在本地模型(如基于 llama.cpp 或 Mistral 运行的模型)上的效果。
编辑观点:Markdown 文件为控制 AI 成本提供了新途径,但有其适用场景和局限性。企业应理性看待,结合自身需求判断是否采用。
709



被折叠的 条评论
为什么被折叠?



