Rust CLI 接入模型前:先用本地规则分流并记录调用边界
我给 Rust CLI 接模型时,先把能由本地规则回答的问题分出去。调用模型的分支只发送脱敏错误摘要和用户选中的片段,并记录耗时、大小与结果,不记录正文。
一个朴素的分流规则
fn needs_model(input: &str) -> bool {
input.contains("error[") || input.contains("解释")
}
输入只取当前命令、已脱敏的错误摘要和用户明确选中的文件片段。输出是建议和可应用的补丁草稿,不能直接改文件。我会人工查看 diff,再跑 cargo check。调用记录只保留请求大小、耗时和是否成功,不记录命令正文或路径;超过保留期就删除。
记一次就够了
先用十来个常见问题试跑,记下本地规则命中率、模型耗时和输出长度。数据积累后再调整分流条件,比凭感觉选模型稳妥。
390



被折叠的 条评论
为什么被折叠?



