• 未采用“预测输出”:
• 时间:5.2秒
• 成本:0.1555美分
• 总令牌数:268
• 提示令牌数:150
• 完成令牌数:118
• 完成令牌详情:
• 接受的预测令牌:0
• 音频令牌:null
• 推理令牌:0
• 拒绝的预测令牌:0
• 采用了“预测输出”:
• 时间:3.3秒
• 成本:0.2675美分
• 总令牌数:392
• 提示令牌数:166
• 完成令牌数:226
• 完成令牌详情:
• 接受的预测令牌:49
• 音频令牌:null
• 推理令牌:0
• 拒绝的预测令牌:107总结:使用“预测输出”后,处理时间从5.2秒减少到3.3秒,但成本从0.1555美分增加到0.2675美分。