- 博客(7)
- 收藏
- 关注
RSS订阅原创 【大模型专题】top-p和top-k的选择
摘要： top-k和top-p是两种常见的文本生成采样策略。top-k固定选择概率最高的k个词进行归一化采样，实现简单但灵活性差。top-p则动态累积概率直到超过阈值P，形成候选集，能自适应调整候选词数量，生成更具创造性的结果，避免小概率词干扰，但调参更复杂。两者各有优劣，建议单独使用或结合temperature参数，避免同时使用以确保实验可控性。
2025-11-16 18:24:05
221
原创 【Langchain】提示词模块
还有第二种方式装填内容：invoke()，第一种是format_messages()；如需继续，可以继续按照以上流程将相应append()到历史。下面将聊天内容添加至历史，以便产生关于上下文的相应内容。可以继续添加聊天内容。
2024-07-13 21:24:58
529
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人