Modelfile配置说明

最新推荐文章于 2025-09-23 21:17:20 发布

原创

最新推荐文章于 2025-09-23 21:17:20 发布 · 1.5k 阅读

CC 4.0 BY-SA版权

文章标签：

参数	描述	值类型	示例用法
mirostat	启用Mirostat采样以控制困惑度。（默认：0，0=禁用，1=Mirostat，2=Mirostat 2.0）	int	mirostat 0
mirostat_eta	影响算法对生成文本反馈的响应速度。较低的学习率将导致调整较慢，而较高的学习率将使算法更敏感。（默认：0.1）	float	mirostat_eta 0.1
mirostat_tau	控制输出的一致性和多样性之间的平衡。较低的值将导致更集中和一致的文本。（默认：5.0）	float	mirostat_tau 5.0
num_ctx	设置用于生成下一个标记的上下文窗口的大小。（默认：2048）	int	num_ctx 4096
repeat_last_n	设置模型回溯以防止重复的距离。（默认：64，0=禁用，-1=num_ctx）	int	repeat_last_n 64
repeat_penalty	设置对重复的惩罚强度。较高的值（例如，1.5）将对重复进行更强烈的惩罚，而较低的值（例如，0.9）将更加宽松。（默认：1.1）	float	repeat_penalty 1.1