AI大模型

大模型提供Prompt技巧

• 角色扮演 (Cosplay)
• 给出示例 (Few-shot)
• 思维链 (Chain-of-thought, CoT) 复杂任务拆解
• 外部工具 (External Tools)
• 输出提示 (Output indicator)

AIGC参数

• max_tokens
  参数详解：用于限制模型生成token的数量，设置的是生成上限，并不表示一定会生成这么多的token数量。
• top_p
  参数详解：生成过程中核采样方法概率阈值。影响输出文本的多样性，取值越大，生成文本的多样性越强。建议该参数与temperature只设置一个。
• top_k
  参数详解：生成时，采样候选集的大小。
• repetition_penalty
  参数详解：控制模型生成时的重复度。通过对已生成的token增加惩罚，减少重复生成的现象。值越大表示惩罚越大。
• temperature
  参数详解：用于控制随机性和多样性的程度。具体来说，temperature值控制了生成文本时每个候选词的概率分布平滑的程度。较高的temperature值会降低概率分布的峰值，使得更多的低概率词被选择，生成结果更加多样化；而较低的temperature值则会增强概率分布的峰值，使得高概率词更容易被选择，生成结果更加稳定。建议该参数和top_p值设置一个。