不说再见

原创 大语言模型生成控制参数详解：温度、Top-k与Top-p

就像做菜一样，这些参数需要根据“菜品”（任务类型）调整，多做几次尝试就能找到最适合的配方！：就像“抽奖”，把所有可能的词按概率排好，一直抽到占总概率90%的奖池，然后从中随机选。：如果不确定，先用低温度、高top-p（如0.7温度+0.95 top-p）：从概率最高的词开始选，直到累积概率超过p值，然后从这个集合中随机选择。：通常top-p和top-k只用其中一个，优先用top-p。：就像考试时，老师让你从“最可能的5个答案”里选一个。：AI变成“保守派”，总是选最安全的词。：控制选择过程的“随机性”