Phi-2参数调优实验日志
【免费下载链接】phi-2 
项目地址: https://ai.gitcode.com/hf_mirrors/ai-gitcode/phi-2
- 实验ID: P2-T-20231120-001
- 日期: 2023-11-20
- 硬件环境: RTX 3090(24GB), Intel i9-12900K
- 基础配置: temperature=0.7, top_p=0.9, max_new_tokens=512
实验目标
提升代码生成任务中的语法正确率，同时控制显存占用<10GB
参数调整
- temperature: 0.7 → 0.3 (↓0.4)
- top_p: 0.9 → 0.65 (↓0.25)
- torch_dtype: float16 → bfloat16
性能对比
| 指标 | 基准值 | 调整后 | 变化率 |
|---|---|---|---|
| 语法正确率 | 72.3% | 81.5% | +12.7% |
| 生成速度 | 12.5 tokens/s | 14.2 tokens/s | +13.6% |
| 显存占用 | 12.8GB | 9.7GB | -24.2% |
| PPL | 14.2 | 15.8 | +11.3% |
结论
本次参数调整达成预期目标，语法正确率提升12.7%，显存占用降至9.7GB。 PPL轻微上升属可接受范围，主要由于温度降低导致采样多样性减少。 此配置可作为代码生成任务的新基准。
【免费下载链接】phi-2 项目地址: https://ai.gitcode.com/hf_mirrors/ai-gitcode/phi-2
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
