模型实战
文章平均质量分 95
从本地部署到应用开发的记录
TA zhao
浅喜似苍狗,深爱如长风
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
LLaMA Factory 微调框架数据加载
随着大语言模型(Large Language Models)的快速发展,如何高效地对模型进行微调,已成为模型开发和应用中的重要环节。而在微调过程中,数据预处理与加载是确保模型性能的基础环节。面对庞大且复杂的数据集,合理的预处理策略和高效的数据加载机制,不仅能提高训练效率,还能有效改善模型的泛化能力。原创 2025-01-13 19:47:56 · 2904 阅读 · 0 评论 -
LLaMA Factory 微调框架的部署
在深度学习的浪潮中,预训练大语言模型(Large Language Models, LLMs)逐渐成为各领域的核心工具。然而,由于大规模模型的复杂性和计算资源需求,直接使用这些模型来解决特定任务往往效率低下。微调(Fine-tuning)技术因此成为了模型开发者们的关键手段,通过针对特定任务的数据调整模型的权重,可以大幅提升模型的效果LLaMA(Large Language Model Meta AI)作为近年来大受欢迎的开源大语言模型,因其性能优异和架构灵活被广泛应用。原创 2025-01-12 20:27:38 · 1637 阅读 · 0 评论 -
Xinference 分布式推理框架的部署
例如:随着AI模型的不断发展,AI模型的应用也越来越重要,Xinference部署则是学习的基石,本文就介绍了Xinference的模型部署与管理。原创 2025-01-12 11:12:26 · 2052 阅读 · 2 评论
分享