- 博客(4)
- 收藏
- 关注
原创 15分钟部署运行Gemma4大模型实践记录
本文记录了一项在15分钟内完成Gemma-4B大模型本地部署的实践。通过使用ModelScope平台高速下载模型权重,配合vLLM推理框架在AMD ROCm环境下部署,实现了快速搭建可交互的AI对话服务。文章详细介绍了环境准备、模型下载、服务启动、对话测试和资源释放的完整流程,并提供了常见问题解决方案。实践表明,借助国产化工具链和优化框架,个人开发者可以高效部署开源大模型。该案例展示了从静态模型到动态AI服务的完整实现路径,为本地AI助手开发提供了实用参考。
2026-06-15 17:26:29
282
原创 Neo4j5.x 社区版安装、配置指南(Windows & Linux)
【代码】Neo4j5.x 社区版安装、配置指南(Windows & Linux)
2025-02-20 15:01:29
3804
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅