如何在AMD GPU上快速部署Ollama：2025年完整指南
项目地址: https://gitcode.com/gh_mirrors/ol/ollama-for-amd Ollama-for-amd是专为AMD GPU用户打造的开源项目，旨在通过增强AMD GPU支持，让你轻松在本地运行Llama 3、Mistral、Gemma等大型语言模型。本指南将带你零门槛完成安装配置，充分释放AMD显卡的AI计算潜力 🚀
📋 系统要求与前期准备
在开始部署前，请确认你的系统满足以下条件：
支持的操作系统
- Linux（推荐Ubuntu 22.04+或同级别发行版）
- Windows（需配合ROCm v6.1+环境）
兼容的AMD GPU型号
根据docs/gpu.md官方文档，以下系列显卡已通过测试：
🔵 Linux系统支持
- Radeon RX系列：7900 XTX/XT、7800 XT、6950 XT、6800 XT等
- Radeon PRO系列：W7900/W7800、V620、Vega II Duo等
- Instinct加速卡：MI300X/A、MI250X、MI100等专业计算卡
🟢 Windows系统支持
- Radeon RX系列：7900 XTX/XT、7600 XT、6900 XTX等
- Radeon PRO系列：W7900/W7600、W6900X等
⚠️ 注意：需安装ROCm SDK（Linux推荐v6.1+，Windows需v6.1+），可通过AMD官方渠道获取
🔧 5分钟极速安装步骤
1. 获取项目源码
打开终端执行以下命令克隆仓库：
git clone https://gitcode.com/gh_mirrors/ol/ollama-for-amd
cd ollama-for-amd
2. 安装依赖环境
确保已安装Go语言环境（1.21+版本），然后执行：
go mod tidy
该命令会自动处理项目所有依赖，对应源码位于go.mod文件中。
3. 构建可执行文件
根据你的操作系统选择对应脚本：
# Linux系统
./scripts/build_linux.sh
# Windows系统（PowerShell中运行）
.\scripts\build_windows.ps1
构建完成后，可执行文件将生成在项目根目录。
4. 验证安装结果
运行以下命令检查AMD GPU是否被正确识别：
./ollama run --list-gpus
若输出你的AMD显卡信息，则表示安装成功 ✅
⚙️ 优化配置指南
设置GPU优先级（多卡用户）
如果你的系统有多个AMD GPU，可通过环境变量指定使用特定设备：
# Linux系统
export ROCR_VISIBLE_DEVICES=0,1 # 使用第1和第2块GPU（从0开始计数）
# Windows系统
set ROCR_VISIBLE_DEVICES=0
性能调优参数
编辑配置文件envconfig/config.go，可调整以下关键参数：
GPU_MEMORY_FRACTION：GPU内存使用比例（默认0.9）HSA_OVERRIDE_GFX_VERSION：指定GPU架构版本（如"10.3.0"）
常见问题解决
问题1：GPU未被识别
检查ROCm驱动状态：
rocminfo | grep -i "gfx"
若输出为空，请重新安装ROCm驱动。
问题2：模型加载缓慢
尝试增加系统swap空间或调整llm/memory.go中的内存分配策略。
🚀 开始使用AI模型
下载并运行模型
执行以下命令获取并启动Llama 3模型：
./ollama pull llama3
./ollama run llama3
首次运行会自动下载模型文件（约4-8GB），之后即可离线使用。
支持的模型列表
项目已针对AMD GPU优化多种模型：
- Llama系列：Llama 3（8B/70B）、Llama 2（7B/13B）
- Gemma系列：Gemma 2（9B）、Gemma 3（2B/9B）
- Mistral系列：Mistral 7B、Mixtral 8x7B
- 其他模型：Qwen2、Phi3、GPT-OSS等
💡 提示：模型文件默认存储在
~/.ollama/models目录，可通过修改fs/config.go自定义路径
📚 进阶资源
官方文档
- 完整开发指南：docs/development.md
- 模型转换工具：convert/目录下提供多种模型格式转换工具
社区支持
- 项目Issue跟踪：通过GitCode仓库提交问题
- 技术讨论：可加入Ollama官方Discord社区（需自行搜索）
📝 总结
通过本指南，你已掌握在AMD GPU上部署Ollama的全部要点。无论是开发者调试还是普通用户体验本地AI，Ollama-for-amd都能提供高效稳定的运行环境。随着ROCm生态持续完善，未来将支持更多AMD GPU型号和AI模型。现在就启动你的第一个本地大模型，体验AMD显卡带来的AI算力吧！ 💻✨
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
