步骤 1:检查 Intel 核显驱动
-
更新 Intel 显卡驱动:
- 访问 Intel 驱动程序与支持页面,使用自动检测工具或手动下载最新驱动。
- 安装后重启系统。
-
验证驱动和 OpenCL/Vulkan 支持:
- 按
Win + R
输入dxdiag
,在 显示 选项卡中确认 Intel 核显型号和驱动版本。 - 下载 GPU Caps Viewer,检查 OpenCL 和 Vulkan 是否启用(需 GPU 支持)。
- 按
步骤 2:安装 OpenCL/Vulkan 运行时库
-
安装 Intel 运行时组件(如未集成在驱动中):
- 下载 Intel® oneAPI 工具包(支持 OpenCL/Vulkan)。
- 运行安装程序,勾选 Intel® oneAPI DPC++/C++ Compiler 和 Intel® oneAPI Math Kernel Library。
-
安装 Vulkan 运行时(备用):
- 从 LunarG Vulkan SDK 下载并安装 Vulkan Runtime。
步骤 3:配置 Ollama 使用 Intel 核显
-
设置环境变量(需管理员权限):
# 启用 Intel 核显支持 [System.Environment]::SetEnvironmentVariable('OLLAMA_INTEL_GPU', 'true', 'Machine') # 指定使用 OpenCL 或 Vulkan 后端 [System.Environment]::SetEnvironmentVariable('OLLAMA_LLM_LIBRARY', 'clblast', 'Machine') # 或 vulkan
- 重启系统使环境变量生效。
-
重启 Ollama 服务:
# 如果 Ollama 作为服务运行 Restart-Service Ollama # 或直接重启 Ollama 应用
步骤 4:验证 GPU 是否生效
-
运行模型并检查日志:
ollama run llama3
- 如果成功,日志应显示类似:
time=2025-03-28T03:36:00.520Z level=INFO source=gpu.go:377 msg="found Intel GPU with compute capability"
- 如果成功,日志应显示类似:
-
检查 GPU 使用情况:
- 使用任务管理器(
Ctrl + Shift + Esc
),在 性能 标签页观察 Intel 核显的负载是否增加。
- 使用任务管理器(
可能遇到的问题及解决
-
驱动未正确安装:
- 确保使用 Intel 官方驱动,而非 Windows 自动更新的通用驱动。
- 尝试通过 Intel Driver & Support Assistant 修复驱动问题。
-
环境变量未生效:
- 检查环境变量是否设置到系统级(
Machine
作用域)而非用户级。 - 在 PowerShell 中验证变量:
echo $env:OLLAMA_INTEL_GPU echo $env:OLLAMA_LLM_LIBRARY
- 检查环境变量是否设置到系统级(
-
模型不支持 GPU 加速:
- 显存不足可能导致回退到 CPU。尝试小参数模型(如
phi3
):ollama run phi3 --gpu
- 显存不足可能导致回退到 CPU。尝试小参数模型(如
补充说明
- 如果 Intel 核显较旧(如 HD 6000 以下),可能不支持 OpenCL 2.0+,需降级使用 CPU。
- 查看 Ollama 官方文档的 Windows GPU 支持列表。