一、环境准备
1.1 硬件要求
- CPU:建议使用多核处理器(Intel i5 10代或同级以上)
- 内存:最低8GB,推荐16GB及以上(模型越大需求越高)
- 显卡:NVIDIA显卡(显存≥8GB),支持CUDA加速(RTX 3060及以上更优)
- 存储空间:根据模型版本预留20GB-100GB可用空间
1.2 软件依赖
- 操作系统:Windows 10/11(64位)、Linux(Ubuntu 20.04+)、macOS 12+
- 工具包:Python 3.8+、Git、Docker(可选)
- 运行框架:Ollama(核心部署工具)
二、部署流程
2.1 安装Ollama
- 访问官网:打开Ollama官网 ,点击“Download”按钮。
- 选择版本:
- Windows:双击.exe安装包,按向导完成安装。
- macOS:拖拽.dmg文件至“应用程序”文件夹。
- Linux:执行命令curl -fsSL https://ollama.com/install.sh | sh。
- 验证安装:
打开终端,输入ollama --ve