003-本地搭建 Ollama

目录

一、Ollama 介绍

1.主要特点：

2.优势：

3.缺点：

二、Ollama 安装

1.下载 Ollama

2.安装 Ollama

3.修改models文件夹路径

三、Ollama 使用

1.模型选用（个人喜好自行选用）

2.模型下载

复制右边的命令： ollama run qwen2.5:7b

打开命令窗口：

四、客户端使用

---

一、Ollama 介绍

1.主要特点：

支持本地部署，集成多种开源模型，隐私保护优。

2.优势：

强调用户隐私和自主性。

3.缺点：

需要较高的硬件配置以支持本地部署。

二、Ollama 安装

1.下载 Ollama

访问Ollama官网（https://ollama.com），选择适合您操作系统的版本进行下载。

2.安装 Ollama

双击下载的安装包，按照提示完成安装过程。

3.修改models文件夹路径

模型默认会下载到： C:\Users\你的用户名\.ollama 目录下的 models文件夹 

如果想修改模型的存放位置，做如下配置：

3.1）拷贝models文件夹到你指定的目录，比如我剪切到 E:\ollama 下

3.2）添加环境变量

右键“我的电脑”，选择“属性”，按如下方式配置：

3.3）重启Ollama客户端生效

三、Ollama 使用

1.模型选用（个人喜好自行选用）

2.模型下载

这里以qwen2.5为例，结合自己电脑配置选取合适的版本，我这里用的是7b，高配置可以选取参数大一点

复制右边的命令： ollama run qwen2.5:7b

打开命令窗口：

1）查看 ollama 版本号

        ollama -v

2）查看已经安装的模型

        ollama list

3）下载安装模型（注意：第一次运行模型会很慢，后面就很快了）

        ollama run qwen2.5:7b

4）开始使用

5）如果想查看更多命令

        ollama -h

四、客户端使用

1. AingDesk：https://www.aingdesk.com/zh/

2.CherryStudio：https://cherry-ai.com/

参考步骤：小白福音！AingDesk+CherryStudio，几分钟搞定DeepSeek本地部署，还能建知识库！[特殊字符]-优快云博客