【学习】win 本地部署qwen3

环境搭建

下载Ollama

在这里插入图片描述

安装olama

默认安装位置是c盘
安装到指定位置使用以下命令

OllamaSetup.exe /DIR="d:\Ollama"

修改模型下载位置(可以不设置)

在这里插入图片描述

模型默认c盘->用户->用户名-> .ollama->models文件夹下。
指定模型下载位置:
找到这个文件夹,移动到复制到指定文件夹,如“D:\ollama”;模型就会下载到这里。

#各环境默认安装位置
Linux: /var/lib/ollama/models
Windows : C:\Users\用户名>\.ollama\models
macOs: /Library/Application Support/0llama/models

通过ollama下载/启动模型

第一次执行该命令会先下载模型,如果已经下载过则会启动模型

ollama run llama3

下载截图
在这里插入图片描述

启动成功如下图
在这里插入图片描述
输入指令可以正常沟通
在这里插入图片描述

常用命令

  • ollama list:显示模型列表;
  • 显示模型的信息:ollama show:
  • ollama pu11:拉取模型;此命令也可以用于更新本地模型,只会拉取差异部分。
  • ollama push:推送模型;
  • ollama cp:拷贝一个模型
  • ollama rm:删除一个模型;
  • ollama run:运行一个模型;
  • ollama start 启动服务;
  • ollama serve 在不运行桌面应用程序的情况下启动 ollama;
  • ollama models 查看模型列表;
  • ollama model details[模型名称]获取更详细的模型信息,包括模型的描述、版本、大小等
  • ollama models查看模型列表

其他

默认地址和端口:Ollama API 的默认地址是http://localhost:11434,
可以在安装 Ollama 的系统中直接调用。

参考:
Ollama 使用指南
Ollama 永久调整默认下载模型文件的位置

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值