AI大模型个人本地部署教程

搭建大模型的基础环境(Ollama 或 LM studio)

此处以Ollama为例,Ollam下载模型速度更快,更方便。LM studio有可以直接对话的页面,但是下载模型感觉太慢,而且交互页面不好看。

下载安装Ollama

访问官网链接 https://ollama.com/ ,下载安装包

Available for macOS, Linux, and Windows
按默认下载安装即可,磁盘需预留足够空间,下载的模型一般比较大
Win默认C盘
在这里插入图片描述

命令行确认ollama是否安装成功

同时按下Win和R,输入cmd, 按回车进入命令行
在这里插入图片描述
输入ollama,有使用提示弹出,则安装成功。
在这里插入图片描述

使用ollama 拉取模型

Step1: 访问ollama官网,搜索想要安装的模型

deepseek-r1 https://ollama.com/library/deepseek-r1
qwq https://ollama.com/library/qwq
注:搜索中其他模型名称包含abliterated或uncensored 一般是别人处理过的解除限制的版本
在这里插入图片描述

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值