小白使用ollama快速部署本地大模型

 首先进入ollama官网下载:

Ollama

下载后安装即可

第二步

点击models，下拉选择想要的开源大模型

左边选择模型参数大小，选择好后复制右边的命令

打开cmd，将指令复制进去运行，等待下载完即可

下载完后在cmd输入框内可以直接输入信息了

ollama list：显示模型列表

ollama -v：显示版本

ollama show：显示模型的信息

ollama rm：删除模型
ollama run：运行模型

ollama pull：拉取模型
ollama push：推送模型
ollama cp：拷贝模型
ollama help：获取帮助信息

ollama serve：启动ollama 服务
ollama create：从模型文件创建模型

在cmd输入不方便，我们来创建一个交互界面

首先下载docker：Docker: Accelerated Container Application Development 

安装好后注册登录即可

在cmd输入这条命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/d 

 

等待下载完安装即可

之后在浏览器输入：

http://localhost:3000/http://localhost:3000/http://localhost:3000/http://localhost:3000/

进入网页创建管理员账号登录：

 登录后即可在交互界面与本地大模型对话！

如果各位大佬有任何问题，欢迎在评论区或私信提问，我会尽力为大家解答，您的点赞收藏是对我最大的鼓励！