前提是电脑已经安装过python、cuda12.1之类的。
1、下载安装包
下载地址:https://ollama.com/download
大约200多MB,下载后直接安装。
2、安装
双击安装包直接安装就好,安装好后会自动运行,如下界面:
3、添加环境变量,模型路径,如下所示。
(F:\LLM\ollama_models文件夹就是你将来存放模型的地方。)
4、下载聊天大模型
下载地址:点击ollama官网右上角的"model",进入以下界面,
或直接打开网址:
https://ollama.com/library
里面有很多ollama支持的模型。
我选择的是yi-9b.
在cmd窗口输入: