本地运行DeepSeek大模型

2025年的春节,比烟花爆竹还“火”的一样东西就是DeepSeek的R1大模型。

888317bf6d2fc6a1bd0bd9e84a9d8e6e.png

前几天到湖州玩了几天。今天坐到电脑前的第一件事就是想亲自试试这个东西。先是在网页上聊了几句,感觉不过瘾。于是想自己安装在本地运行。

b5150434a766da1f458b5a0e152881fa.png

打开幽兰代码本,先安装Ollama。Ollama是一个开源的大模型推理软件。并且具有非常好的模型管理功能。

我先是使用Ollama官网的安装脚本,但是在下载软件包时出错:

geduer@ulan:~$ curl -fsSL https://ollama.com/install.sh | sh
>>> Installing ollama to /usr/local
[sudo] password for geduer:
>>> Downloading Linux arm64 bundle
curl: (28) Failed to connect to github.com port 443 after 129139 ms: Couldn't connect to server




gzip: stdin: unexpected end of file
tar: Child returned status 1
tar: Error is not recoverable: exiting now

值得说明的是,虽然脚本中的下载链接指向的是ollama.com:

"https://ollama.com/download/ollama-linux-${ARCH}.tgz${VER_PARAM}"

但其实会被重定向到github,所以上面的错误信息说无法连接到github。试了几次都不成功后,我换了一种方法,手工把文件下载下来,再复制到幽兰上。

然后wget https://ollama.com/install.sh把安装脚本下载到本地,然后略作编辑:

status "Installing ol
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值