Dify模型供应商:ollama本地化部署——windows下以及wsl下分别尝试

啥是ollama?

Ollama 是一个开源的大型语言模型(LLM)服务工具,专为简化在本地运行大语言模型而设计。它允许用户在个人计算机或服务器上快速部署和管理多种开源大语言模型,如 Llama3、Phi3、Gemma2 等,而无需依赖昂贵的云服务或专业的技术背景。Ollama 支持跨平台安装,包括 Windows、macOS 和 Linux 系统,提供了图形用户界面和命令行工具,方便用户与模型进行交互。此外,Ollama 还支持模型的定制和扩展,用户可以通过修改 Modelfile 文件来调整模型参数或添加特定的系统提示,以满足不同的应用场景需求。

说人话

ollama是一个工具,可以帮你特别简单地部署一个本地的大模型。

实操

在这里插入图片描述
咱先试试这个windows下的效果哈。
在这里插入图片描述
如上图所示,它就会下载这个一个.exe的文件,我们下载完成后,

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

几道之旅

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值