.NET程序中调用本地部署Deepseek模型进行对话

借由Deepseek的爆火,本文将介绍如何快速的在本地部署大语言模型,并且在.NET程序中调用进行对话。

TL;DR 通过Ollama部署大模型后再使用微软AI扩展对话访问

1. Ollama的安装与使用

Ollama是一个大语言模型的运行工具/平台,能够方便的在本地部署各种LLM,包括但不限于Deepseek, Phi, Llama等

Ollama官网:https://ollama.com/

下载想要使用的平台,个人更推荐在WSL(windows的linux子系统)中使用

图片

下载安装完之后,可以点击右上角的Models,

图片

可以看到网站列出了我们可用的模型,以deepseek为例,点击进入后选择我们想要运行的模型

图片

可以看到右边提供了一条指令,复制后备用。

打开 命令行/powershell, 粘贴运行,(如果是第一次使用,会需要一定时间拉取模型),成功运行后便可直接对话

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值