不用本地部署,用硅基流动体验DeekSeek全尺寸大模型

一 简介

DeepSeek模型虽好,部署起来也简单,但是部署的都是小尺寸模型,1.5b、7b、8b这种小尺寸模型在真实的使用环境下,效果比较差。DeepSeek官网那,又经常出现”服务器繁忙,请稍后再试”,特别是在深度思考的场景下。

最近经朋友推荐发现个好平台,硅基流动平台,注册就送14元,可以免费体验下大尺寸的DeepSeek模型。

二 注册使用方法

  1. 访问官网

https://cloud.siliconflow.cn/models
  1. 点击右上角的loginlogin点击

  2. 注册过程 注册国产按照下图,1. 填入手机号;2. 点击获取验证码;3. 填入邀请码,可选,如果方便可以填入我的邀请码,3h6kgw3723,双方各得14元;4. 点击 注册/登录 即可;注册过程

  3. 在模型广场地方可以选择一个全尺寸大模型来体验下全尺寸大模型体验对话速度还是很快的,如下图大语言模型体验

三 Cherry Studio通过API方式使用硅基流动下的模型

如果我们不想通过登录网页的方式,使用这个大模型。可以通过类似Cherry Studio这类Agent调用API方式来使用硅基流动下的大模型。

  1. 新建API密钥 按照下图的顺序操作,来新建一个用来访问API的API密钥;新建密钥

  2. 复制密钥 很简单,点击密钥本身就可以完成复制;密钥复制

  3. 在Cherry Studio中进行配置 按照下图顺序进行点击,配置API的密钥;cherry studio 配置对于密钥是否对我们使用的模型有效,可以点击检查:密钥对模型是否有效

如果这些模型里面没有我们用的模型,可以点击管理来添加硅基流量里面其他的我们感兴趣的模型; 最后要记得打开硅基流动的开关;硅基流动

  1. 在cherry studio中使用: 在cherry studio的chat里面选择我们配置好的硅基流动中的DeepSeek-R1大模型。image.png通过上述配置后,已经可以实现基本的对话了:硅基流动基本对话

  2. DeepSeek模型根据附件来回答问题: 我们可以通过DeepSeek来生成一个30位学生的markdown格式的成绩表,然后上传到Cherry Studio的对话框中,然后询问谁的总分最高等问题,如下:根据文件回复问题

我们可以看到分析的结果是对的,这个在我们日常工作中还是挺有用的;

四 总结

硅基流动平台,使用简单,且支持全尺寸的大模型,对于初学者想了解和探索模型使用来说特别方便,后续购买的价格也挺便宜的; 我们后续还可以根据自己的需要以很小的代价来进行模型的微调。 同时还支持图片生成、语音生成、视频生成。模型微调

### 如何在本地环境中部署和调用流动 DeepSeek #### 配置环境准备 为了顺利安装并运行DeepSeek,在开始之前需确认已准备好满足最低需求的硬件设备以及软件环境。通常情况下,这包括但不限于一台拥有足够内存和支持虚拟化技术的计算机;操作系统推荐使用Linux发行版,因为大多数AI框架在此类平台上测试更为充分[^1]。 #### 安装依赖项 按照官方文档指示完成必要的库文件和其他工具集的下载与设置工作。对于某些特定版本的要求,请务必严格遵循说明中的指导来操作,以免因兼容性问题造成不必要的麻烦[^3]。 #### 获取模型权重 访问流官方网站或其他授权渠道获取预训练好的DeepSeek模型参数。注意保护个人隐私数据安的同时也要确保所使用的资源合法合规。 #### 启动服务端口 通过命令行界面执行如下指令启动ollama服务,并加载所需的DeedSeek-R1大模型实例: ```bash systemctl daemon-reload systemctl restart ollama ``` 如果需要停止当前正在运行的服务可以输入`systemctl stop ollama`; 若要重新激活则再次键入`systemctl start ollama`即可. #### 调试接口请求 最后一步就是编写简单的API客户端脚本来向服务器发送查询请求了。这里给出一个Python语言的例子作为参考: ```python import requests url = "http://localhost:8000/query" data = {"text": "你想问的问题"} response = requests.post(url, json=data) print(response.json()) ``` 以上即是在本地环境下成功部署及调用流动所提供的DeepSeek解决方案的大致过程概述[^2]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值