DeepSeek本地一件部署-mac系统

春节期间比较火的deepseek,相必大家都有关注了,今天来和大家分享下,在本地机器(自己电脑mac、windows、Linux)搭建的步骤。

首先本人的电脑是mac m4系统,我就以mac m4安装教程

下载 ollama 下载地址:https://ollama.com/

然后点击:

选择macos即可,会自动选择适合自己电脑的版本进行下载

然后下载后,点击安装包

选择第一个

然后,点击next选择install,如下进行操作

https://ollama.com/library/deepseek-r1

选择

选择对应的即可

然后在终端:

ollama run deepseek-r1:1.5b

对应的

DeepSeek-R1-Distill-Qwen-1.5B

ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B

ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B

ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B

ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B

ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B

ollama run deepseek-r1:70b

部署好后,可以尝试终端运行

运行测试如下:

启动后的端口 11434 ,使用api如下:

http://127.0.0.1:11434/api/chat

Windows 安装:安装流程基本一样,下载对应客户端,安装,然后获取对应版本、配置即可。

### 如何在Mac OS上本地部署和可视化DeepSeek #### 准备工作 确保Mac操作系统已更新到最新版本,并安装必要的依赖工具,如Homebrew、Python环境等。对于希望简化操作流程的用户来说,在Mac部署DeepSeek有两种主要途径可以选择:使用Ollama或是LM Studio[^2]。 #### 使用Ollama部署DeepSeek 1. **安装Docker** Docker是容器化应用的理想选择之一,通过它可以在不同平台上保持一致的应用程序行为。如果尚未安装Docker Desktop,则需先下载并按照官方指南完成设置过程。 2. **获取Ollama镜像** 打开终端窗口,执行命令`docker pull ollama/deepseek-r1`来拉取最新的DeepSeek R1模型镜像文件[^3]。 3. **启动服务** 利用命令`docker run -p 8080:8080 ollama/deepseek-r1`可以将该镜像作为一个后台进程运行起来,其中参数-p用于指定端口映射关系,使得外部可以通过localhost:8080访问内部的服务接口。 4. **验证部署成功与否** 浏览器输入http://localhost:8080查看是否能正常加载页面,这表明已经成功完成了基于Web界面的基础搭建工作。 #### 使用LM Studio部署DeepSeek 1. **下载与安装LM Studio** 访问官方网站或GitHub仓库下载适用于macOS系统的安装包,双击打开后遵循提示逐步完成整个软件套件的安裝过程。 2. **导入预训练模型** 启动应用程序之后,点击菜单栏中的“File -> Import Model”,然后定位至之前保存好的DeepSeek R1权重文件路径处进行加载处理。 3. **配置项目属性** 对话框内调整各项参数选项直至满意为止;比如设定最大序列长度、温度系数等等超参数值,这些都会影响最终生成文本的质量效果。 4. **测试功能模块** 输入一段文字作为上下文线索提交给API请求解析,观察返回的结果是否有误以及耗时多久等问题反馈情况,以此评估整体性能表现水平。 ```bash # 示例代码片段展示如何利用curl向RESTful API发送POST请求 $ curl -X POST http://localhost:8080/api/v1/generate \ -H "Content-Type: application/json" \ -d '{"prompt":"你好啊","max_tokens":50}' ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

黑夜照亮前行的路

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值