deepseek私有部署聊天和代码模型记录

最新推荐文章于 2025-03-16 19:08:10 发布
最新推荐文章于 2025-03-16 19:08:10 发布
阅读量158 收藏
点赞数 2
文章标签： deepseek
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/u013818990/article/details/145810405
版权

环境

4060TI 16G

deepseek R1 8B

速度很快
实际使用4G左右显存

deepseek R1 14B

速度很快
实际使用9G左右显存
如果用于生成代码，没有联网版本好用
比如写了一个代码后，我要指定其中文件目录
它不会基于这个文件目录修改代码，而是回复这个目录相关内容，和写代码无关

deepseek code v2 16b

生成代码速度慢

pageTan
关注
DeepSeek：企业级大模型私有化部署与应用全解析（深度扩展版）
商务合作|问题讨论|交流学习 请联系作者微信，加微信请务必注明来意，博客主页有联系方式
02-19 537
已与腾讯云、阿里云等10家云厂商达成合作，提供一键部署解决方案。典型案例：腾讯元宝接入DeepSeek-R1满血版，实现金融研报生成效率提升300%。“根据《民法典》第1079条，起草一份涉及家暴的离婚起诉状，需包含财产分割、子女抚养等条款，引用2023年北京朝阳区法院类似判例”“将以下摘要扩展为方法论章节：‘本研究采用BERT模型进行情感分析’ → 要求补充数据清洗流程、超参数设置、评估指标”“将这段Python爬虫代码改为异步协程模式，要求增加IP代理池和异常重试机制：[代码片段]”
【实战篇】【从0到1：手把手教你玩转DeepSeek私有化部署与知识库融合训练】
商务合作|问题讨论|交流学习 请联系作者微信，加微信请务必注明来意，博客主页有联系方式
02-20 1958
举个真实案例：某三甲医院想用AI辅助病历分析，但患者数据根本不可能上传公有云。他们最终选择在本地机房部署DeepSeek-7B基础模型，结合10年积累的电子病历库进行训练，不仅实现了诊断建议准确率提升37%，还完全符合《医疗数据安全管理条例》的要求。但真正的挑战在于——如何在保障安全可控的前提下，持续迭代出最适合自己业务场景的智能大脑。在ChatGPT掀起大模型热潮的今天，很多企业都在面临这样的困境：既想享受大模型的智能红利，又担心数据安全、合规审查、定制化需求得不到满足。
DeepSeek R1 本地部署实战教程来了，带可视化界面，非常详细！
DEVELOPERAA的博客
02-25 939
虽然 DeepSeek 官方提供了可视化聊天界面，但稳定性实在太差了，动不动就服务繁忙，根本没办法正常使用。另外，对于一些对数据隐私、实时性能要求较高的场景，本地部署也是不可避免的选择。
基于DeepSeek的 企业内部知识、工作流平台， 允许私有化部署，允许商业化
2401_84204413的博客
02-25 834
目前根据中国信创的要求，大型国企央企都，有的甚至需要物理隔离，那么基于DeepSeek的本地化企业内部知识库和工作流平台，就有很大的应用场景。DeepSeek的性能优于OpenAI，又是开源免费，支持私有化部署，整个未来中国信创的大模型，很可能就是DeepSeek的天下。基于DeepSeek的大模型支持的知识平台和工作流程平台，将为信创要求下的企业带来，助力企业实现数字化转型，同时满足本地化部署和物理隔离的安全需求。
4060ti-16G显卡部署deepseek-32B(支持联网搜索)
最新发布
小生测试的博客
03-16 1653
deepseek年前狠狠的火了一把，笔者电脑是48G内存+4060ti 16G显卡，试试32b的参数效果咋样。按照ollama的官网提示，32b参数的所占空间是20G，可以使用GPU+CPU的方式运行（Ollama默认支持）量化后的32b模型，整体体验上还是不错的，回答的也还可以，不过速度的话确实是慢一点了，一道问题加上推理要两三分钟，使用14B的话速度会更快一点，但是效果会比较差点。可以回答一些简单的问题，也可以尝试使用联网搜索帮你总结。但还是远远不能跟满血版的比较。
深度学习GPU显卡4060ti与4060有什么区别？又与游戏显卡有什么区别？
源代码杀手的博客
12-06 7816
可以看到，4060 Ti相比4060具有更高的性能，适合做深度学习任务，而4060则适合一些入门级的深度学习应用。而深度学习GPU与游戏显卡的主要区别在于优化的计算目标和硬件配置，深度学习GPU专注于高效处理深度学习计算，具有更多的显存和更强的并行计算能力。
DeepSeek R1 14B + LM Studio 本地大模型实测
pitt1997的博客
02-16 3753
一款开源的本地 LLM 推理 GUI 工具支持 GGUF 格式大模型（Llama.cpp 后端）支持 GPU 加速，可用运行大模型可直接在本地进行离线 AI 对话，不依赖 OpenAI API✅LM Studio 是最简单的本地大模型推理工具之一✅支持 LLaMA / Qwen / Mistral / DeepSeek 等 GGUF 模型✅可以用 RTX 4060Ti / 4070 / 4090 跑 7B / 14B/ 32B 量化模型✅。
如何在自己电脑上私有化部署deep seek
qq_36053756的博客
02-05 8795
要在自己的电脑上私有化部署 DeepSeek，通常需要以下步骤：
法律文书自动化：DeepSeek私有部署+合同审查模型训练避坑指南.pdf
02-14
该文档【法律文书自动化：DeepSeek私有部署+合同审查模型训练避坑指南】共计 23 页，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均显示正常，无任何异常情况，敬请您放心查阅与使用。
制造业智能质检：DeepSeek模型私有化部署与缺陷检测实战（附代码）.pdf
02-17
该文档【制造业智能质检：DeepSeek模型私有化部署与缺陷检测实战（附代码）】共计 23 页，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均显示正常，无任何异常情况，敬请您放心查阅与使用。
北京大学-DeepSeek内部研讨系列：大模型私有化部署及一体机部署方案详解
03-04
内容概要：北大流出：详细介绍了DeepSeek大模型的私有化部署及其一体机部署的全流程。包括四大板块：一是个人用户体验和部署DeepSeek简化模型的方法，通过Ollama框架和相关工具实现本地高效部署，涵盖硬件配置、...
新零售人效革命：连锁门店用DeepSeek私有化部署库存预测模型实战.pdf
02-14
该文档【新零售人效革命：连锁门店用DeepSeek私有化部署库存预测模型实战】共计 21 页，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均显示正常，无任何异常情况，敬请您放心查阅与使用。
Deep Seek R1本地化部署
晨曦之光Wing的博客
01-30 6664
【说明】操作系统：win10。使用工具：ollama
了解Deepseek（本地部署及可视化）
weixin_53318497的博客
02-14 992
了解新技术的一天。
DeepSeek + RAGFlow私有化部署指南：技术小白也能轻松上手
2401_84204413的博客
02-19 1868
这期内容分享下在我们个人本地电脑私有化部署 DeepSeek R1 + RAGFlow，也想观察下在没有GPU的机器上跑起来体验如何？这期分享全程操作的干货内容，言简意赅，不要怕学不会，现在部署大模型已经很简单了。照着我说的一步步做，一定能成功！以上环境相信大部分朋友都具备。远程连接虚拟机，准备下载RagFlow⑥ 配置模型提供商我英文水平一般，先切换到中文，哈哈点击头像，找到左侧模型提供商找到ollama，点击添加模型参考我这图上面配置就行，一看就懂哈。
DeepSeek+python：API服务化部署
qq_35809258的博客
02-06 712
如果网络问题无法解决，可以尝试离线模式，将下载的模型文件（./deepseek-coder-7b-instruct 目录）复制到目标机器，在目标机器上，使用本地路径加载模型。安装bitsandbytes， bitsandbytes是一个用于量化模型的库，支持 4-bit 和 8-bit 量化。这个快速排序算法的实现使用了Python的列表推导式，这是一种更简洁的创建列表的方式。我的显卡是RTX 4060，安装支持 CUDA 的 PyTorch 版本。确保模型路径正确，或手动下载模型文件并加载本地模型。
手摸手系列之 DeepSeek-R1 开源大模型私有化部署解决方案
The man was lazy and left no message
01-31 2511
总得来说，通过 Ollama 私有化部署本地大模型非常简单，如果你的电脑配置较高也可以运行参数量较大的模型。在完成本地部署后，能够开展诸多饶有趣味且颇具价值的事。例如，将其集成至 Cursor 之中，如此便能够拥有一款离线且免费的 AI 编程工具；还可以着手开发自动化工具，将其用作私人知识库。而且更关键的是，整个使用过程完全免费，即便处于断网状态也能正常使用。
DeepSeek-R1私有化部署
wojiaoliujiawei的专栏
02-05 340
DeepSeek-R1私有化部署，普通安装
DeepSeek在4060笔记本上的部署与极限性能压榨与散热改造
cornplanter的博客
02-26 2280
散热优化：注意散热优化，建议上相变片，导热胶加铜管加mini铝制散热片加识破导热片（不会破坏保修和外壳）。可以买一套强力的风扇（转速3600不宜太高，太高有电流反冲风险）粘在笔记本支架下，大约50元，比压风式散热便宜一些。不怕破坏外壳和保修的可以上水冷（破坏了外壳容易卖不出价），拼多多买一套水泵加硅胶管加水冷铜管套餐（大约100元），建议用纯净水。利用32GB内存的优势，同时运行多个任务（如文档分析、代码生成），提升工作效率。：优先选择蒸馏版模型，完整版（如671B）对硬件要求极高，不适合普通用户。
deepseek 私有部署
02-20
### DeepSeek 大模型私有化部署指南 DeepSeek 支持多种参数规模的大模型进行本地私有化部署，包括但不限于 1.5B, 7B, 8B, 14B, 32B, 70B 和 671B 参数量的版本[^1]。为了实现这些大模型的安全高效部署，官方提供了详尽的技术文档和支持工具。 #### 部署环境准备 确保目标服务器满足最低硬件配置需求，特别是对于内存和GPU资源的要求。推荐使用具备高性能计算能力的机器来承载大规模预训练模型的服务端应用。具体的操作系统兼容性和依赖库安装说明可以在官方提供的最全文档中找到。 #### 获取授权许可 由于涉及到知识产权保护以及商业用途考量，在正式开展部署工作前需向DeepSeek申请相应的许可证或许可协议文件。这一步骤至关重要，它不仅保障了用户的合法权益同时也维护了技术提供方的利益不受侵害。 #### 下载并解压软件包 通过合法渠道获得经过加密处理后的压缩包后将其放置于指定目录下完成初步加载过程；接着按照指引执行解密命令释放出完整的程序框架结构以便后续操作能够顺利展开。 #### 安装必要的运行组件 依据所选平台特性挑选适合当前系统的二进制发行版或是源码编译方式来进行核心引擎及相关插件模块的设置。期间可能还会涉及一些额外配置项调整以适配特定应用场景下的性能优化诉求。 #### 启动服务实例 当一切准备工作就绪之后就可以尝试启动API网关或者其他形式对外接口供调用了。此时应该密切监控日志输出情况及时排查可能出现的问题直至整个流程稳定下来为止。 ```bash # 示例：启动 deepseek-r1:671b 模型服务 docker run -p 8080:8080 deepseek-r1:671b ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值