我特别喜欢的三个DeepSeek版本

原创 于 2025-06-16 15:51:01 发布 · 658 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

部署运行你感兴趣的模型镜像

大家好，我是 Ai 学习的老章

最近工作特别忙，写个短文

推荐三个我高频使用的 DeepSeek 模型

DeepSeek-R1-0528-Qwen3-8B

这是最新的 DeepSeek-R1-0528 思维链蒸馏提取后对 Qwen3-8B-Base 后训练而来：DeepSeek-R1-0528 蒸馏 Qwen3:8B 大模型，双 4090 本地部署，深得我心

这个模型我最喜欢的几个点：

  • 成本极低，模型文件 16GB，默认参数下，两张 4090 显卡顺畅运行
  • 性能很强，无论是各种 Bench 上的解释结果，还是我个人使用体验，打参数和模型文件都 4 倍与其的 Qwen32-B 都没问题
  • 速度极快，2 张 4090 启动时，90Tonken/s

目前 DeepSeek-R1-0528-Qwen3-8B 我主要用于知识库意图识别、问题改写、问题分类

缺点：无法关闭思考，我用 vllm 启动，用在 Dify 中，直接关闭还是提示词中加 no_think 都不行

DeepSeek-R1-0528

R1 的小版本升级，但是很明显，性能和推理能力都加强很多：DeepSeek R1 最新版本模型，排名第三

这个模型应该是 0 成本可以用到的最牛逼的模型了吧

网页版我倒是用的很少，主要是调 API，主要用在 Obsidian 上查资料，翻译，写文章

和在 Cursor 上写代码

缺点：很慢，Cursor 上写代码也不支持 Agent 模式

DeepSeek-V3-Fast

前段时间发现的一个小众版本DeepSeek-V3-Fast,它是DeepSeek V3 0324 的高 TPS 极速版

API 申清:
https://www.sophnet.com/#?code=IXFCAK

最大优点就是推理速度,快如闪电⚡️

目前我主要把它用在 Obsidian 做总结，还有沉浸式插件中当翻译 (真的快如闪电)

缺点是能力不及 R1，不稳定

制作不易，如果这篇文章觉得对你有用，可否点个关注。给我个三连击：点赞、转发和在看。若可以再给我加个🌟，谢谢你看我的文章，我们下篇再见！

搭建完美的写作环境：工具篇（12 章）
图解机器学习 - 中文版（72 张 PNG）
ChatGPT、大模型系列研究报告（50 个 PDF）
108 页 PDF 小册子：搭建机器学习开发环境及 Python 基础
116 页 PDF 小册子：机器学习中的概率论、统计学、线性代数
史上最全！371 张速查表，涵盖 AI、ChatGPT、Python、R、深度学习、机器学习等

您可能感兴趣的与本文相关的镜像

Qwen3-8B

Qwen3-8B

文本生成
Qwen3

Qwen3 是 Qwen 系列中的最新一代大型语言模型，提供了一整套密集型和专家混合（MoE）模型。基于广泛的训练，Qwen3 在推理、指令执行、代理能力和多语言支持方面取得了突破性进展

博客
开源AI做PPT神器，本地部署，支持Ollama
01-01 469
Presenton本地跑。你可以用 OpenAI、Gemini、Claude 这些云端模型，也可以用 Ollama 跑本地开源模型，数据完全不出你的机器。你可以直接上传已有的 PPTX 文件，让它学习你的设计风格（颜色、字体、间距、布局逻辑），然后批量生成同风格的 PPT。官方管这叫"品牌 DNA"——你的模板一旦创建，后续生成的每一张幻灯片都能保持一致的设计语言。这对企业用户来说简直是福音。✅自定义模板与主题：用 HTML + Tailwind CSS 随便造，无限量创建✅AI 模板生成。
博客
【开源项目】AI 账号控制中心，一键配置所有Agent
01-01 310
Quotio是一个原生 macOS 菜单栏应用，用 SwiftUI 写的，界面非常精致。统一管理你所有的 AI 账号，实时追踪配额，自动故障转移。说白了，就是在你 Mac 的菜单栏里放一个"AI 账号控制中心"，点一下就能看到所有账号的配额使用情况，不用再一个个网站登录去查了。这货在 GitHub 上已经有1.2k Stars，说明确实解决了很多人的痛点。🔌多Provider支持。
博客
MiniMax M2.1 量化版来了
12-31 97
大家好，我是 Ai 学习的老章我看官方部署文档，虽然模型文件只有 230GB，但是如果想要支撑更高上下文达到理想效果，所需显存还是蛮高的：模型权重 220GB+ 每百万 Tokons 上下文需要 240GB 显存。推荐几个主流且稳定的量化版吧，本地跑起来成本低很多。
博客
Gemini-CLI 进阶玩法，详细版
12-31 447
大家好，我是 Ai 学习的老章最近高频使用 Gemini-CLI，发现很多同学对其了解还是太少了专门在写一篇介绍几个高级用法。
博客
我写了一个OCR测试工具：DeepSeekOCR、PaddleOCR 和 混元OCR
12-31 202
可以实现同样的提示词 + 图片/PDF，利用 Python 多线程并行调用 DeepSeek、Paddle 和 混元这三个模型的 API 进行解析，并将结果并排展示。最近的 OCR 大模型我都做了本地部署和测试，还写了一个 API 统一对接这三个模型。使用也很简单，图片/PDF 上传之后，输入提示词，没有特殊要求，使用默认就行。前端其实纯 HTML+CSS+js 实现，为了内网部署，不依赖任何 CND。感兴趣的同学可以试试，OCR 模型 API 部分替换成官方/第三方的 API。
博客
DeepSeek-OCR本地部署（1）：CUDA 升级12.9，不重启，教程
12-30 1117
大家好，我是 Ai 学习的老章DeepSeek-OCR 开源有段时间了，我曾详细测试过DeepSeek-OCR 官方项目 README:中有关于 vllm 0.8.5+cu118+transformers>=4.51.1 下进行的详细步骤，但是教程中在线推理部分 vLLM 还是 nightly 版本。我看网上大家根据官方文档进行部署，问题多多。正好，。
博客
本地部署PaddleOCR，消费级显卡轻松跑，支持本地图片和PDF文件
12-30 771
大家好，我是 Ai 学习的老章
博客
腾讯混元OCR大模型，本地部署，实测
12-30 439
大家好，我是章北海
博客
科研神器，大模型阅读论文，免费用Gemini、Claude
12-29 562
【摘要】AlphaXiv是一款AI驱动的论文阅读神器，提供多项高效科研工具：支持与PDF文档对话、高亮引用、多语言查询、自动生成研究博客和BibTex引用。其浏览器插件可一键跳转arXiv等平台，集成Gemini3Pro等大模型免费使用。新增功能包括SOTA模型基准查询、论文地理分布可视化，以及DeepSeek-COR的API调用服务。该工具显著提升论文阅读效率，实现3分钟完成总结翻译，支持中英互转和跨文献概念关联。（149字）
博客
阿里千问安全审核大模型，本地部署，实测
12-29 594
大家好，我是 Ai 学习的老章
博客
动动嘴就能查数据库，这个开源项目有点猛
12-29 562
Wren AI 是我最近看到的 GenBI 赛道最成熟的开源方案之一。它没有走"LLM 直接生成 SQL"这条看起来简单但坑很多的路，而是老老实实做了一层语义抽象。这个方向是对的。官方文档写得也很清楚，把 RAG + LLM 查数据库的四大挑战（上下文收集、检索精度、SQL生成、协作）都点出来了，然后一一给出解决方案。这种"先讲问题再讲方案"的思路，说明团队对这个领域理解很深。如果你的团队经常有"让 AI 帮我查数据"的需求，值得认真评估一下。
博客
PDF 文件翻译，我有4个方案推荐
12-28 671
本文汇总了4种AI论文PDF翻译方案：1）豆包插件-操作简单但样式损失大；2）沉浸式翻译arXiv版-完美保留HTML排版；3）BabelDOC开源工具-精准还原排版并优化公式处理，支持本地部署；4）PDF2Zh双语对照工具-基于Gradio实现但免费版较慢。各方案在翻译速度、排版保留和适用范围上各有优劣，为科研工作者提供了多样化的英文文献阅读辅助选择。
博客
全模态大模型部署，vLLM-Omni 来了，100%开源
12-28 1062
vLLM-Omni是由vLLM团队推出的全新开源框架，专为全模态大模型部署设计。它在原vLLM基础上扩展支持图像、视频、音频等多模态数据处理，并兼容非自回归架构。核心优势包括优化的KV缓存管理、流水线并行执行和灵活资源调度，性能显著优于Hugging Face Transformers。该框架支持主流开源模型如Qwen-Omni，提供OpenAI兼容API，并支持多种并行推理方式。安装可通过uv或Docker完成，支持离线推理和在线API调用，还提供Gradio交互界面。项目由中国开发者主导，未来将发布40
博客
vLLM 帮助文档翻译，模型相关
12-28 443
大家好，我是Ai学习的老章前文我介绍了vLLM部署多模态/全模态大模型的vLLM-Omni简介及安装其中最关键的自然是 ModelConfig（模型的配置选项）相关做个翻译，方便自己学习记忆，也分享给大家。
博客
小米的大模型，就问你快不快吧
12-19 377
📄 技术报告：http://github.com/XiaomiMiMo/MiMo-V2-Flash/blob/main/paper.pdf。📝 博客文章：http://mimo.xiaomi.com/blog/mimo-v2-flash。🤗 模型权重：http://hf.co/XiaomiMiMo/MiMo-V2-Flash。🎨 AI 工坊：http://aistudio.xiaomimimo.com。我看了一下小米这个 MiMo-V2-Flash，也试用了一下，但。
博客
大模型本地部署，小号的vLLM来了
11-18 692
一文中提到 2025 年最热门的项目分布在 AI 基础设施（vllm、ollama、huggingface/transformers）和持久的生态系统（vscode、godot、home-assistant）之间。唯一让我不满的是我在内网用 docker 起 vLLM，它太大了，足足 22 个 GB。这个推理引擎也是我最喜爱的，本号测试部署的 N 多大模型都是用它来部署的。时间关系，我还没有本地跑大参数模型，后续肯定要试一试的。这种小模型，时延更小，吞吐量更大，看起来是很不错的样子。
博客
AI 时代，印度崛起了
11-13 823
GitHub 2025年度开发者趋势报告显示三大关键变化：1）生成式AI成为开发标配，超110万仓库使用LLM SDK；2）TypeScript超越Python成为最受欢迎语言；3）AI正在重塑开发者的工具选择。数据显示GitHub开发者数量突破1.8亿，印度新增520万开发者居首。AI基础设施项目增长最快，vLLM等推理引擎项目贡献者激增。TypeScript贡献者同比增长66%达榜首，Python仍主导AI领域但增速放缓。报告指出AI不仅加速编码，更深刻影响了开发者生态系统的演进方向。
博客
Kimi-K2-Thinking 开源大模型新王，权威测试结果公布
11-12 1300
与此前发布的 Kimi K2 Instruct 使用 FP8 精度不同，K2 Thinking 原生以 INT4 精度发布，结果是，K2 Thinking 仅约 594 GB，而 K2 Instruct 与 K2 Instruct 0905 略超 1 TB——从而在推理与训练中获得效率提升。总而言之，Kimi K2 Thinking 是一款特点鲜明的模型，它以卓越的智能和专业能力为开源领域树-立了新的标杆，证明了开源模型追赶甚至超越闭源模型的可能性。以编码为重点的评估基准，用于评估大型语言模型的性能。
博客
Kimi K2 Thinking 量化之后再量化，模型文件缩水60%，准确率85%，部署教程来了
11-10 551
Kimi K2 Thinking模型通过1-bit量化技术将594GB模型缩减至247GB，大幅降低部署成本。Unsloth团队采用MoE卸载技术，仅需8GB显存即可运行，支持CPU/GPU混合部署。部署流程分三步：编译llama.cpp、下载量化模型、配置MoE卸载参数。推荐使用UD-Q2_K_XL（381GB）版本平衡性能与精度。模型支持OpenAI API格式调用，并具备独特的"思考过程"展示功能。尽管量化后性能有所妥协，但为资源有限场景提供了运行超大模型的可能性。
博客
迄今为止最大的开源模型Kimi K2 Thinking ，硬钢闭源模型
11-07 1131
模型是具有通用 Agentic 能力和推理能力的思考模型，它擅长深度推理，并可通过多步工具调用，帮助解决各类难题。什么让它与众不同：⚡ 原生 INT4 量化 → 2 倍快速推理💾 占用内存减半，无精度损失🎯 256K 上下文，支持 200-300 次工具调用官方释放的基准测试结果：🔹 在 HLE (44.9%) 和 BrowseComp (60.2%) 上达到 SOTA🔹 最多可以执行 200 – 300 个连续的工具调用 无需人工干预。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值