DeepSeek绕开CUDA垄断，V3论文细节再挖出！英伟达护城河不存在了？

最新推荐文章于 2025-05-30 13:28:20 发布
最新推荐文章于 2025-05-30 13:28:20 发布
阅读量1k 收藏 12
点赞数 29
分类专栏： Deepseek原理与使用 文章标签： 自然语言处理 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/sinat_37574187/article/details/145402418
版权

DeepSeek绕开CUDA垄断，V3论文细节再挖出！英伟达护城河不存在了？

转载自 | 新智元

DeepSeek 最近发布的两个模型 —— DeepSeek-V3 和 DeepSeek-R1 以很低的成本获得了比肩 OpenAI 同类模型的性能。

根据外媒的报道，他们在短短两个月时间，在 2,048 个 H800 GPU 集群上，训出 6710 亿参数的 MoE 语言模型，比顶尖AI效率高出 10 倍。

这项突破不是用 CUDA 实现的，而是通过大量细粒度优化以及使用英伟达的

了解本专栏 订阅专栏 解锁全文 超级会员免费看
DeepSeek 绕开 CUDA ？一文搞懂 CUDA 为何是英伟达的“护城河”
2401_85373898的博客
02-18 2004
最近，DeepSeek 的技术路线引发了热议，有人甚至认为它绕开了英伟达的 CUDA。今天，就让我们深入探讨一下，DeepSeek 究竟有没有绕开 CUDA ，以及 CUDA 为何是英伟达的核心壁垒。这不仅关乎技术的突破，更关乎整个 GPU 编程生态的未来走向。
DeepSeek V3论文细节：如何绕开CUDA的垄断！
Datawhale
01-29 1060
Datawhale分享DeepSeek：PTX，编辑：新智元DeepSeek 最近发布的两个模型 —— DeepSeek-V3 和 DeepSeek-R1 以很低的成本获得了比肩 OpenAI 同类模型的性能。根据外媒的报道，他们在短短两个月时间，在 2,048 个 H800 GPU 集群上，训出 6710 亿参数的 MoE 语言模型，比顶尖AI效率高出 10 倍。这项突破不是用 CUDA 实...
深度解析“DeepSeek 绕过 CUDA”代表什么意思？
打造全国最全的AI Agent开发知识领域的博客
02-09 485
DeepSeek 绕过 CUDA”或将打破NVIDIA的技术垄断，推动行业多元化与去中心化。
“DeepSeek 甚至绕过了 CUDA”，论文细节再引热议，工程师灵魂提问：英伟达护城河不存在了？...
码农code之路
02-01 350
文章来源：新智元【导读】DeepSeek模型开发竟绕过了CUDA？最新爆料称，DeepSeek团队走了一条不寻常的路——针对英伟达GPU低级汇编语言PTX进行优化实现最大性能。业界人士纷纷表示，CUDA护城河不存在了？原本DeepSeek低成本训出的R1，就已经让整个硅谷和华尔街为之虎躯一震。而现在又曝出，打造这款超级AI，竟连CUDA也不需要了？根据外媒的报道，他们在短短两个月时间，在2,048...
DeepSeek爆火启示录：中国AI团队如何在全球巨头围剿中杀出重围？
wangxi06的专栏
04-24 539
从技术突破到商业创新，从开源革命到全民应用，DeepSeek 的爆火不仅是一个企业的成功，更是中国 AI 产业崛起的缩影。更值得关注的是伦理风险。" 从芯片到算法的全面突破，DeepSeek 的成功印证了中国科技人 "把核心技术掌握在自己手中" 的铮铮誓言。但行业专家指出，这家 "零融资" 的公司正面临双重考验：既要保持技术迭代的速度，又要探索可持续的盈利模式。当 DeepSeek 的开源代码在全球开发者手中不断进化，当年轻团队持续刷新技术边界，我们有理由相信：属于中国 AI 的黄金时代，正在到来。
二十问拆解 DeepSeek：一场针对制裁的算力游击战
AI科技大本营
02-03 5209
作者 | Ben Thompson编译 | Eric Harrington出品丨AI 科技大本营（ID：rgznai100）2025 年初，AI 领域掀起了一场前所未有的风暴，一家成立仅三年的中国公司深度求索接连放出两枚“核弹”：DeepSeek 推理模型 R1：正面硬刚 OpenAI o1，不仅性能媲美，还彻底开源。DeepSeek 千亿参数模型 V3：训练成本仅 557 万美元，比 GPT-4...
万文解说：关于DeepSeek的误读与真相
lijinbo_233的博客
03-27 735
导读壹 ||对谷歌、Meta、Anthropic等企业而言，复现类似DeepSeek-R1的推理模型并非难事。但是，巨头争霸，即便是小的决策失误，也会错失先机。贰 ||DeepSeek-V3模型的净算力成本约558万美元，已经十分高效。在成本之外，让AI行业人士更加振奋的是DeepSeek的独特技术路径、算法创新及开源的诚意。叁 ||大模型都逃不过“幻觉”问题，DeepSeek也不例外。一些用户表示，DeepSeek由于表达能力和逻辑推理更出众，产生的幻觉问题更加让人难以识别。
万字回顾中国生成式AI大会！50+大咖演讲精华干货爆棚，来没来都值得收藏
强化学习曾小健
04-04 730
中国生成式AI的每一次突破，从来不是某家企业的独角戏，而是产学研用协同攻坚的交响曲。开年DeepSeek的爆火，成为中国乃至世界生成式AI产业的关键拐点。它颠覆了“堆砌算力”的固有路径，开辟出一条“效率优先”的创新路径，催化开源、推理模型与AI Infra研发热潮，更为端侧AI与国产AI算力基础设施的落地应用注入了新动能。站在技术与产业共振的历史节点，我们每一个人，都正在见证和参与一场激动人心的技术跃迁。春天来了，生成式AI的浪潮更加波涛汹涌，未来正呼啸而至。
多模态大语言模型arxiv论文略读（九十八）
Jamence的博客
05-29 980
➡️ 研究动机：为了提高多模态情感识别的准确性和细致度，研究团队提出了MicroEmo，一个时间敏感的MLLM，旨在关注面部微表情的时间动态和话语感知视频片段的上下文依赖性。4) 通过微调LLMs的少量参数来选择最终的实体。该方法通过动态聚合模态特定和模态无关的LoRA专家，部分解耦多模态生成空间，从而在不显著增加参数的情况下，提升模型的多模态生成能力。➡️ 问题背景：当前的多模态生成模型在视觉文本理解与生成任务中表现出色，但同时生成图像和文本时，由于视觉和语言模态之间的固有不一致性，通常会导致性能下降。
【NLP基础知识系列课程-Tokenizer的前世今生第五课】从静态到可学：Tokenizer 的自适应演化之路
刘炫320的博客
05-27 895
Vokenization 是一个跨模态的 token alignment 方法，为每个文本 token 匹配一个“视觉 embedding”，形成“视觉 token”或“voken”。在 NLP 或多模态任务中，我们一直使用固定的分词器（如 BPE、WordPiece）在训练前将文本分为 token。但这是一种静态方式，与模型参数解耦，与任务目标无关。Tokenizer，不再只是“tokenizer”，而是人工智能系统的输入分配器（Input Orchestrator）。是新的 token 表示。
【大模型原理与技术-毛玉仁】第一章 语言模型基础
m0_60121089的博客
05-28 882
语言是概率的。并且，语言的概率性与认知的概率性也存在着密不可分的关系。语言模型（Language Models, LMs）旨在的概率。
【自然语言处理与大模型】大模型（LLM）基础知识⑤
qq_39780701的博客
05-26 1070
如何保证大模型生成内容的合规性？如何对超长文本进行微调训练？
AI时代新词-大模型（Large Language Model）
smileKH的博客
05-26 581
大模型，全称为“大规模语言模型”（Large Language Model），是一种基于深度学习的人工智能技术。它通过海量的文本数据进行训练，学习语言的模式、语法和语义，从而能够生成自然流畅的文本内容。大模型的核心在于其庞大的参数规模，这些参数使得模型能够捕捉到语言的细微差别和复杂性。
AI任务相关解决方案1-基于NLP的3种模型实现实体识别，以及对比分析（包括基于规则的方法、CRF模型和BERT微调模型）
微学AI的博客
05-28 902
本文将深入探讨三种不同的命名实体识别(NER)方法，包括基于规则的方法、CRF模型和BERT微调模型，用于识别文本中的地名(LOC)、机构名称(ORG)和人名(PER)实体。通过系统比较这三种方法的原理、实现代码和实验结果，**为不同应用场景下的NER任务提供选择依据**。本研究将重点分析实体识别的准确性、召回率和F1值等核心指标，并通过特殊案例的识别效果来评估各种方法的优缺点。
【NLP基础知识系列课程-Tokenizer的前世今生第一课】Tokenizer 是什么？为什么重要？
刘炫320的博客
05-27 794
当你读到“unbelievable”，你可以立刻意识到它是“un + believe + able”构成的，这种构词结构能让你快速理解它的意思。这个单位，就叫做 token，而设计这个单位的方式，就是 tokenizer。”，模型可能就要花更多精力才能拼凑出“哦，这是一个否定+动词+形容词构成的词”。我们可以看到，从语义结构最强的“句子”到最原始的“字节”，Tokenizer 划分的单位越小，信息越精细，但模型所承担的“组合理解”任务也越大。细了，理解变得困难。除了“切多大”，另一个问题是“怎么切”。
【NLP基础知识系列课程-Tokenizer的前世今生第三课】多模态世界中的 Tokenizer 策略
刘炫320的博客
05-27 1038
一个优秀的多模态 tokenizer，不只是“切词工具”，而是跨语言与感知之间的桥梁。一个模态压缩器（compressor）一个语义对齐器（aligner）一个结构提示器（structurer）tokenizer 与 encoder 融合为模态感知引擎动态感知上下文，灵活生成 token 序列从统一序列转向多模态图结构 token 表示下一篇，我们将走入非语言符号世界：基因、蛋白质、分子结构等生物序列，那些没有自然语言规律却承载复杂规则的序列，又该如何“切”？
通用的防御框架，用于抵御（多模态）大型语言模型的越狱攻击
最新发布
hao_wujing的专栏
05-30 1085
尽管（多模态）大型语言模型（LLMs）因其卓越的能力而受到广泛关注，但它们仍然容易受到越狱攻击。已经提出了各种防御方法来防御越狱攻击，然而，这些方法通常是针对特定类型的越狱攻击而定制的，从而限制了它们对抗各种对抗策略的有效性。例如，基于释义的防御对于文本对抗性越狱攻击有效，但无法对抗基于图像的攻击。为了克服这些局限性，我们提出了一个通用防御框架，称为测试时免疫（Test-time IMmunization，TIM），它可以自适应地以自我进化方式防御各种越狱攻击。
【NLP基础知识系列课程-Tokenizer的前世今生第二课】NLP 中的 Tokenizer 技术发展史
刘炫320的博客
05-27 822
Tokenizer 不只是为了节省长度、提升效率，更是为了让模型对语言有更深入、系统的建模方式。今天的 tokenizer，已经从“静态规则”演进到“可学习模块”；从“辅助工具”升级为“认知中介”。而随着语言模型不断演进，我们也逐渐意识到：Tokenizer 不应当是障碍，而应当是助力。下一篇，我们将走进多模态时代的 tokenizer：图像、音频、视频、表格……这些非文本的输入，又是如何“被切”的？又如何与文本 token 融为一体？敬请期待。
深度解读 Qwen3 大语言模型的关键技术
WeLearnNLP
05-27 296
这里我们选取 GPT-4（OpenAI的旗舰闭源模型）、LLaMA系列（Meta的开源大模型，假设即将推出的LLaMA3）以及 Anthropic 的 Claude 系列 (Claude 2/3) 来进行横向分析，看看 Qwen3 的优势和不足，以及它为开源模型阵营奠定的新标杆。特别是 Qwen3 拥有100多种语言能力，这对于全球化的聊天应用是巨大的优势——一个模型就能服务不同语言用户，无需为每种语言训练单独模型，且还能跨语言对话（例如用户用法语提问、模型用法语回答，或模型将英文知识翻译成中文解释）。
deepseek是如何跨越英伟达的护城河的
02-16
### DeepSeek 应对 NVIDIA 技术竞争策略 DeepSeek 面临来自NVIDIA的强大竞争优势，尤其是在高性能计算和人工智能领域。为了有效应对这些挑战，DeepSeek采取了一系列创新措施和技术优化方案。 #### 自研芯片架构设计 针对特定应用场景需求，开发定制化的硬件加速器成为重要方向之一。通过构建专门面向AI推理与训练任务的处理器结构，可以实现更高的能效比以及更优的成本效益[^1]。这不仅有助于缩小同NVIDIA产品之间的性能差距，还能开拓新的市场空间。 #### 软件生态系统的建设 除了硬件层面的努力外，在软件方面也进行了大量投入来增强整体解决方案竞争力。例如推出兼容性强且易于使用的编程框架和支持工具链，使得开发者能够更加便捷高效地利用DeepSeek平台开展工作；同时积极拓展合作伙伴关系网络，共同打造开放共赢的合作模式[^2]。 #### 创新算法研究与发展 持续探索前沿理论并将其应用于实际问题求解过程之中也是不可或缺的一环。通过对新型神经网络模型及其优化方法的研究实践，可以在不依赖于顶级GPU设备的情况下达到甚至超越现有技术水平的效果，从而形成差异化优势[^3]。 ```python # Python伪代码展示自定义算子集成到深度学习框架中的方式 @custom_op(name="my_custom_conv", domain="ai.deepseek") def my_custom_conv(input_tensor, kernel_weights): output = conv_forward(input_tensor=input_tensor, weights=kernel_weights) return output ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

强化学习曾小健

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值