- 博客(6)
- 收藏
- 关注
原创 DeepSeek推理:910B为何是绝佳之选
从性能上看,910B有着强大的算力支撑,像推理套餐 - 满血版搭配两台910B型智算平台,能完美适配DeepSeek - V3、V2、R1等应用模型,让推理过程更流畅高效。在不同套餐组合里,无论是蒸馏套餐的各参数模型微调,还是推理套餐的多样应用,910B都能发挥关键作用,满足不同的推理需求。对DeepSeek推理感兴趣的友友们,910B真的值得深入探索哦。在DeepSeek推理领域,910B脱颖而出成为热门选择啦!
2025-02-20 06:26:26
783
原创 看懂 DeepSeek 模型参数与运行需求
从图表中可以清晰地看到,随着模型参数数量的增加,模型的各项指标也发生了显著变化。以 DeepSeek-7B 模型为例,其参数数量为 70 亿,模型大小相对较小,仅需 13GB,这使得它在运行时对硬件的要求也较为亲民。在运行配置方面,最低只需 4GB 显存的 GPU、4 核 CPU 以及 8GB 内存,普通的个人电脑便能轻松驾驭。
2025-02-10 20:38:53
1189
原创 AI推理的超级引擎,DeepSeek的最强搭档
RTX 4090搭载16384个CUDA核心,配合24GB高速GDDR6X显存,显存带宽高达1008GB/s ,基础频率2235MHz,Boost频率可达2520MHz。无论是自然语言处理中的文本生成、智能问答,还是复杂的数据分析任务,DeepSeek模型借助4090的算力,推理速度大幅提升,显著缩短等待时间,让应用更加流畅高效。在运行DeepSeek模型时,面对海量数据和复杂的计算任务,4090能够轻松应对,快速处理并输出推理结果。
2025-02-09 22:24:16
317
原创 学会使用AI,DeepSeek进阶第⼀章:准备篇
4. ⾸次登录:输⼊密码时建议使⽤「⼤⼩写字⺟+数字」组合(例如:Deep2025@seek)1. 对话输⼊框:像发微信⼀样打字,但记得按「Enter」发送(⽽不是微信的「发送」按钮)2. 历史记录栏:左侧列表显⽰所有对话,可右键「重命名对话」⽅便查找(例如改为「毕业论⽂辅。1. 访问官⽹:在浏览器输⼊「www.deepseek.com」(就像打开微信⼀样简单)2. 注册账号:点击右上⻆「笑脸图标」→选择「邮箱/⼿机注册」(建议使⽤常⽤邮箱)◦ ⏳记忆库:点击星标保存重要信息(相当于AI的记事本)
2025-02-08 21:36:07
188
原创 突破界限:DeepSeek引领国产GPU新时代,开启AI算力新篇章
具体而言,DeepSeek通过自主研发的AI框架和算法库,积极推动这些工具对国产GPU的支持工作。此外,包括沐曦、天数智芯、海光信息等在内的四大国产GPU企业也都完成了与DeepSeek模型的国产化适配。DeepSeek确实正在采取措施以兼容国产GPU,这一举措旨在推动国内芯片生态的发展,并减少对国外硬件平台的依赖。总之,DeepSeek的努力不仅体现了其技术实力,也展示了对国产芯片生态发展的支持。随着更多企业和开发者的加入,国产GPU的生态系统将逐步完善,有望在未来的AI领域中占据一席之地。
2025-02-05 22:46:44
253
原创 华为昇腾910B2:从芯片到应用,构建AI生态新高地
• 卡间互连带宽:其卡间互连带宽为392GB/s,虽然与NVIDIA A800的400GB/s相近,但由于互连拓扑不同,实际性能表现存在差异。• 算力:昇腾910B2的算力基本对齐NVIDIA A800,能够满足大规模训练任务的需求。• 能效比:在鲲鹏底座的服务器中,昇腾910B2的功耗较低,具有更好的“性能/功耗”比。• 高性能:具备强大的计算能力和高效的卡间通信能力,能够满足大规模AI训练的需求。• 低功耗:在鲲鹏底座的服务器中,具有较低的功耗,能够降低数据中心的运营成本。
2025-02-05 21:24:08
4345
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人