DeepSeek行业应用案例——芯片

一 、简介

在数字化浪潮汹涌澎湃的当下,DeepSeek 以其强大的技术实力,如同一股创新的洪流,席卷众多行业,为各领域带来了前所未有的变革与突破。本案例集初步收录了 40 多个来自农业、制造业、汽车行业、手机行业、智能家居、物流、云服务、办公、 网络安全、金融、医疗、教育等多个关键行业的应用案例。从助力农业实现病虫害精准预测与智能灌溉,到推动制造业生产故障 预警与产品质量提升;从优化汽车智能交互体验与智能驾驶辅助, 到升级手机语音助手功能;从革新智能家居控制场景,到重塑物流配送路线与订单调度;从提升云服务模型推理效率与一键部署 能力,到增强办公软件 AI 助理和视觉内容平台效能;从强化网 络安全防护,到助力金融行业实现智能合同质检、信贷审核优化、 投资策略生成等;从医疗领域的疾病诊断辅助、多模态数据治理, 到教育行业的智能化教学升级与智能教学辅助。这些案例多方位、 多角度展示 DeepSeek 在不同行业的落地实践与显著成效,为各行业从业者提供了宝贵的参考与借鉴,引领大家一同探索智能时代的无限可能,见证 DeepSeek 如何成为推动各行业迈向智能未来的核心驱动力。

二 、行业案例

4 信息传输、 软件和信息技术服务业

3)全国产研发模型部署 

行业领域:芯片

挑战描述:芯片到平台、算力到模型的全国产研发难度大, 缺乏有效的模型部署和应用方案。

DeepSeek 应用方式:沐曦与 GiteeAI 联合首发 DeepSeekR1   千问蒸馏模型,实现从芯片到平台,从算力到模型的全国产研发、 中国制造。 

应用成果:推动了全国产化 AI 生态的发展,为相关产业提 供了新的技术支持和解决方案。

数据来源:https://caijing.chinadaily.com.cn/a/202502/11/WS67aae032a310be5 3ce3f4e6e.html

G itee AI 联合沐曦首发全套  

DeepSeek R1 千问蒸馏模型

Gitee AI  刚刚上线了 DeepSeek-R1-Distill-Qwen-1.5BDeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-14BDeepSeek-R1-Distill-Qwen-32B 四个较小尺寸的 DeepSeek  模型。值得关注的是次上线的四个模型均部署在国产沐曦曦云 GPU   

同时,这次 Deepseek R1  模型 +  沐曦曦云 GPU + Gitee AI  平台,更是实现了 从芯片到平台,从算力到模型,全国产研发、中国制造 

100%国产 AI 的力量

国产模型 DeepSeek R1

DeepSeek R1  是一款大型混合专  (MoE)模型,拥有 6710  亿个参数,支持128000  个 Token  的大输入上下文长度。在数学、代码和自然语言推理等任务上表现出色。

本次部署在沐曦曦云 GPU  上的是四个 DeepSeek R1  蒸馏模型, 以更小参数量 的资源占用,实现了性能与大参数模型旗鼓相当。

国产 GPU  沐曦曦云

曦云系列通用 GPU  产品(包括 C550C500C500XC290C280N260  型号)采用完全自主研发的 GPU IP,拥有完整的知识产权,并具备强大的多精度混合计算能力及高带宽显存支持。同时,沐曦产品搭载先进的时空互联技术和全球兼容的 MXMACA  软件栈,可广泛应用于智能、通用计算和数据处理等场景。

在本次部署适配工作中,得益于沐曦曦云良好的 CUDA  兼容性, 同时得到沐曦 的算力供应商超讯通信 的鼎力支持,最终实现了模型的快速部署、稳定调用。

国产平台 Gitee AI

2024  年初上线以来,Gitee AI  平台以 Serverless API、模型引擎、AI  应用为核 心功能与服务,致力于让开发者轻松构建和部AI  应用,为企业客户提供更加智能、高效的 AI  应用解决方案。

100%国产 AI 免费跑

目前 Gitee AI  上的 DeepSeek-R1-Distill 系列模型现已面向全体开发者免费使用!

本次上线的模型参数虽小,但它们表现并不亚于大参数模型,如下图中的DeepSeek-R1-Distill-Qwen-14B,虽然参数较小,但简单任务相较于大参数模型其响应 速度更快, 同时也具备体现思考过程的能力:

模型自强、算力自强、平台自强, 100%国产 AI 的新时代已然来临。我们一起在 国产 AI  的土壤上,种出下一个时代的参天大树。

4)推理服务部署与性能优化

行业领域:芯片

挑战描述:推理服务部署困难,模型性能在硬件上无法充分 发挥,影响计算效率和应用效果。

DeepSeek 应用方式:摩尔线程实现对 DeepSeek 蒸馏模型的 推理服务部署。

应用成果:提升了模型在摩尔线程硬件上的推理性能,优化 了计算效率。

数据来源:https://t.10jqka.com.cn/pid_422092585.shtml

摩尔线程成功部署 DeepSeek 蒸馏模型,提升国产 GPU 推理性能

摩尔线程智能科技(北京)有限责任公司近日宣布 已成功实现对 DeepSeek 蒸馏模型的推服务部署 。通过 DeepSeek 提供的蒸馏模型, 摩尔线程能够将大规模模型的能力迁移至更小、 更高效的版本, 从而在国产 GPU上实现高性能推理。

此次部署基于 Ollama 开源框架, 摩尔线程完成了 DeepSeek-R1-Distill-Qwen-7B 蒸馏模型的部署, 并在多种中文任务中展现了优异的性能 。这不仅验证了摩尔线程自研全功能 GPU  的通用性与 CUDA 兼容性,还通过自主研发的高性能推理引擎,结合软硬件协同优化技术,显著提升了模型的计算效率和资源利用率。

此外,用户还可以基于 MTT S80 MTT S4000 进行 DeepSeek-R1 蒸馏模型的推理部署, 此前已有用户在 MTT S80 上手动完成实践 。这一进展为未来更多大规模模型的部署提供了技术保障。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值