这波DeepSeek采购需求过去了吗?企业用户调研数据揭示真实情况

近日,由云计算标准与应用工业和信息化部重点实验室(以下简称“实验室”)发起,全国信标委云计算和分布式平台分委会云建设与应用标准工作组(以下简称“工作组”)面向全行业企业用户组织开展了企业级私有化大模型应用现状与私有化部署需求专项调研,由工作组成员单位云轴科技ZStack支持推动。工作组于4月28日形成并发布《企业级大模型私有部署及智算云应用调研结果》(以下简称《调研结果》)。

图片

《调研结果》显示,自DeepSeek开源大模型在今年引发市场热切关注以来,企业私有化部署意愿从33.25%跃升至88.75%,数据隐私与成本降低将驱动千行百业加速AI布局。《调研结果》同时揭示,算力资源调度与多种模型管理是现阶段大模型企业私有化部署的主要挑战;标准制定、国内硬件与智算云平台成为破局要点。

部分调研结果

(1)企业未私有部署大模型的三大核心问题:在当前阶段,企业不论是否已经私有化部署大模型,企业面临的核心问题主要聚焦三大方向:技术能力不足,投入成本较高、管理平台缺失。其中,企业私有化部署大模型需要考虑算力管理、模型管理、运营管理等三方面落地问题;算力管理主要实现异构硬件调度和资源利用率提升;模型管理主要实现企业对多种模型的部署、评测、迭代、协同等全生命周期管理;运营管理主要帮助企业低代码落地AI应用,并可满足AI运营需求。

图片

(2)DeepSeek企业私有化部署难点:企业对于DeepSeek私有化部署难点主要集中在算力管理、模型管理与运维管理,具体为:算力管理的硬件环境实例59.23%、智算硬件利用率30.03%;模型管理的多种大模型管理41.87%;运维管理的资源高效调度及运维46.83%。

图片

用户研讨会与专家观点

在《调研结果》整理过程中,工作组组织行业用户研讨会,就大模型私有化部署的需求进行探讨。来自上海市闵行区数据局、中电工程顾问集团中电数据与信息研究院、中粮信科运维中心,天府绛溪实验室先进计算前沿研究中心、东方明珠新传媒股份有限公司云计算研究院、中国科学院计算技术研究院、中石油集团东方地球物理勘探有限公司处理中心、中国中医科学院西苑医院信息管理中心,国家图书馆数字资源部&信息技术部、国任财产保险股份有限公司系统运营部、中国建设银行运营数据中心、中国农业农村部信息中心、中国电子技术标准化研究院的专家发表观点如下:

上海市闵行区数据局局长吴畯:

区数据局积极研究大模型技术在政务服务领域和城市治理的应用场景,在打造数字政府的过程中深化人工智能应用。通过人工智能基础设施平台在智算优化、模型管理和应用运营等维度持续深化人工智能实践,与数商企业探索构建“政务AI实验室”不断提升工作效能,并结合全区发展战略,整合区内相关资源构建数字生态联盟,促进资源共享与优势互补,推动区域数字经济高质量发展。

中电工程顾问集团中电数据与信息研究院王灿:

在电力工程设计行业,人工智能与传统设计工具融合是刚需,但应该深入理解各类人工智能路线和需求是否适配,不可盲目让AI介入业务。此外,作为行业标准的探讨会,我认为可以重点思考下软硬件适配和算力重复投入的痛点及解决思路,在更高层面引领信创及算力生态的高质量发展。

中粮信科运维中心王龙军:

持续量化应用价值如同在迷雾中找路标。我们选择私有化部署DeepSeek蒸馏版试水办公及运维提效,但发挥实效还需要配合数据治理,目前非结构化数据标准缺失掣肘使用效果。从个人视角看,供应链优化、多模型混合管理、数据治理会成为大模型企业应用的长远命题。当用AI赋能业务时,需要IT部门与业务部门紧密协作,共同在复杂业务逻辑中探索人工智能可以发挥价值的最优场景。

天府绛溪实验室先进计算前沿研究中心副主任吴怀谷:

作为天府绛溪实验室人工智能方向的研究中心,一方面,中心依托电子科技大学将原始创新转换成技术产品落地;另一方面,承担政府要求的推动人工智能产业发展职能,落实产业化孵化和产业化发展的工作。从2024年开始,天府绛溪实验室应用Al Infra平台打造新一代多模态泛在智能基础平台,就实现GPU资源的高效利用和管控,各类AI模型的简易快捷分发、部署和调优,以及保障模型数据和训练数据的安全可控等方面进行了深入的研究,并构建了多模态智能体系,为专业行业用户提供智能知识问答、精准意图理解、安全隐私保护、全面态势感知的“智能大装置”,作为云、边、端一体化的泛在智能解决方案,服务于控制、态势感知、政府服务等场景,赋能行业客户。

东方明珠新媒体股份有限公司云计算研究院副总经理陆趣

公司横跨文旅、线上购物、网络运营、数字电视、媒体生产等业务板块,需要根据不同业务场景特点结合多种开源/闭源大模型挖掘AI应用。通过东方明珠生成式人工智能媒体融合创新平台,对包括大语言模型、文生图大模型、文生视频大模型、文生音乐大模型、多模态大模型等不同类型大模型进行生命周期管理,已经实现了AIGC内容生产工具、AI客户服务平台、跨模态媒资融合搜索系统等不同场景下的A应用,探索AI赋能内容生产、传播和服务的新模式;以加快推动业务和管理的智能化、超清化、移动化发展。

中国科学院计算技术研究所高级工程师王煜炜:

科研需求多样化,异构算力调度和边缘端训推模式挑战较大。我们尝试低成本部署DeepSeek,但工具链支持仍有不足,需从国标制定者视角重构智算标准--让学术界与产业界在开源生态、知识产权管理上能够“同频共振”。

中石油集团东方地球物理勘探有限公司处理中心总工程师赖能和:

油气行业算力采用租用与自建结合,大模型采用引进通用大模型与合作开发领域大模型相结合。目前已有8个通用和领域/垂向大模型,并将持续迭代,已在营销、地质解释储层预测、管道焊缝检测等核心业务领域开始应用探索。比如焊缝检测效率能提升超50%以上。目前的主要挑战是大模型需要巨大算力、数据质量有待提升、智算国产化生态薄弱——需绕开CUDA重构工具链,同时企业还得应对网络升级和数据产权等风险,挑战不亚于打一场“数字化会战”。

中国中医科学院西苑医院信息管理中心陈海强:

医疗数据本地化要求严格,通用大模型的'幻觉’风险不可控,诊断合规压力大。我们目前仅小范围测试32B/70B模型辅助文书处理,但医院当前自建算力资源有限,后续需要本地化AI算力基础设施来支撑大尺寸模型。在模型应用和管理方面,迫切需要整合行业审定知识库、支持病例质控微调能力,同时依赖主管部门制定统一标准,避免单体医院盲目试错。

国家图书馆数字资源部主任兼信息技术部主任谢强:

国家图书馆作为国家文化资源的战略保存者和知识服务的提供者承载着海量古籍文献、音视频资料、数字资源的保存与应用需求,正面临海量文献资源管理、读者个性化服务、文化遗产保护与学术研究支持等多维度需求的挑战。在AI技术快速发展的背景下,我们需要通过AI技术实现资源的智能化管理、深度挖掘与普惠服务,同时兼顾数据安全与文化遗产保护的特殊性。目前我们正构建面向AI时代的统一技术底座,实现对多模态大模型(如古籍文本识别模型、图像修复模型、知识图谱构建模型)、垂直领域语言型、跨模态检索模型的全生命周期管理。推动图书馆从“资源存储者”向“知识赋能者”转型,以技术之力守护文明根脉,让千年文脉在数字时代焕发新生。

国任财产保险股份有限公司系统运营部团队经理叶进:

AI不是人工的替代者,而是重塑行业价值的关键伙伴,AI大模型正驱动保险行业向“精准化、主动化、人性化”演进。因此,智算云也已经作为国任保险发展的重要方向之一。智算云将作为公司人工智能+应用开发和部署的基础设施平台,解决异构算力资源池化管理、多模态大模型协同训练、跨技术框架统一调度等问题,能否支持训推一体化可观测性与运维、数据安全与合规、开放性与扩展性等技术关键点是我们重点关注的特性,未来我们也将依托智算云平台去开展AI应用的开发部署,探索更多AI在保险行业的应用场景,推动公司的服务化水平迈向更高的台阶。

中国建设银行运营数据中心申文武:

建设银行紧跟人工智能技术迭代,将AI作为金融科技战略核心部分构建了智能视觉、自然语言处理等五大领域能力,在科技金融等多个方面实现应用,也部署了DeepSeek,在办公场景进行测试应用。2023年起,建行打造具备大模型、大算力、大数据的金融大模型基座,已在千亿级模型基座建设、云智算集群搭建、高质量金融数据集构建等方面取得显著成效,并形成了一支高素质的人才队伍。此外通过建立安全对齐管理机制,确保了金融大模型的安全可控性。目前,建行已成功上线100余项业务场景应用,覆盖个人金融、公司金融、风险管理等多个领域,显著提升了工作效率和服务质量。

中国农业农村部信息中心副处长吴疆:

农业部和下属单位也在积极的本地化部署DeepSeek模型,大概有1/3地方机关已经在寻找适合与AI结合的场景,希望能够通过大模型来提升整体服务效率和智慧化的创新,而不是包装出很多“娱乐工具”。目前硬件和算力平台兼容性是待解决的主要问题,敏感数据分级部署、业务与模型的接口、算力调度效率等问题也希望有更好的解决方案。但当务之急是统一标准,打通专有云训练与本地私有云上数据的流转,终结“各自为政”的乱局。

中国电子技术标准化研究院陈志峰:

开源大模型的出现加速了各行业用户使用大模型的意愿,当下企业级大模型的私有部署和使用过程中,仍在异构资源调用、模型管理以及运维管理等方面面临困难。云计算相关技术能将算力资源进行融合并以服务方式进行供给,为用户接入算力提供便利性。云计算和人工智能融合发展将促进异构算力资源利用效率和使用便利性的提升,智算云及其标准化工作将对企业级大模型的规模化使用起到积极作用。

支持推动单位

ZStack作为工作组成员和此次《调研结果》支持推动单位,不仅在云计算行业参加了24个标准制定,还积极向智算云不断推进,推出AI Infra平台ZStack AIOS智塔。凭借其All-in-One一站式平台优势,在算力调度、AI大模型训推、AI应用服务开发三大方向全面助力企业大模型私有部署和智算云应用。2025年,ZStack分别入选Gartner AI Infra中国代表厂商、IDC生成式AI应用开发平台主要厂商和技术代表厂商、赛迪顾问中国人工智能百强企业,ZStack AIOS智塔还通过中国电子标准院首批云上部署DeepSeek验证测试。

在对DeepSeek的企业私有化应用方面,继今年2月2日ZStack AIOS智塔首发支持DeepSeek V3/R1/ Janus Pro三种模型后,3月3日ZStack基于ZStack AIOS 平台智塔发布智塔AI一体机DeepSeek版,可基于多种国内外CPU/GPU私有化部署,满足企业进行DeepSeek等大模型的本地私有化部署需求。AI Infra平台ZStack AIOS智塔作为企业大模型私有部署的破局要点,目前已经在政府、金融、交通、科教、传媒等行业落地,切实帮助众多企业实现了大模型私有部署和智算云应用。

科研领域:ZStack与省级实验室合作,联合推出多模态泛在智能基础平台,提供云边端一体化协同,支持智能问答、精准意图理解、态势感知等。

教育行业:ZStack服务上海高校搭建Agent智能体平台,满足师生通过低代码方式快速搭建校园助手,以及学生发挥创意自行搭建各类Agent应用。

金融行业:ZStack服务深圳保险公司用于理赔审核、智能客服、风险预测等场景。

交通行业:ZStack服务西南高速,以多机多卡方式承载DeepSeek 671B量化版本模型,支持视频图像采集与数据分析决策。

传媒行业:ZStack服务大型新媒体建立起生成式人工智能媒体融合创新平台,用于视频生成、文生图、智能客服、多模态搜索、购票等场景。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值