云轴科技ZStackCTO王为:AI Infra平台具备解决私有化AI全栈难题能力

从零开始的 AI Infra 学习之路 AI Infra(AI 基础设施)是指为上层的 AI 算法应用提供支持的 AI 全栈底层技术,通过合理利用计算机体系结构,可以实现 AI 计算的加速和部署。AI Infra 主要包括以下内容:AI 训练框架 & 推理引擎;AI 编译 & 计算架构;AI 硬件 & 体系结构。参考资料:;。 阅读详情

4月1-2日,2025中国生成式AI大会在北京举办,该会议已成为国内AI领域最具影响力的产业峰会之一。云轴科技ZStack CTO王为受邀在“大模型”峰会上发表主题为《AI 原生实践:企业实际场景的 AI 赋能与 Infra 实践探索》演讲,并参加《DeepSeek给AI Infra带来的启示与机会》圆桌讨论。

AI Infra平台具有多维支撑特性 解决企业私有化AI全栈难题

DeepSeek在激活全行业对人工智能重视的同时,也倒逼很多产品必须进行技术重构,包括传统一体机。只有深度整合人工智能基础设施(AI Infra)平台的方案,才能满足企业智能化转型的核心需求。

图片

ZStack CTO王为在中国生成式AI大会圆桌论坛上

王为指出:“具有AI Infra平台能力的DeepSeek一体机为用户提供了入门的解决方案,通过预装模型和应用降低了部署门槛,能够快速满足基础需求。但随着需求增长,用户可能需要更复杂的算力调度和混合云部署方案,以及模型部署上线复杂、多种模型难以评估、模型版本迭代困扰、敏感数据泄露隐患、算力资源利用率低等问题”。

在今年3月,ZStack基于ZStack AIOS平台智塔发布智塔AI一体机DeepSeek版,希望解决这些用户痛点。ZStack AIOS平台智塔通过创新的资源调度机制,实现了 GPU 算力的充分利用。vGPU切分技术支持在单张显卡上同时运行多个轻量级模型,可显著提升硬件资源利用率,同时平台适配 NVIDIA、华为昇腾、海光 等主流GPU设备。

在多个实践案例中,ZStack AIOS平台智塔帮助企业将GPU利用率提升40%以上,显著降低了硬件投入成本。

同时ZStack AIOS平台深度集成HuggingFace、ModelScope等主流开源模型平台,支持一键拉取最新模型到企业私有模型仓库,并在5分钟内完成部署验证,满足模型迭代需求。(更多阅读:基于ZStack AIOS平台智塔部署DeepSeek的六大核心优势)

“应该说AI Infra平台ZStack智塔像极了‘六边形战士’,可以通过一个平台解决私有化AI全栈问题”,王为总结道。

目前行业共识是AI Infra平台赋予了IT基础设施自适应进化能力——通过模型OTA(Over-the-Air Technology)更新、算力动态调度等功能,可无缝适配大模型、多模态AI等技术迭代,避免传统IT基础设施沦为“一次性产品”。

图片

ZStack AI Infra平台构建方案

在圆桌对话现场备受关注的话题还有DSA特定领域芯片或ASIC专用芯片是否会消亡,这折射出行业对GPGPU与ASIC两大阵营发展方向的关切。

参会专家普遍认为一定会有对Transformer架构计算特点更有针对性设计的专用芯片出现,ASIC能够有效降低推理计算成本,只有不断降低推理成本,才更能让大模型的应用实现普惠。

对此ZStack CTO王为表示,一些优化技术在GPGPU上效率不是特别高,所以AI推理往ASIC上发展的可能性非常大。国产算力在推理上替代能力很强,在训练上还需要一定时间追赶,但应该不会太久。

据了解,ZStack AIOS平台智塔提供了推理服务部署能力,可支持包括 DeepSeek 671B 满血版在内的全规格模型,并通过深度优化的分布式训练和推理架构,有效突破大模型部署的算力瓶颈,充分发挥模型性能。

据媒体报告,在今年3月,ZStack基于ZStack AIOS 平台智塔发布智塔AI一体机DeepSeek版。这样的DeepSeek x AI Infra技术方案如今已被云计算技术圈认可,并成为行业用户进行私有AI应用创新的默认选项,正被金融、教育、科研、传媒等行业用户部署在生产业务中。

“AI Infra平台+领域增强”私有化模式是部署大模型的优选方案

在论坛现场,多位专家表示DeepSeek一体机有助于企业在保护数据安全的情况下快速用上DeepSeek,私有化是企业部署大模型的优选方案,第三方研究报告也验证了这个趋势。

深交所 2025 年 4 月启动的证券行业大模型基础设施调研显示,78% 的受访券商将私有化列为部署首选。

赛迪顾问在《2025中国AI Infra平台市场发展研究报告》中指出,企业级AI应用私有化部署需求强劲,预计2025年中国AI Infra平台市场规模将达到36.1亿元,同比2024年增长超过86%,2025年将是中国AI Infra平台应用元年。

图片

中国生成式AI大会圆桌论坛现场,右一:ZStack CTO 王为

王为表示,私有化部署让用户拥有了“自主权”,“用户不用去研究软硬件,比如技术环境、模型版本升级、CPU、内存等,能以最快速度体验。但是最重要的还是AI Infra平台具备整体构建能力,包括对运营与应用层、模型层、智算底座3大层面的管理”。

据了解,ZStack智塔 AIOS平台以“AI”为核心,通过算力层、模型层、运营层三大层面助力 AI 创新落地,支持从云平台无缝升级,以及适配全部的云基础设施模块服务、产品文档和售后服务。

“具备AI Infra平台能力的DeepSeek一体机减少了用户的学习成本、软硬件选型和适配试错成本,降低了使用DeepSeek大模型的难度,同时满足数据隐私和本地化LLM的便捷需求”,王为总结道。

今年的2月2日,ZStack AIOS平台智塔首发支持 DeepSeek V3/R1/ Janus Pro三种模型后,3 月 3 日ZStack基于ZStack AIOS 平台智塔发布智塔AI一体机DeepSeek版,可基于海光、昇腾、英伟达、英特尔等多种国内外CPU/GPU 私有化部署,满足企业进行DeepSeek本地私有化部署需求。

「文智助手」全场景办公AI助理AI+OPC全流程实践方案(大赛作品) 阅读详情

相关推荐

船载 OpenHarmony AIS 航海工作台:告警与防碰撞预警系统

船载OpenHarmony AIS航海工作台的告警与防碰撞系统,集成十余类告警(超速、偏航、会遇、SOS等),通过网格空间索引实现高效邻近判定,保障实时性。告警管理器统一调度规则、去重、通知与日志,支持悬浮球、语音、跑马灯、弹窗多渠道触达,确保航行安全。SOS紧急通道独立运行,避免干扰。系统设计强调性能优化与多场景适配,为航海安全提供核心支撑。

专注于计算机研发知识和资讯分享 477

ZStack:AI原生实践需要自己下场,详解全栈AI Infra平台构建路径

在AI原生实践中,企业自身即为最好的练兵场

ZStack_io的博客 997

SocraticLM: Exploring Socratic Personalized Teaching with Large Language Models

大型语言模型(LLM)被认为是推进智能教育的一项关键技术,因为它们展示了深入理解教学场景和为学生提供个性化指导的潜力。然而,当前个性化教学中基于LLM的应用主要遵循“问答”范式,学生被动地获得答案和解释。在本文中,我们提出了苏格拉底式教学模式(SocraticLM ),它实现了一种苏格拉底式的“发人深省”的教学范式,实现了真正的课堂教师的角色,让学生积极参与到真正掌握解决问题所需的思考过程中。

weixin_43961909的博客 2886

云栖实录 | GenAI 时代 AI Infra 工程技术趋势与平台演进

2024云栖大会 【AI Infra 核心技术专场】、【人工智能平台年度发布专场】,由PAI 团队带来了对 AI Infra 工程技术的趋势解读,以及 PAI 的全新能力发布。

科技很有意思 2022

软件缺陷(定义+表现形式+优先级+信息+产生原因),看完这篇文章就懂了

软件缺陷软件缺陷的定义软件缺陷的表现形式软件缺陷产生的原因软件缺陷的根源软件缺陷的费用软件缺陷的信息 软件缺陷的定义 IEEE 1983 of IEEE Stardard 729中软件缺陷做了一个标准的定义: 从产品内部看,软件缺陷是软件产品开发或维护过程中所存在的错误、毛病等各种问题;从外部看,软件缺陷是系统所需要实现的某种功能的失效或违背。 因此软件缺陷就是软件产品中所存在的问题,最终表现为用户所需要的功能没有完全实现,没有满足用户的需求。 缺陷不是bug,缺陷包含bug,缺陷的范围更大。 软件缺陷

qq_40676418的博客 1万+

Win11下Wezterm配置Powershell默认终端全攻略(含主题同步技巧)

本文详细介绍了在Windows 11系统中,如何安装和配置Wezterm终端模拟器,并将其设置为PowerShell的默认终端。内容涵盖使用Winget或手动安装Wezterm,通过修改.lua配置文件切换默认Shell,并同步Campbell主题配色以还原熟悉的PowerShell视觉体验,旨在帮助开发者打造高效、个性化的命令行工作环境。

weixin_28363123的博客 1240

【AI Infra】什么是 AI Infra?

有关 AI Infra 的名词解释。

YGGP的博客 1万+

LinuxCNC开发实战:从安装到EtherCAT配置全解析

本文详细解析LinuxCNC开发实战,从系统安装到EtherCAT总线配置全流程。涵盖实时内核优化、伺服驱动器PDO映射、HAL配置及自定义运动学开发,帮助开发者快速搭建工业级数控系统,提升运动控制精度与稳定性。

rgv234567的博客 355

视频隐私脱敏工程化:CSRT/KCF追踪算法在本地推理中的实现与边界

在短视频内容合规审查中,动态遮挡(Dynamic Masking)是高频且高耗时的环节。传统手动关键帧打码不仅效率低下,且在目标快速移动或遮挡时极易出现遮罩漂移。本文从计算机视觉工程角度,解析基于CSRT与KCF算法的目标追踪方案在视频隐私处理中的技术路径、性能权衡及落地实践。

Mysssone的博客 418

ubuntu20.04安装UE4+Airsim环境

版本UE4.27+Airsim1.81

玖茸的博客 3380

三峡大学-微机原理与接口技术实验

其中,A15接E1,因此,A15为1,A14A13A12A11A10A9A8A7通过八输入与非门74LS30与E2连接,因此A14A13A12A11A10A9A8A7为11111111,A6A5A4与CBA连接,因此A6A5A4为101,A3A2A1A0不参与译码,因此IO5的地址范围为1111 1111 1101 0000B~1111 1111 1101 1111B,即0FFD0H~0FFDFH。如图1所示,若IO0输出为低电平,则需要E1接高电平,E2接低电平,E3接低电平,CBA的输入为000。

m0_62222486的博客 498

AI 问数真的能替代 BI 报表吗?

AI问数赋能自然语言查询,提升临时分析效率,但无法替代传统报表。报表适用于稳定输出与持续监控,AI则擅长探索性提问。企业用好AI问数,关键在于夯实数据模型、统一指标口径、健全权限体系与结果校验机制。合理组合报表、仪表板与AI,才能实现高效、准确的业务洞察。

葡萄城技术团队博客 327

高压控制单元与接触器 —— BMS电池的“高压大门”

高压接触器在BMS电池管理系统中扮演着“高压大门”的角色,负责控制电池包与整车高压母线的连接与隔离。接触器的工作原理基于线圈产生的磁力吸合接点,通过主触点接通高压电流路径,辅助触点检测状态,灭弧结构保护接点。预充电路的设计是为了避免直接连接大电容时产生的浪涌电流冲击,通过预充电阻逐步充电,确保系统安全上电。接触器控制策略包括顺序控制、辅助触点检测、温度监控、故障断电和背靠背MOS辅助控制,以确保系统的高效和安全运行。工程师在选择接触器型号、控制线圈、检测状态、软件冗余控制和预充失败保护等方面提供了具体建议。

weixin_43199439的博客 815

ChatGPT、Perplexity、Gemini 与 AI Overviews 引用对比:谁的引用更可信

AI 引擎的引用机制差异很大:ChatGPT 以行内引用加 Sources 列表呈现来源,Perplexity 几乎逐句可溯源,Gemini 在回答中内嵌相关来源链接,AI Overviews 则把多源聚合答案与来源列表一起放在搜索结果顶部。本文从引用透明度、来源偏好、可干预性 3 个维度对比这 4 个引擎,并给出 GEO 的 3 点启示,帮企业在多引擎环境下提升被引用的概率。

淡然一笑 的专栏 260

SAP 中租赁资产的实现需区分经营租赁与融资租赁,核心围绕资产主数据配置、折旧与利息设置、科目分配及业务操作展开

摘要:SAP系统租赁资产管理需区分经营租赁与融资租赁,通过SPRO配置资产主数据、折旧范围、利息计算及科目分配。关键步骤包括:激活折旧范围利息计算(OABZ)、设置租赁资产类别(OAYZ)、维护总账科目(AO90)及创建租赁资产主数据(AS01)。业务操作涵盖资产资本化(ABZON)、折旧利息过账(AFAB)、租金支付(F-53)及终止处理(ABUMN)。核心配置要点在于准确设置租赁类型、利率参数和科目联动,确保系统自动计算折旧与利息并生成正确凭证。

金牌架构师 1078

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

AI Agent之核心框架

A: 显式 Thought 有三类价值:可解释性(便于人类审计)、可调试性(定位哪一步选错工具)、学习信号(可做监督微调或评估中间步骤质量)。ReAct 把推理与 可执行行动 绑定,每一步行动后都有 真实 Observation 反馈,从而用工具结果约束生成,降低闭卷幻觉。做完不等于结束——还要 评估做得好不好,把 教训 记下来,下次 带着教训重试,反思作为 记忆,影响后续尝试的策略。工作流程:Action → Evaluation → Reflection → Retry。A: 普通 CoT 只在。

剑雨巍巍的博客 280

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

【从零理解 Spring AI · 12】MCP 的两种角色:做客户端还是做服务端

上一篇讲了 MCP 的概念:标准协议、三大角色、M+N 替代 M×N。

nice_lcj520的博客 609

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

AI 应用开发工程师技术实践:大模型接入、通用组件封装与性能优化

本文提出AI应用从PoC到生产的核心挑战:模型调用的持续可用、可控与可优化。通过构建统一LLM网关实现多供应商路由与故障转移,封装对话、工具调用与RAG组件以解耦业务逻辑,结合前缀缓存、批处理与流式背压治理等性能优化手段,形成“接通→接稳→接快”的工程路径,最终以工程化能力决定AI应用的生产可用性。

2301_79189962的博客 647

抽象主义人工智能和生命体AI的内在联系

彭军辉提出“抽象主义人工智能”作为第四大AI范式,批判符号主义、连接主义、行为主义剥离生命本体的误区,确立“智能是现象,生命是本体”的核心公理。主张原生智能必须依附具备存续诉求的生命本体,提出“生命体AI理论”,构建七层演化阶梯与自闭环工程框架,强调智能不可跳过底层存续机制直接模拟语言。该体系为生成式AI提供科学边界,推动从“仿真表象”向“原生智能”的范式跃迁,开辟硅基人工生命新赛道。

抽象主义人工智能和生命体AI 198

OpenAI Control Room 架构拆解:给企业 AI Agent 加一套可审计的急停系统

OpenAI 公开了用于追踪和停止研究模型工作负载的 Control Room。本文拆解 job_id、推理前鉴权、35 秒撤销窗口与 Fail Closed 设计,并给出企业 AI Agent 急停控制面的数据模型、FastAPI 参考实现、缓存撤销策略和故障演练清单。

jerry764的博客 333

OpenClaw 深度调查:把 AI 助手做成你自己的控制平面

对 openclaw/openclaw 的完整技术尽调:Gateway 架构、Agent 运行时、工具与沙箱、30 个消息通道、181 个插件、安全信任边界、工程代价与采用建议。17 章 / 10 张图,全部数字标注口径,数据截至 2026-10-31。

厚积薄发 336

AI赋能智慧港口建设|造形家快速生成港口全要素三维场景

随着智慧港口、港口数字孪生项目的持续推进,港口三维场景的需求日益旺盛。传统港口三维建模,往往需要航拍倾斜摄影采集数据,再人工搭建吊机、岸桥、船舶、集装箱等大量工业设施模型,项目周期长、人力成本高,修改迭代繁琐,制约港口可视化项目落地效率。国产AI三维建模工具,依托卫星影像 AI 识别能力,无需航拍作业,一键快速搭建港口完整三维场景,为港口数字孪生、方案汇报、投标演示提供高效的场景解决方案。

m0_69539167的博客 80

从设备增点到治理闭环:老旧小区物业数智化落地实践

系统连接合同审批、银行流水、收费记录与项目台账,执行到期提醒、收入核验、异常标色和月度对账,让每一笔资金来源明确、去向可查。针对设施老旧、诉求响应慢、公共收益不透明等问题,津南以6类小区为试点场景,统一建设物业数字化底座,关联楼栋、单元、房屋、业主、空间、设施设备、工单、公共收益等核心数据。系统采用统一编码管理,将摄像头、路灯、井盖、道路、绿化等设施纳入资产台账,解决纸质记录更新滞后、故障责任难追溯的问题。基于历史工单建立分类模型和知识库,辅助识别照明、给排水、电梯、环境秩序、秩序维护等问题;

wuyeshuzhihua的博客 154

企业微信iPad协议详解:接口接入、实时消息同步与语音转码实践

深入解析企业微信iPad协议的技术架构与开发思路,涵盖API接口接入、长连接通信、实时消息同步、Silk语音转码、异常重连及高并发优化,帮助开发者了解企业微信自动化系统的设计与实现。

欢迎来到祖安! 502

Product Hunt 热榜 2026-11-13:Plurai Simulation、YouArt Desktop App、Omnigraph

2026-11-13 Product Hunt 新产品精选:Plurai Simulation、YouArt Desktop App、Omnigraph。汇总 15 款产品的中文介绍、功能关键词和产品链接。

LaughingZhu的博客 605

【AI Agent面试系列】AI Agent可观测、评测、安全相关的知识点

之前的文章介绍了和,本文主要介绍AI Agent的测评、可观测等知识。

384
上一篇: 云轴科技ZStack CTO王为@中国GenAI大会:AI原生实践重构AI Infra新范式
下一篇: 首批 | 云轴科技ZStack通过电子标准院云上部署DeepSeek验证测试
ZStack开发者社区
博客等级 码龄2年 682粉丝 257原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值