12 月 18 日,在 2024 冬季火山引擎 FORCE 原动力大会上,火山引擎边缘云全面升级智能边缘。秉持“连接与计算无处不在,让 AI 触手可及”的理念,此次升级后,火山引擎边缘云基于端边云协同框架,提供全面的物联网平台、智能平台以及边缘大模型网关服务,同时推出边缘原生智能体,拓宽 AI 应用场景并促进了技术革新,助力大模型行业应用加速落地。

本次产品升级,包括提供端侧 OneSDK 一站式解决方案,简化端智能接入流程;优化边缘侧性能,基于边缘云原生操作系统,显著提升推理请求的加速性能,加强了边缘推理能力和边缘安全措施;升级中心管控,整合物联网、边缘智能和边缘大模型网关三大功能模块,针对大模型场景,增强文件分发、智能体配置等关键功能;打造行业智能体,为特定行业开发了边缘原生智能体,助力更多行业打造 AI 生产力。
1.拥抱 AI 发展态势,助力大模型加速落地
在 AI 技术变革之际,大模型的发展逐渐走向多元化,呈现出新的发展趋势。
首先,从行业视角出发,“端智能场景加速落地”。端设备涵盖了 AI PC、AI 手机以及眼镜、耳机等可穿戴设备和玩具,这些设备正与大模型结合,为消费者提供更高级的 AI 服务。
其次,从技术视角出发,“端边云协同形成新趋势”。由于端侧设备的功耗和算力限制,推理任务正在向边缘或云端转移。这种协同模式有效平衡了隐私保护和性能需求。
第三,从产业发展视角出发,“千模”走向“万体”。这一变化是技术进步和市场需求的共同产物,智能体能够更好地发挥现有模型的能力,同时市场正专注于特定领域智能体的开发,促进了应用、平台和基础设施的健康发展。
最后,从安全视角出发,随着大模型的广泛应用,安全与合规重要性凸显。

事实上,火山引擎边

最低0.47元/天 解锁文章
2453

被折叠的 条评论
为什么被折叠?



