Netvue利用CloudPilot AI,实现GPU降本52%,用AI守护千家万户的居家安全

「文智助手」全场景办公AI助理AI+OPC全流程实践方案(大赛作品) 阅读详情

公司简介

「Netvue」成立于2010年,是全球领先的智能家居软硬件解决方案提供商,专注于家庭安全监控。

Netvue 将专业安防摄像机与先进的 AI 技术相结合,提供与设备相互协同工作的 Netvue 云服务,支持用户实时查看监控视频画面,并智能识别可疑人员。目前,Netvue 已服务全球超过 100 万用户,累计获得 40+ 项发明专利,在细分市场中处于行业领先地位。

01/面临的挑战

GPU 成本高昂,缺乏弹性资源调度能力

出于合规性与流量调控的需求,Netvue 决定将推理服务部署在云上,并在 Google Cloud 上运行 GPU 实例以支撑其 AI 模型计算。但随着用户规模扩大,云上 GPU 成本持续上升,成为业务扩展的主要瓶颈。

尽管 Netvue 已具备一定的弹性伸缩能力,但资源选型仍高度依赖人工配置,难以高效匹配如 Spot 实例等更具成本优势的资源类型。

此外,由于尚未引入 Kubernetes 等云原生调度平台,其 GPU 服务受限于单一云厂商,导致在资源调度、版本发布及系统升级等方面存在流程繁琐、效率较低的问题。

流量波动剧烈,资源需求不稳定

用户行为呈明显的昼夜波动,高峰期 GPU 请求短时间内激增,传统的调度策略在高峰切换时存在滞后,偶发资源争抢和冷启动,影响识别速度和用户体验。

跨云访问导致数据传输成本和延迟高

Netvue 的图像与视频数据存储在 AWS S3,而推理服务运行在 GCP,两地通过专线连接。该架构不仅带来显著的带宽成本,还因跨平台传输而引发推理延迟,降低整体服务性能。

Netvue 原有架构

02/解决方案:重构 GPU 调度架构

成果

  • GPU 成本降低 52%:通过 Spot GPU 和实例智能选型实现大规模成本优化,单卡 GPU 从 $180+/月降低到 $80+/月
  • 资源调度灵活可控:构建中立的 Kubernetes GPU 弹性架构,摆脱云厂商锁定
  • 响应速度提升 5 倍:服务与数据同域部署,避免跨云传输瓶颈
  • 系统稳定运行:高峰期快速扩展,低谷时精准缩容,降低成本的同时保障业务稳定运行

面对挑战,Netvue 选择与 CloudPilot AI 合作,在保留现有服务逻辑的基础上,从资源选型、架构解耦、弹性扩缩容等多个维度对 GPU 架构进行了系统优化。

Netvue 优化后架构

引入 Kubernetes,构建平台中立的 GPU 弹性架构

在 CloudPilot AI 的技术支持下,Netvue 将推理服务迁移至 Kubernetes 集群,并在 AWS 上建立 GPU 专用集群,实现按需调度 GPU 实例、自动扩缩容与多云资源的统一管理。这一架构不仅解耦了服务与底层平台,还为后续多云部署和快速横向扩展提供了基础。

GPU 弹性伸缩效果,仅为实际使用付费

智能节点选型,推动 GPU 从 GCP 向 AWS 平滑迁移

由于早期测试未能在 AWS 上找到满足需求的 GPU 资源,Netvue 曾被迫将 GPU 工作负载部署在 GCP。但考虑到大部分数据仍位于 AWS,跨云通信带来了传输瓶颈。

为解决这一问题,Netvue 通过 CloudPilot AI 的智能实例推荐功能,设定精细的 Instance Requirements(如:优先选择 T4/T4G 系列),最终在 AWS 上匹配到符合性能和容量要求的 Spot 实例,实现 GPU 服务的就地迁移,彻底摆脱了对专线的依赖。

同时,借助 CloudPilot AI 的 Spot 中断预测引擎,降低中断事件数量,确保 Spot 实例的稳定性。

多架构 GPU 适配,提升调度灵活性

CloudPilot AI 协助 Netvue 同时适配 x86、ARM 等多种计算架构,显著扩展了 GPU 可选资源池,缓解热门资源供给紧张问题,进一步降低单位算力成本。

Netvue 平台开发部经理黄盼青表示:“随着业务的快速发展,云上 GPU 成本一度成为我们扩张的主要阻力。CloudPilot AI 不仅帮我们找到了匹配需求的高性价比资源,更让我们的基础设施具备了长期演进的能力,同时提升了平台的运维效率。”

03/基于云的 AI 推理服务与资源调度挑战

在 Netvue,Infra 团队如何支持业务发展?

我们基础设施团队主要负责支撑公司整个线上服务的运行。包括集群管理、资源调度、性能优化、成本控制等等。我们和研发团队紧密配合,确保服务在全球范围内稳定、低延迟地交付给用户。

Netvue 对实时性要求非常高,比如用户通过摄像头实时查看儿童或宠物的活动情况,我们要尽可能快地完成图像上传、分析、识别这些链路。

为此,我们在云上运行了大规模的 GPU 推理服务,并通过弹性调度,能够在用户突发增长或流量高峰时快速扩缩容,确保服务稳定不中断。所以,Infra 这块其实是整个 AI 产品体验的底座。

为什么决定开始进行云成本优化?

主要原因有两个。一是 GPU 成本快速增长,尤其是在用户数激增之后,推理请求的负载也随之大幅上升,这导致我们的成本压力非常大。二是,我们早期架构在资源调度上不够灵活,很多时候只能“硬抗”高峰期的负载,长期来看这不利于业务的可持续发展。

我们需要一种方式,既能保障性能,又能灵活地扩缩容,还要摆脱对单一云平台的依赖。正是在这样的背景下,我们决定和 CloudPilot AI 合作,系统性地进行云成本优化。

04/云上 GPU 成本智能调度实践

CloudPilot AI 的上手使用体验如何?技术支持服务怎么样?

我们在初期对 CloudPilot AI 做了比较审慎的接入。刚开始,我们和 CloudPilot AI 团队沟通比较频繁,主要是为了确保产品能顺利接入我们的集群并适配实际场景。这种深度协作的过程也帮助我们更快理解了工具的能力和边界。

CloudPilot AI 会先对我们的环境进行分析和评估,输出一些有价值的建议。我们最初选择在非生产环境试点自动化策略,包括 Spot GPU 实例推荐和调度优化功能。我们当时非常谨慎,不希望对生产环境造成任何干扰,所以在非生产环境里先做了一轮完整的测试验证。

在非生产环境里反复验证了几轮效果都很稳定之后,我们才把策略迁移到生产集群中。整个过程中,我们对 CloudPilot AI 的透明度和可控性印象很深,任何建议都有数据支撑,而且可以逐步落地,不会一上来就“全自动”。

现在我们已经能在生产环境中更大胆地应用自动化策略,节省了大量时间和人力。

CloudPilot AI 的哪项功能最能帮助到你们团队?

我们团队最受益的是智能节点选型和多架构 GPU 调度能力。

以前我们在 AWS 上找不到合适的 GPU 实例,只能退而求其次部署在 GCP。但 CloudPilot AI 的实例推荐功能非常强大,我们可以设置精细的参数,比如显存大小、GPU 型号优先级等,最终帮我们找到了性能和性价比都满意的 Spot 实例,顺利实现了从 GCP 向 AWS 的迁移。

另外,多架构适配也极大拓宽了我们的资源选择空间,让我们不再只依赖于热门资源。

具体来说,你们是怎么用智能节点选型这个功能的?

我们设了一些要求,比如“优先考虑 A10 或 T4”等,CloudPilot AI 会在这些条件范围内自动去帮我们找当前 AWS 上稳定且便宜的 Spot 实例。其实我们之前在 AWS 上找不到符合要求的 GPU,是因为没太多工具支持这种筛选,一直找不到合适的组合才放弃的。而用上 CloudPilot AI 后,我们很快就定位到可用的实例,服务也顺利迁了回来。

通过 CloudPilot AI,你们达成了怎样的结果?

最直观的成果是 GPU 成本降低了 52%。其次,我们建立了基于 Kubernetes 的平台中立架构,资源调度更加弹性灵活,服务部署在 AWS 后,数据、推理都在同一个平台,延迟降低了不少。

更重要的是,我们现在可以轻松应对流量高峰,不再担心资源冷启动或者限额问题。这种“成本降低 + 性能提升”的双赢,让基础设施真正成为业务增长的助力,而不是包袱。

05/未来展望

在 CloudPilot AI 的支持下,Netvue 不仅升级了 GPU 调度策略、显著降低推理成本,更将原本沉重的基础设施支出转化为业务增长的驱动力。持续的成本优化,让 Netvue 在保障服务质量的同时,具备了更灵活的资源调度能力与更强的市场竞争力。

未来,Netvue 将进一步接入 Spot GPU 的中断预测能力,优化高峰期服务稳定性,构建覆盖全球的高可用推理服务网络,为 AI 服务在全球范围内落地提供坚实支撑。

推荐阅读

年吞百万请求,全球知名自由职业平台Fiverr的K8s弹性伸缩方案升级

弹性伸缩从可用到好用,中间差了这 8 个关键点——CloudPilot AI 如何补齐?

面对3倍流量激增,「纽约时报」如何既稳又省?

船载 OpenHarmony AIS 航海工作台:告警与防碰撞预警系统 船载OpenHarmony AIS航海工作台的告警与防碰撞系统,集成十余类告警(超速、偏航、会遇、SOS等),通过网格空间索引实现高效邻近判定,保障实时性。告警管理器统一调度规则、去重、通知与日志,支持悬浮球、语音、跑马灯、弹窗多渠道触达,确保航行安全。SOS紧急通道独立运行,避免干扰。系统设计强调性能优化与多场景适配,为航海安全提供核心支撑。 阅读详情

相关推荐

cloudpilot-emu.github.io:网页

关于 Cloudpilot是PalmOS的基于Web的模拟器。 它模拟基于龙珠的设备,并支持Palm OS最高版本为4.x。 Cloudpilot基于原始的POSE仿真器。 当前,Palm V和Palm m515设备均受支持。 Cloudpilot可以作为网页运行,也可以作为手机和桌子上的移动应用程序运行。 功能列表包括 逼真的计时器和设备速度仿真 连续状态保存---如果重新加载页面或应用程序,则仿真将恢复 直接安装.prc和.pdb文件 导出和导入快照文件 在多个仿真会话之间切换 音频仿真 键盘输入 其他连结 这是下一个Cloudpilot版本的预览。 Cloudpilot(本机)SDL构建的网络版本。 这主要是一个开发工具,非常难看,并且不支持Web应用程序支持的所有功能。 SDL构建的下一版本。

CloudPilot AI年终答卷:入选新锐技术先锋企业榜,收录CNCF Landscape

我们期待与更多开发者和企业携手,助力全球企业高效利用云资源,为云计算行业带来更高的效率与更低的成本。这些认可源于 CloudPilot AI 在云资源调度和云成本优化领域的持续创新以及在开源社区中的贡献,标志着 CloudPilot AI 在技术和行业实践中的稳步发展。在技术力量的推动下,CloudPilot AI 帮助企业以更智能、更自动化的方式管理云资源,实现了“在云上的每一分钱都物超所值”的承诺。,CloudPilot AI 始终坚持技术驱动的创新理念,专注于提升企业云资源利用效率、降低云计算成本。

cloudpilot_ai的博客 716

将ue4程序嵌入qt界面显示

需求:将ue4程序嵌入qt界面显示 思路:通过使用 windowsAPI 对ue4窗口进行设置跟随qt界面以及活动窗口时的位置层序设置

weixin_44342705的博客 5844

探索经典:CloudpilotEmu —— 在浏览器中运行PalmOS设备的仿真器

探索经典:CloudpilotEmu —— 在浏览器中运行PalmOS设备的仿真器 项目介绍 CloudpilotEmu是一个神奇的开源项目,它允许你在现代Web浏览器中模拟一系列基于Dragonball处理器的经典PalmOS设备,包括Palm Pilot到Sony Clie等。这个项目特别适用于iOS用户,让这些古老的智能设备重新焕发生机,触手可及。 项目技术分析 CloudpilotEmu...

gitblog_00065的博客 668

保姆级教程:在RK3568 Debian系统上搞定AIC8800 WiFi与蓝牙驱动(含固件路径与开机自启脚本)

本文提供在RK3568 Debian系统上配置AIC8800 WiFi与蓝牙驱动的保姆级教程,涵盖驱动移植、固件部署、开机自启脚本等关键步骤。通过详细的硬件连接指南、内核配置示例和常见问题解决方案,帮助开发者快速实现无线模块的全功能配置,特别适合嵌入式Linux开发者参考。

weixin_28684825的博客 379

SHAP图全解析:从理论到实践,教你如何读懂和优化模型特征

本文全面解析SHAP图,从博弈论基础到实战应用,指导读者如何解读和利用SHAP值优化机器学习模型。通过详解特征重要性条形图、小提琴图、依赖图及决策图等关键可视化工具,帮助数据科学家精准诊断模型、识别特征交互,并将洞见转化为特征工程与模型调试的实际行动,有效提升模型可解释性与性能。

svm4gardener的博客 188

弹性伸缩从可用到好用,中间差了这 8 个关键点——CloudPilot AI 如何补齐?

在 Kubernetes 中,资源管理一直是个难题。配置复杂、调优困难,容易导致资源浪费和成本上升。虽然 Cluster Autoscaler 提供了基础的自动扩缩能力,但由于依赖节点组机制,响应慢、配置繁琐。Karpenter 作为更灵活的替代方案,通过直接与云厂商交互加快了扩缩容速度,简化了管理。但在实际场景中,它在调度复杂工作负载、应对 Spot 实例价格波动和中断风险方面仍有不足。

cloudpilot_ai的博客 1305

NS-3 和Aqua-sim-ng 学习笔记(一)

因为要搞水下网络,OMNET++不太合适,就转Aqua-sim。这是基于NS-2上的模型,NS-2需要额外学一门tcl脚本语言。 正好查到它的一个升级版Aqua-sim-NG,在github上,https://github.com/rmartin5/aqua-sim-ng是基于NS-3的,只需要基本的C++,不用学tcl语言。美滋滋。 装好ubuntu之后,安装NS-3和Aqu...

diboshang8820的博客 2191

「出海匠」借助CloudPilot AI实现AWS降本60%,支撑AI电商高速增长

(chuhaijiang.com)是「数绘星云」公司打造的社交内容电商服务平台,专注于为跨境生态参与者提供数据支持与智能化工作流。平台基于大数据与 AI 技术,帮助商家精准分析市场趋势、优化运营策略,并借助中国供应链优势直达海外社交电商用户。

cloudpilot_ai的博客 1415

第一讲:halcon模板匹配捆绑测量矩形检测芯片针脚

使用halcon模板匹配捆绑测量矩形,检测位置发生变换的芯片针脚缺陷。

uiopmn1的博客 2995

基于Cesium实现,动态水面+大坝排水动画

一、绘制面状水域,使用水波纹理,进行渲染,水体透明,可以看到底色。三、使用粒子系统,将喷泉改变方向,加上重力设置,实现排水动画。二、绘制线状三维体,用作模拟大坝拦截效果。四、最后,模拟水位上升,进行淹没分析,

一醉千秋的专栏 1420

全新 CloudPilot AI:嵌入 Kubernetes 的 SRE Agent,降本与韧性双提升!

然而,随着业务服务的激增和架构的复杂化,Kubernetes 集群的资源管理已逐渐成为一场成本与性能之间的“拉扯”。在生成式 AI 的浪潮下,计算资源,尤其是支撑所有服务运行与调度的 CPU 资源,已经从单纯的成本项目,升级为驱动创新速度与竞争力的底层基石。无论是发现过度配置的节点,还是追踪成本异常的集群,都能通过全新仪表盘快速定位,帮助用户实时掌握集群状况,为用户做出精准决策提供有力的数据支撑。:实时感知流量波动,自动迁移或调整副本数量,优先保障核心业务的稳定运行,让集群在高峰期不掉链,在低谷期不浪费。

cloudpilot_ai的博客 915

大数据开发工程师必备面试题与解答

大数据开发岗位一直是互联网行业的热门方向,面试过程中既考察基础知识,也关注实际项目经验和问题解决能力。本文整理了等核心组件相关的高频面试题及参考解答,帮助大家高效准备面试。大数据面试不仅考察基础理论,更看重项目经验与问题解决能力。本文涵盖了等核心知识点及调优思路,希望能帮助你在面试中游刃有余。

X2829352498的博客 303

视频隐私脱敏工程化:CSRT/KCF追踪算法在本地推理中的实现与边界

在短视频内容合规审查中,动态遮挡(Dynamic Masking)是高频且高耗时的环节。传统手动关键帧打码不仅效率低下,且在目标快速移动或遮挡时极易出现遮罩漂移。本文从计算机视觉工程角度,解析基于CSRT与KCF算法的目标追踪方案在视频隐私处理中的技术路径、性能权衡及落地实践。

Mysssone的博客 231

【如何利用扩展卡尔曼滤波解决跟踪毫米波雷达目标】

笛卡尔坐标系(非极坐标系):使用两个垂直的轴(通常是x轴和y轴)来确定一个点的位置。你沿着这两个轴移动确定的距离来找到这个点。极坐标系:使用一个角度和一个距离来确定一个点的位置。首先,你转到一个特定的方向(角度),然后沿着那个方向移动确定的距离来找到这个点。希望这个例子能帮助你理解两种坐标系的基本概念!

小秋 AI SLAM 入门实战教程 885

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

我用 GPUWorks 在 M1 Pro 上搭了个发票识别原型

公司里经常要看电子发票。我想先做个小原型:把 PDF 发给一个自己部署的图文模型,让它提取发票类型、日期、交易双方和金额,再把结果交给同事核对。这个原型不用先接财务系统,先看看从部署到调用要走多少步,模型返回的内容能不能帮上忙。

鸽芷咕的博客 2万+

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

AI Agent之核心框架

A: 显式 Thought 有三类价值:可解释性(便于人类审计)、可调试性(定位哪一步选错工具)、学习信号(可做监督微调或评估中间步骤质量)。ReAct 把推理与 可执行行动 绑定,每一步行动后都有 真实 Observation 反馈,从而用工具结果约束生成,降低闭卷幻觉。做完不等于结束——还要 评估做得好不好,把 教训 记下来,下次 带着教训重试,反思作为 记忆,影响后续尝试的策略。工作流程:Action → Evaluation → Reflection → Retry。A: 普通 CoT 只在。

剑雨巍巍的博客 203

【从零理解 Spring AI · 12】MCP 的两种角色:做客户端还是做服务端

上一篇讲了 MCP 的概念:标准协议、三大角色、M+N 替代 M×N。

nice_lcj520的博客 506

ChatGPT、Perplexity、Gemini 与 AI Overviews 引用对比:谁的引用更可信

AI 引擎的引用机制差异很大:ChatGPT 以行内引用加 Sources 列表呈现来源,Perplexity 几乎逐句可溯源,Gemini 在回答中内嵌相关来源链接,AI Overviews 则把多源聚合答案与来源列表一起放在搜索结果顶部。本文从引用透明度、来源偏好、可干预性 3 个维度对比这 4 个引擎,并给出 GEO 的 3 点启示,帮企业在多引擎环境下提升被引用的概率。

淡然一笑 的专栏 66

AI 应用开发工程师技术实践:大模型接入、通用组件封装与性能优化

本文提出AI应用从PoC到生产的核心挑战:模型调用的持续可用、可控与可优化。通过构建统一LLM网关实现多供应商路由与故障转移,封装对话、工具调用与RAG组件以解耦业务逻辑,结合前缀缓存、批处理与流式背压治理等性能优化手段,形成“接通→接稳→接快”的工程路径,最终以工程化能力决定AI应用的生产可用性。

2301_79189962的博客 560

GPT-1 架构和计算细节

下面配合框图,对 GPT-1 的每个组件做公式展开 + 数值实例(配置:12 层 × 768,12 头,FFN 3072,词表 40478,共 117M 参数)。GPT-1 把翻译模型的编码器-解码器砍掉一半,只留解码器,然后以"预测下一个词"为目标在 BooksCorpus 上预训练。与 2017 原版的四个架构差异(框图中标 ★):h0=E[token]+Epos[position],E∈R40478×768, Epos∈R512×768h^0 = E[\text{token}] + E_{pos}[\

eloudy的专栏 284

终端 AI 审计与 “龙虾” 类智能体风险治理:从可见性到闭环溯源

生成式 AI 办公普及之后,数据泄露风险逐步下沉到终端。员工将合同、源代码、客户资料粘贴至公有大模型,以及龙虾(OpenClaw)这类本地开源 AI 智能体的滥用,成为企业安全新挑战。传统网络边界防护存在审计盲区,本文从风险链路拆解、核心能力模型、分级治理策略、落地踩坑点以及技术局限性多角度,分享终端侧 AI 安全治理的实践思路。

2401_86491085的博客 645

抽象主义人工智能和生命体AI的内在联系

彭军辉提出“抽象主义人工智能”作为第四大AI范式,批判符号主义、连接主义、行为主义剥离生命本体的误区,确立“智能是现象,生命是本体”的核心公理。主张原生智能必须依附具备存续诉求的生命本体,提出“生命体AI理论”,构建七层演化阶梯与自闭环工程框架,强调智能不可跳过底层存续机制直接模拟语言。该体系为生成式AI提供科学边界,推动从“仿真表象”向“原生智能”的范式跃迁,开辟硅基人工生命新赛道。

抽象主义人工智能和生命体AI 56

2.53 基于极稀疏指纹的室内定位注意力图元学习

该论文发表于IEEE Transactions on Mobile Computing(TMC)2026年6月,面向极稀疏指纹条件下的WiFi室内定位,针对指纹采集人力成本高、标记指纹稀缺时定位精度大幅下降的痛点,提出注意力图元学习模型AGML(Attentional Graph Meta‑Learning),结合图神经网络、元学习、两种指纹数据增强与分布对齐技术,在标记指纹极少的场景实现高精度室内定位,同时公开了多套真实+仿真定位数据集用于基准测试。场景:二维室内空间,障碍物造成信号遮挡,

weixin_42963026的博客 340

AI作图软件技术选型:从4个技术维度出发的实测对比

AI作图软件技术选型:从4个技术维度出发的实测对比

Vbaoke的博客 207

【AI Agent面试系列】AI Agent可观测、评测、安全相关的知识点

之前的文章介绍了和,本文主要介绍AI Agent的测评、可观测等知识。

248
上一篇: 弹性伸缩从可用到好用,中间差了这 8 个关键点——CloudPilot AI 如何补齐?
下一篇: 揭秘 Anthropic 如何降低 Claude 模型的训练与推理成本
CloudPilotAI
博客等级 码龄2年 519粉丝 58原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值