你的AI还只会“说话”?具身智能让它学会“动手”!万字长文详解VLA模型!

VLA模型(具身智能入门十) Vision Language Action(VLA)模型VLA模型是机器人领域的“感知-理解-执行”一体化框架,通过Transformer架构融合视觉、语言、动作模态,核心目标是让机器人在自然语言驱动下,自主完成复杂操控任务。其定义的核心在于“跨模态统一”与“具象化行动”——不仅能“看懂”“听懂”,更能“做出正确的动作”,是实现通用机器人智能的关键方向。提供通用序列建模骨架,让视觉、语言、动作能以“序列”形式统一处理;ViT将视觉输入转换为序列特征,提供“看”的能力;LLMs。 阅读详情

本文旨在系统性综述 VLA****模型效率优化的方法,涵盖模型架构、感知特征、动作生成以及训练和推理策略四个方面。

视觉-语言-动作(VLA)模型通过将自然语言指令和视觉观测映射到机器人动作,将视觉-语言模型扩展至具身控制。

尽管具备强大能力,VLA 系统仍面临巨大挑战,其庞大的计算与内存需求与边缘平台(如车载移动操作臂)对实时性能的约束存在冲突。

**缓解这一矛盾已成为近期研究的核心焦点。**针对日益增长的高效且可扩展 VLA 系统的研究趋势,本文系统综述提升 VLA 效率的方法,重点在于降低延迟、内存占用以及训练与推理成本。

将现有解决方案分为四个维度:模型架构、感知特征、动作生成以及训练/推理策略,并总结了各类别中的代表性技术。

最后,探讨未来趋势与开放性挑战,指出推动高效具身智能发展的方向。

图1:本文结构概述。关于效率的讨论分为四个核心维度:高效模型架构、高效感知特征、高效动作生成以及高效训练-推理策略

论文标题:《Efficient Vision-Language-Action Models for Embodied Manipulation: A Systematic Survey》

论文地址:https://www.arxiv.org/abs/2510.17111

VLA 模型基础与演化

视觉-语言-动作模型核心思想是设计一个统一模型,直接将高维感知输入(视觉)和自然语言指令(语言)映射为低层机器人控制信号(动作)。

通过采用这种数据驱动的方法,视觉-语言-动作模型旨在提升泛化能力和语义理解,使机器人能够处理复杂且非结构化的任务。

图2:典型的 VLA 架构示意图。视觉观测、文本指令和机器人本体感觉状态首先被编码并融合,然后传递给大语言模型进行推理。生成的潜在表示结合了规划信息后,输入基于扩散的动作模型,通过流匹配最优化产生连续的动作输出

该研究方向的发展大致可分为三个阶段:

阶段 I:早期探索与基础建立。在视觉-语言-动作(VLA)这一术语正式确立之前,研究人员已开始将深度学习 模型直接应用于机器人控制。如 RT-1 和 Diffusion Policy 等工作展示了使用 Transformer 或扩散模型构建端到端策略的可行性。这些模型将原始 RGB 图像和文本指令映射为动作序列。然而,由于模型规模相对较小且数据集有限,其泛化能力仍局限于特定任务和环境,难以处理训练分布之外的未见指令或物体。

阶段 II:视觉-语言模型的引入。一个转折点出现在预训练视觉-语言模型(VLM)的集成上。RT-2 首次正式提出视觉语言动作(VLA)的概念,并首次将预训练的 VLM 作为骨干网络。通过在大规模机器人轨迹数据集上对 VLM 进行微调,并将机器人控制信号转换为离散的动作 token,RT-2 成功地将从互联网数据中获得的通用视觉和语义知识迁移至机器人控制任务中,实现了泛化能力的显著提升。这一**“以 VLM 作为策 略”**的范式迅速成为主流。

OpenVLA 进一步加速该范式的普及,其提供了标准化的架构:采用强大的视觉编码器(如 SigLIP 或 DINO-v2)进行视觉特征抽取,使用 LLaMA 分词器对文本指令进行嵌入,以及采用大语言模型(如 LLaMA-7B)进行高层推理。

随后,利用大语言模型的输出预测离散的动作 token,这些动作 token 与语言 token 共享相同的词表。在此基础上,大量后续工作相继涌现:Octo 探 索使用扩散模型作为策略头以生成连续动作;GR 系列和 VPP 借鉴视频生成的思想设计用于 VLA 优化的预训练任务;ConRFT 研究结合离线与在线强化学习的训练范式。与此同时,如 Open X-Embodiment(OXE)和 DROID 等大规模且多样化的现实世界机器人数据集的发布,为训练日益庞大的模型提供了必要的数据支持。

**阶段 III:架构收敛与性能优化。**随着进一步发展视觉-语言-动作(VLA)架构开始趋于收敛。**以 π0 为代表的新一代设计成为主流选择。**通常,预训练的大语言模型(LLM)通过整合视觉、语言和机器人状态信息,完成高层规划与意图理解,并生成抽象的计划或策略表示。

随后,该表示被传递至专用的动作专家模块,该模块通常基于 DiT 模型,通过流匹配等机制对计划进行细化,并生成平滑、精确的连续动作。

**当前 VLA 架构的示意图如图2所示。**然而,在此阶段,模型普遍较大,推理速度仍然较慢。例如,OpenVLA 拥有 70 亿参数,运行频率为 5 Hz;而 π0 拥有 30 亿参数,推理速度约为 10 Hz。这些性能指标即使在高性能 GPU 上也难以满足;在资源受限的边缘设备上,对内存、计算能力和延迟的要求将更加难以维持。

这推动了近期关于高效 VLA 模型的研究热潮,其目标在于减小参数规模并加速推理过程。其发展轨迹如图 3所示。

图3:高效 VLA 算法的发展轨迹。该图突出了近年来专注于提升 VLA 模型效率的代表性工作

一、高效的模型架构

用于VLA模型高效架构设计的三种主要策略:静态模型骨干、动态计算路径和双系统架构。

静态骨干通过采用更紧凑的模型直接提升效率;动态计算路径在推理过程中实现灵活的路由选择,平衡容量与成本;双系统架构则受到认知理论的启发,将推理和反应性分布在不同的子系统中,以实现层次化协作。

静态骨干选择

静态骨干选择是指在模型设计时选择一个固定且高效的网络架构,以提高推理效率。早期的VLA模型通常依赖于大规模预训练的视觉语言模型(VLM)作为主干网络,这些模型虽然在泛化能力上表现出色,但庞大的参数量导致了高计算开销和低推理速度。例如,RT-2模型拥有550亿个参数,其推理速度仅约为3赫兹,难以满足实时性要求。

**为了提高效率,研究者们开始探索使用更轻量级的模型作为主干网络。**例如,RoboMamba引入Mamba状态空间模型架构,其参数量约为2.7亿,相比基于Transformer的大语言模型(LLM),在保持任务性能的同时显著降低了延迟。

TinyVLA 通过采用较小的语言模型如Pythia-1.3B,压缩整体模型规模,使其更适合边缘部署。

SmolVLA 则通过简化模型结构,使用参数量更小的SmolVLM-2,进一步减少了计算量。

此外,NORA用Qwen-2.5-VL-3B替换了主干网络,在保持性能的同时减少了模型占用空间。

总体而言,静态骨干选择通过替换大规模主干网络为轻量级模型,实现了效率的提升,但这种方法可能会限制模型的容量上限,影响泛化能力。

动态计算路径

动态计算路径是指在推理过程中根据输入的复杂性和任务需求动态调整计算路径,以实现更高的效率。在训练时保留大型骨干网络,但在推理时通过剪枝或提前退出等策略减少不必要的计算。

  • 层剪枝:SmolVLA采用了一种简单的层剪枝策略,通过移除语言模型中固定数量的最终层来减少计算量。FLOWER则基于语义驱动的剪枝范式,观察到中间的Transformer层捕获丰富的通用语义,而最终层则倾向于过度专门化于下一个词元预测。因此,FLOWER剪除了多余的上层,移除了编码器-解码器VLMs中的解码器和仅解码器模型中的最后几层,以平衡上下文表达能力和计算效率。
  • 提前退出:DEER-VLA将提前退出机制纳入VLA系统,在语言模型的各个中间层放置轻量级策略头,使得能够在多个深度进行动作预测。通过使用输出相似性度量来确定是否提前退出,优化退出阈值以平衡平均/峰值FLOPs和GPU内存使用。
  • 专家混合(MoE):MoE-VLA将语言模型的每一层视为一个潜在的专家,并采用专家混合(MoE)框架。一个门控机制动态选择哪些层参与给定输入的计算,从而避免深层信息的完全丢失。为了稳定训练,进一步应用了自蒸馏,其中完整、未剪枝的网络为简化后的计算路径提供指导。
  • 基于相似性的跳过:高效VLA通过测量其输入和输出特征向量之间的余弦相似度来评估每层的贡献。如果相似度超过一个阈值,表明表示转换有限,则在推理过程中跳过该层。这种方法适应输入特性并保留所有层的潜在可用性,允许模型在需要时保留其完整的表示深度。

动态计算路径虽然灵活,但通常需要额外的分支模块以及大量的训练开销和细致的手动调试。

双系统设计

双系统设计受到认知科学中双重系统理论的启发,将模型分为一个用于复杂推理和长期规划的慢速系统,以及一个用于快速、直观反应的快速系统。两个子系统协同工作,使得VLA模型能够管理复杂的高级任务,同时确保在较简单场景下的低延迟推理。

图4:双系统视觉语言架构。多模态大模型(系统 2)处理更新频率较低的视觉和文本 token,生成推理结 果和潜在 token。这些潜在 token 随后被轻量级动作模型(系统 1)所使用,该模型将其与频繁更新的视觉 token 结合,生成原始动作。两个系统异步运行:系统 2 每轮推理产生的潜在向量可支持系统 1 进行多次推理

  • LCB:使用LLaVA作为慢速系统来生成语言描述和行动提示,然后这些提示指导一个3D扩散演员作为快速系统,通过一个可学习的令牌产生最终行动。
  • HiRT:采用InstructBLIP作为慢速系统来生成表示,随后由一个高效的EfficientNet-B3快速系统通过MAP池化进行处理,以实现高效控制。
  • RoboDual:将OpenVLA作为慢速系统与DiT作为快速系统相结合。慢速系统输出潜在表示,快速系统通过一个接收器重采样器进行精炼,以重构简化的动作输出。
  • OpenHelix:对主流的双重系统框架进行了系统的回顾和评估,并提出了一种优化的模块化配置。具体来说,LLaVA-7亿作为慢速系统,3D扩散演员作为快速系统,在输入序列后附加了一个可学习的标记。该标记的输出会对演员产生影响。在训练过程中,慢速系统以重建三维位置和旋转的辅助目标进行优化,而快速系统则继续以动作去噪为主要任务进行训练。
  • FiS:将快速和慢速系统整合到一个网络中,形成了一个隐式的双重系统路径。浅层构建中间语义表示,然后由最后一层消耗这些表示来预测动作。
  • Hume:引入了一个级联的双重系统结构。慢速系统在多个噪声尺度上生成候选动作块,同时一个可学习的聚合标记被送入一个价值查询头部,该头部对候选动作进行评分。最有前景的动作块随后由快速系统进一步分解和去噪,以产生最终的动作序列。训练是联合进行的:策略头部和快速系统通过流动匹配进行优化,而价值查询头部则在带有奖励注释的数据集上进行离线强化学习训练。

双系统设计虽然在平衡复杂推理和快速响应方面有效,但常常以异步形式实施,这会在两个子系统的输出之间引入延迟,从而破坏实时决策。

二、高效的感知特征

从选择性特征处理和时间共享与复用两个方向系统性地检验了感知信息表征对VLA系统效率的影响。

选择性特征处理通过剪枝和转换单帧视觉输入,去除冗余信息,提高特征的压缩和精细化。

时间共享与复用则通过复用跨帧的时间特征和中间计算结果,减少冗余处理,提高整体效率。

综合这些方法,促进了感知信息的流畅处理,使VLA系统在推理和执行方面实现更高的效率,同时保持感知能力。

选择性特征处理

选择性特征处理的目标是通过剪枝、压缩或转换单帧视觉输入,去除冗余信息,从而减少计算负担,同时保留与任务相关的信息。

图5:视觉语言模型系统中的 token 剪枝。在前向推理过程中,根据重要性度量对视觉 token 进行评分,剔 除信息量较少的 token 以减少计算量。这种剪枝可以发生在进入大语言模型主干之前,也可以发生在其内部层中

  • 基于注意力的剪枝:FastV通过计算每个视觉标记在中间LLM层的平均注意力得分,应用Top-K剪枝。EfficientVLA进一步量化视觉 Token 与任务指令之间的交互,选择关键标记,并用高注意力和多样性驱动的任务标记增强它们。SP-VLA强调标记剪枝应保留空间结构,结合注意力得分和边缘检测的轮廓线索来衡量空间相关性。
  • 基于特征的剪枝:FlashVLA通过奇异值分解(SVD)推导信息贡献分数(ICS),衡量每个标记在主导奇异方向上的投影,从而选择重要标记。
  • 动态剪枝:LightVLA采用查询驱动的标记选择机制,通过跨模态注意力动态生成查询,识别最具信息量的视觉标记。ADP引入两阶段机制,首先计算文本查询和跨模态特征的静态剪枝,然后根据动作动态调整剪枝。
  • 动作感知剪枝:FASTDriveVLA在训练期间增加前景-背景对抗性重建,确保模型能够区分关键前景信息和冗余背景信息。SpecPrune-VLA采用启发式控制进行两级标记缩减,动作级别静态剪枝评估标记冗余性和相关性,层级别动态剪枝利用标记与模型层之间的相关性进行剪枝。
  • 量化感知剪枝:SQAP-VLA通过空间感知和量化感知的令牌剪枝框架,结合保留任务关键令牌、保护机器人末端执行器附近的令牌以及采样令牌以保持空间覆盖的策略,确保低位推断的鲁棒性。
  • 表示转换:OTTER提出跨注意力池化机制,将视觉和文本令牌压缩成固定长度的紧凑表示。UniVLA通过将所有输入转换为来自共享词汇表的离散令牌,实现视觉、文本和动作模态的统一,简化多任务训练。
时间共享与复用

时间共享与复用的目标是利用帧间相似性,避免在每个时间步骤都进行完整的重新计算,从而减少冗余处理,提高整体效率。

图6:VLA 系统中的时间重用机制。现有方法利用时间步之间的相似性,包括区块重用、键值缓存重用以及高层推理重用,因为这些表示在时间上通常变化缓慢。在基于扩散的动作模型中,时间重用也自然地出现在迭代降噪过程中

  • 键值(KV)缓存:VLA-cache通过复用静态图像块的KV缓存,针对连续帧之间的冗余。它估算跨帧的块级相似性,并对被认为是静态的块复用KV缓存,同时动态调整各层之间的重用比率。
  • 时间融合:TTF-VLA通过选择性地融合连续帧之间的视觉标记来利用时间冗余。它维护一个补丁标记的历史记录,并通过一个二进制重要性掩码更新它们,该掩码识别具有显著视觉或语义变化的区域。
  • 高层次感知表示复用:FlashVLA引入轻量触发器,检测连续感知驱动状态之间的相似性和选定视觉标记之间的重叠,当满足这些条件时,模型重用先前计算的表示。
  • 动作推理中的时间复用:EfficientVLA采用固定间隔缓存策略,每N步重新计算特征,并在其间重用缓存的表示。Fast ECoT通过模块级缓存重用变化缓慢的推理结果,结合连续批处理实现显著的效率提升。

尽管有这些进步,当前研究仍然面临显著的挑战。Token 剪枝方法通常依赖于手动预定义的阈值或固定的剪枝比率,缺乏动态适应变化任务或环境的能力。此外,大多数感知表征仍然局限于2D RGB输入,而3D处理通常涉及较大的计算开销,影响实时性能,从而限制了实际应用。

未来的研究预计将沿两个方向前进。首先,开发能够动态调整剪枝比例和策略的自适应机制至关重要,这将使模型能够根据任务复杂性和环境变化优化特征选择,从而在效率和性能之间实现更稳健的平衡。

其次,对于3D视觉表示来说,进展将依赖于更高效的建模和压缩策略,例如从单目线索进行轻量级深度估计、通过体素或点云压缩来降低数据密度,以及利用基于图像特征的效率同时保留关键空间结构的混合2D-3D融合方法。这些方法旨在保留3D感知的好处,如深度推理和空间一致性,而不会产生过高的成本。

三、高效的动作生成

VLA系统中高效输出生成的两种代表性范式:直接原始动作生成和基于推理的动作生成。

直接原始动作生成强调概念简洁性和低延迟,适用于严格频率要求下的实时决策。

基于推理的动作生成结合了明确的任务规划和中间语义,增强了长期推理能力和跨场景泛化能力,但显著增加了计算负担。

原始动作生成

**原始动作生成直接输出低维连续动作向量,通常包括平移、旋转和夹持器状态。**这种直接输出方式虽然推理延迟小,但在生成长动作序列时容易出现误差累积和效率瓶颈。

图7:动作分块机制示意图。一次前向推理即可生成多个时间步的动作,以提高效率;而时间集成则在时间维度上整合这些动作,以减少偏差和方差

  • 动作块生成:Action Chunk通过时间集成技术(如平滑或时间平均)在一个推理步骤中生成一系列连续的动作,减少误差累积并提高控制吞吐量。RTC(Real-Time Chunking)通过软遮罩方案和迭代去噪框架(如扩散或流动匹配)解决块边界处的不连续性问题,实现稳健的实时控制。
  • 动作压缩:FAST通过离散余弦变换(DCT)和字节对编码(BPE)对离散动作序列进行压缩,降低推理成本。OmniSAT引入统一的动作标记器,将连续轨迹转换为紧凑的离散标记,保留轨迹保真度,支持高效的自回归建模。
  • 动作标记化:VOTE引入特殊标记,通过轻量级MLP映射到连续动作,减少生成的令牌数量和解码步骤,显著提高推理速度。SpatialVLA结合动作离散化和动作令牌压缩,将平移向量转换为极坐标,保留欧拉角用于旋转,并对夹持器状态进行离散化。
推理感知的动作生成

**推理感知的动作生成在产生最终行动之前明确地纳入了推理阶段,**通过分解任务、提取语义特征等中间步骤,增强长时任务中的任务分解和规划能力,但引入了额外的计算成本和延迟。

图8:带有推理能力的 VLA 模型。除了生成原始动作外,这些模型还能产生中间推理结果。文本推理可能包括任务列表、高层计划和详细执行步骤,而视觉推理则可能涉及目标状态、边界框或可操作性。此类推理有助于提高动作生成的清晰度

  • 基于语言的推理:具身思维链推理(ECoT)将任务指令分解为细粒度的子任务描述,生成结构化字段(如任务、计划、子任务等),然后生成原始动作序列。快速ECoT通过重用变化缓慢的高级计划和采用连续批处理减轻效率问题。ECoT-Lite在训练时联合预测推理和行动,但在测试时丢弃推理标记,仅输出行动,显著提高推理速度。
  • 基于视觉的推理:UniPi通过预测目标状态帧并应用逆动力学模型生成动作。SuSIE通过预测单个子目标图像并转换为动作,减少推理延迟。VPP通过提取多尺度特征并传递给扩散策略生成动作,避免完整的去噪过程。DreamVLA通过动态基于区域的预测,仅预测与终端效果相关的动态区域,减少计算量。

尽管有这些进步,这两种方法仍然存在明显的局限性。直接行动生成在低延迟环境中虽然高效,但由于缺乏明确的推理信号,在不同实施例之间转移时往往难以持续表现,尤其是在长期任务中。基于推理的方法通过要求生成长序列的中间标记显著增加了计算负担,对实时控制环境中的部署提出了挑战。当前的解决方案如异步推理和部分步骤更新在一定程度上缓解了这个问题,但未能解决推理密集型范式固有的结构性低效问题。

未来的研究应专注于开发实用的加速机制,以实现高效的推理而不牺牲可解释性和泛化能力。有希望的方向包括选择性推理、分层规划和混合架构,为可扩展和可部署的推理驱动VLA代理铺平道路。

四、高效训练与推理

本节探讨提高视觉语言动作(VLA)模型训练和推理效率的方法,这些方法对于模型的实际部署至关重要。

训练方面,参数高效调整、知识蒸馏和量化降低了计算成本,同时保持性能竞争力。推理方面,研究正超越纯自回归解码,探索并行或混合生成方案以加快决策过程。

训练效率技术

训练效率技术旨在降低VLA模型训练过程中的计算成本,同时保持任务性能。

  • 参数高效微调(PEFT):通过冻结预训练模型的大部分权重,仅训练少量可训练参数,如低秩适应(LoRA),显著减少训练成本。
  • 知识蒸馏:将大型模型的知识转移到小型模型上,如CEED-VLA通过一致性蒸馏稳定非自回归推理,VITA-VLA通过动作对齐将预训练的小型动作模型的知识转移到大型视觉语言主干。
  • 结构化参数剪枝:通过剪枝减少模型中的参数数量,GLUESTICK通过低秩校正恢复因剪枝丢失的重要信息。
  • 量化:通过减少模型的精度来降低内存和计算需求,SQIL引入量化感知训练(QAT)方法,提高量化效率。
推理效率技术

推理效率技术旨在提高模型在实际应用中的响应速度,减少推理延迟。

图9:VLA 模型中的编码机制。子图 (a) 和 (b) 分别展示了基于自回归和扩散降噪的主流方法。子图 © 和 (d) 展示了近年来为提高推理效率而设计的新方案,包括雅可比解码和推测解码

  • 非自回归(NAR)解码:通过并行生成输出标记来提高推理速度,如openvla-oft通过双向注意力和连续回归动作表示实现并行解码。
  • 投机解码:Spec-VLA通过轻量级草图模型并行生成候选动作序列,然后由主模型验证,显著提高推理速度。
  • 迭代细化:PD-VLA通过并行预测所有动作并进行迭代细化,CEED-VLA通过一致性蒸馏和提前退出机制提高效率。

大多数VLA框架都是根据多模态语言模型进行改编的,它们的效率方法通常遵循一般视觉-语言研究的假设,很少涉及机器人特定需求,如时间一致性、具身约束或动作执行延迟。

未来的工作应该设计直接针对具身决策的效率技术,而不是将VLA优化视为VLM研究的次要结果。

五、未来展望

上文在模型架构、感知特征、动作生成以及训练与推理流水线等方面优化视觉-语言-动作(VLA) 模型效率的研究。尽管在降低这些模型的计算和资源需求方面已取得显著进展,但要实现真正高效、通用且可 靠的具身智能,绝非当前技术的简单外推法。

面对现实物理世界的复杂性、动态性和不确定性,现有的 VLA 模型在数据依赖性、感知维度、决策深度以及自主学习能力方面仍存在根本性局限。

本节从五个维度探讨了未来高效视觉语言动作(VLA)模型的发展方向,旨在平衡能力和效率,推动具身智能的实用化和泛化能力。

1、模型和数据:从规模驱动进步到协同演化
  • 现状:VLA模型的“更大模型训练更多数据”范式正接近饱和点,效率和泛化能力不再单纯依赖于参数规模。
  • 挑战:数据量的指数增长与有限的计算和内存预算之间的不平衡,导致数据效率问题。
  • 未来方向:模型与数据的共同优化,开发以数据为中心的效率框架,探索选择性或基于课程的数据管道,研究联合缩放律,实现数据量、模型复杂性和任务性能之间的帕累托最优平衡。
2、时空感知:从二维帧到三维世界模型
  • 现状:当前VLA模型受限于二维图像输入和马尔可夫假设,难以处理空间和时间复杂性较高的任务。
  • 挑战:转向时空表示会增加输入标记的数量,导致计算成本显著增加,同时冗余信息会降低效率。
  • 未来方向:开发任务感知的3D总结,结合短期密集状态跟踪与长期稀疏总结,跨模态语义引导的过滤和标记剪枝,以及评估下游主干成本,以实现时空感知的高效表示。
3、动作生成:从条件反射到深思熟虑的推理
  • 现状:当前模型主要采用分块控制范式,适用于低频控制任务,但难以满足高频、连续控制的需求。
  • 挑战:增加动作块长度或控制频率会增加输出标记数量,导致推理延迟增加,同时保持时间一致性变得困难。
  • 未来方向:探索紧凑且层次化的动作表示方式,开发跨块时间一致性的机制,以及将推理集成到VLA中,实现反应性推理,以满足高频控制的需求。
4、学习范式:从模仿到强化学习
  • 现状:模仿学习(IL)是当前主导的训练范式,但其性能上限受限于示范数据集。
  • 挑战:强化学习(RL)虽然具有自主性潜力,但在具身环境中的应用面临样本效率低下、策略更新成本高、奖励规范模糊等问题。
  • 未来方向:结合模仿学习和强化学习的渐进式训练流程,从模仿学习初始化稳定策略,通过离线强化微调增强泛化能力,最后进行有限阶段的在线适应。补充效率技术,如基于模型的展开、经验重放和自适应奖励塑形,以优化交互预算。
5、评估标准:从分散的度量到以效率为中心的基准测试
  • 现状:当前VLA研究报告了异构指标,依赖于多样化的数据集和不同的硬件,导致跨比较困难,难以量化真正的效率提升。
  • 挑战:缺乏统一的评估框架,难以衡量模型的设计和比较,无法突出计算需求与任务表现之间的权衡。
  • 未来方向:建立一个以资源效率、任务表现和可解释性为中心的三维评估框架,推动社区协作建立大规模、多场景、多任务的VLA开放基准,提供开放的数据集、标准化的模拟环境和实际机器人测试协议。

写在最后

本文回顾了关于视觉-语言-动作(VLA)模型效率最优化的研究。从基础模型架构、感知表示到高层动作生成的演进过程,涵盖了训练与推理两个方面。在此基础上,重点阐述几项新兴研究方向:模型与数据的协同演化、时空感知以构建动态世界模型、用于智能动作生成的审慎推理、兼顾模仿与强化学习策略的学习范式,以及统一的评估框架以实现可复现的评价。

如何学习大模型 AI ?

我国在AI大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着Al技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国Al产业的创新步伐。加强人才培养,优化教育体系,国际合作并进,是破解困局、推动AI发展的关键。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛,没有明确的学习路线可能会导致新人感到迷茫,不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学,我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

在这里插入图片描述

针对以上大模型的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路!

在这里插入图片描述

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等
在这里插入图片描述

博主介绍+AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发,与智学优课联合孵化,培养适合未来发展需求的技术性人才和应用型领袖。

在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

为什么要学习大模型?

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

在这里插入图片描述

适合人群

  • 在校学生:包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础,有志于深入AGI大模型行业,希望开展相关的研究和开发工作。
  • IT行业从业人员:包括在职或失业者,涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验,至少1年以上的编程工作经验,对大模型技术感兴趣或有业务需求,希望通过课程提升自身在IT领域的竞争力。
  • IT管理及技术研究领域人员:包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势,主导技术创新,推动大模型技术在企业业务中的应用与改造。
  • 传统AI从业人员:包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作,现需要快速补充大模型技术能力,获得大模型训练微调的实操技能,以适应新的技术发展趋势。
    在这里插入图片描述

课程精彩瞬间

大模型核心原理与Prompt:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为Al应用开发打下坚实基础。

在这里插入图片描述

RAG应用开发工程:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。 在这里插入图片描述

Agent应用架构进阶实践:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。
在这里插入图片描述

模型微调与私有化大模型:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。 在这里插入图片描述

顶尖师资,深耕AI大模型前沿技术

实战专家亲授,让你少走弯路
在这里插入图片描述

一对一学习规划,职业生涯指导

  • 真实商业项目实训
  • 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准,具备真实大模型项目实践操作经验可写入简历,支持项目背调

在这里插入图片描述
大厂绿色直通车,冲击行业高薪岗位
在这里插入图片描述

文中涉及到的完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

端到端自动驾驶大模型:视觉-语言-动作模型 VLA 随着视觉-语言-动作模型VLA的发展,感知和规划逐渐融合为一个模型,即端到端自动驾驶大模型。 阅读详情

相关推荐

具身智能端到端大模型VLA (Vision Language Action)

在语言为条件的机器人任务中,策略必须具备理解语言指令、视觉感知环境并生成适当动作的能力,这就需要VLA的。例如,在自动驾驶领域,传统的做法是将感知、预测、规划等步骤分开处理,而VLA则试图用一个统一的框架来替代这种分立的方法。另外,VLA的模型对于算力的需求很大,单片AI算力1000Tops的Thor大概率会延期发布,加上英伟达芯片的量产时间与成本挑战,以及在国内的应用情况,对车企而言是个大问题。以谷歌DeepMind推出的RT-2为例,该模型可以在新的物体、背景和环境中表现出显著改善的性能。

具身智能机器人 1万+

视觉语言动作模型(VLA)及其应用:一文带你轻松掌握!

摘要:视觉语言动作模型(VLA)已成为自动驾驶和机器人领域的前沿AI技术,其通过融合视觉和语言信号实现场景理解与智能决策。VLA具有预训练高效、人机交互自然、端到端统一训练等优势,最早由Google RT-2项目提出。当前机器人领域已实现VLA双层专家系统架构,而汽车领域Wayve、理想、小鹏等企业正加速应用落地。文章详细解析了VLA的技术原理、发展历程及产业应用现状,指出VLA是Physical AI的核心实现路径,但强调先进技术需转化为良好用户体验。文末提供大模型学习资源获取方式。(149字)

2401_85343303的博客 3369

VLA:自动驾驶从模块化到具身智能的范式跃迁

视觉-语言-动作(VLA)是具身智能在自动驾驶领域的核心落地形态,其本质是将传统‘感知-预测-规划-控制’的离散模块,重构为端到端理解环境并生成物理可行动作的统一神经框架。它依托视觉编码器构建语义丰富的世界状态,通过自监督训练的世界模型实现因果推理与长时序预测,并输出直连车辆执行器的具身策略。这一技术路径显著提升系统对长尾场景的泛化能力与决策鲁棒性,正推动自动驾驶从工程优化问题转向数据驱动的学习问题。当前产业聚焦于VLA大模型、垂直场景适配与车规级部署三大方向,成为衡量下一代智能驾驶技术成熟度的关键标尺。

weixin_33980459的博客 348

万字长文,读懂具身智能的“大脑”:一文详解视觉-语言-动作(VLA)大模型

VLA模型:迈向具身智能的关键一步 视觉-语言-动作(VLA)模型通过整合视觉感知、语言理解和物理动作,成为实现具身智能(Embodied AI)的核心技术。VLA模型基于多模态融合,结合预训练视觉表征(如CLIP、DINOv2)、动力学学习和世界模型,使机器人能够理解指令、感知环境并生成动作。其底层控制策略(如RT-1、DiffusionPolicy)和高层任务规划器(如PaLM-E、SayCan)协同工作,完成复杂长时程任务。尽管面临数据稀缺、安全性和泛化性等挑战,VLA模型仍展现出广阔应用前景,如家庭

Trb701012的博客 3364

1M 视频 & 语言模型:长序列理解的突破

文章提出 PHYSOBJECTS 数据集,用于微调视觉语言模型(VLM)以提升其对物体物理概念的理解,将微调后的 VLM 融入机器人规划框架,在多方面实验中验证了方法的有效性。文章聚焦于具身人工智能中的视觉 - 语言 - 动作(VLA)模型,阐述其发展背景,提出分类体系,介绍相关模型、资源,讨论挑战与未来方向,为该领域研究提供全面综述。本文提出了一种能够处理。极大地提升长文本和长视频的理解能力,为智能问答、视频分析和机器人视觉等领域的应用带来更强大的支持,推动人工智能向更智能、更高效的方向发展。

2501_90555291的博客 983

如何解决ipa包上传App Store Connect时出现的无效二进制文件问题

本文详细解析了ipa包上传App Store Connect时出现无效二进制文件问题的常见原因及解决方案。从Scheme配置、架构支持到权限声明,提供了全面的检查步骤和实用技巧,帮助开发者快速定位并解决上传问题,确保应用顺利通过审核。

weixin_28833069的博客 315

AI 小白速收藏!万字长文拆解具身智能:从基础认知到大模型赋能,入门无门槛

AI 小白速收藏!万字长文拆解具身智能:从基础认知到大模型赋能,入门无门槛

python12345_的博客 1950

手把手教你用若依WMS搭建企业级仓库管理系统(Vue+Spring Boot实战)

本文提供了一份基于若依框架(RuoYi)快速搭建企业级仓库管理系统(WMS)的实战指南。详细介绍了从环境准备、项目初始化到核心功能模块(如入库流程、库存管理看板)深度定制的全过程,并涵盖Lodop打印集成、移动端PWA适配及生产环境Docker部署等高级主题,帮助开发者高效构建稳定可用的WMS系统。

weixin_29015899的博客 564

【万字长文】大模型赋能具身智能:自主决策与学习方向深度解析!

本文综述了大模型赋能具身智能的两大核心方向:自主决策(分层决策与端到端决策)和具身学习(模仿学习与强化学习)。文章系统分析了大模型如何增强传统方法,并首次将世界模型纳入具身智能研究框架。同时,文章指出了当前面临的数据稀缺、持续学习、计算效率和仿真到现实差距等挑战,为通用人工智能研究提供了理论指导与实践方向。

嘴巴吃糖了 1477

FPGA时钟设计陷阱:为什么你的MRCC引脚总触发Place 30-675错误?

本文深入解析FPGA开发中常见的Place 30-675错误,揭示MRCC引脚与时钟资源分配的关键问题。通过对比MRCC与普通IO引脚特性,分析错误根源,并提供时钟约束优化、IP核重配置和手动布局三套解决方案,帮助工程师规避时钟设计陷阱,提升FPGA系统稳定性。

potato的博客 693

XILINX偶然加载不成功的问题原因及解决方法

本文为明德扬原创文章,转载请注明出处! 一、项目背景 明德扬(MDY)在2021年承担了多个基于XILINX芯片的研发项目,包括VPX网络透明传输项目(芯片为XC7K325T-2FBG900)、某高端测试仪项目(芯片为XCKU060-FFVA1156)、某网闸设备项目(芯片为XC7Z030-FBG676)等,另外,明德扬自研了基于XC7K325T-2FBG900和基于XC7K410T-2FBG900芯片的核心板,在XILINX研发领域拥有丰富的经验。即使拥有丰富经验和积累,每个新项目我们均...

6036

【万字长文】一文搞懂高效VLA模型:视觉-语言-动作系统优化全攻略!

本文系统综述视觉-语言-动作(VLA)模型效率优化方法,从模型架构、感知特征、动作生成及训练/推理策略四方面展开。分析静态骨干、动态计算路径等高效架构设计,探讨选择性特征处理等感知优化方法,比较直接动作生成与推理驱动生成两种范式,介绍参数高效微调等训练技术,并展望VLA模型未来发展方向,为构建高效具身智能提供全面指导。

2401_84494441的博客 7096

一次把 PRIV mode 讲透:从 ABAP 内存分配链路到定位与治理

ABAP系统进入PRIV模式的本质是Extended Memory耗尽时转向Heap内存的应急机制。该现象会导致工作进程被独占,系统吞吐量下降。触发条件包括系统EM资源池耗尽或单个用户超过配额阈值。关键参数em/address_space_MB和ztta/roll_extension需协同调整。典型症状包括SM50显示PRIV状态、响应延迟和内存dump。治理需双管齐下:系统侧合理配置内存参数,代码侧优化内存使用模式,如分页处理、减少大内表操作和下推聚合逻辑。PRIV模式应作为异常信号而非常态目标,健康系统

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 208

【万字长文】一文带你入门大模型赋能“具身智能”:从入门到精通自主决策与学习!

本文系统梳理大模型赋能的具身智能研究进展,涵盖基础概念、大模型分类与通用能力提升、自主决策(分层与端到端范式)及具身学习方法。大模型显著提升了具身智能在开放环境中的感知、交互、规划能力,自主决策和具身学习成为核心方向。文章详细分析了分层决策的高层规划、低级执行和反馈提升,以及端到端决策的VLA模型,为AGI发展提供了重要路径。

2401_85375151的博客 1442

Linux Kernel入门到精通系列讲解(RV-Kernel 篇) 5.3 从零移植 busybox,基于RISC-V

上一章节我们已经成功启动了`Ubuntu`,但是由于`Ubuntu`占用系统空间过大,所以我转向占用较小的`busybox`,预计就占用`30M`左右。开始移植busybox,基于riscv64

DSMGUOGUO的博客 857

n8n智能体开发:Microsoft Outlook 节点

使用 Microsoft Outlook 节点可以自动化 Microsoft Outlook 工作流程,并将其与其他应用程序集成。n8n 内置支持多种 Microsoft Outlook 功能,包括创建、更新、删除和获取文件夹、邮件及草稿等操作。

王国平的博客 570

【万字长文】大模型赋能下的具身智能革命:自主决策与具身学习技术的最新进展综述!

本文系统综述大模型如何赋能具身智能,聚焦自主决策(分层与端到端)与具身学习(模仿与强化学习)两大方向,首次将世界模型纳入研究框架。文章分析了大模型在感知、推理、行动等方面的突破,并指出数据稀缺、持续学习、计算效率等挑战,为通用人工智能发展提供理论指导与实践路径。

WANGJUNAIJIAO的博客 1253

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

万字长文!具身智能从入门到精通:黄仁勋预言的AI新浪潮,基础概念+大模型赋能全解析

具身智能(Embodied****AI****)****旨在开发具备物理形态的智能系统**,使其能够在真实环境中**感知、决策、行动和学习**,是实现**通用人工智能**(AGI)的重要路径之一。

m0_59235945的博客 1260

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

万字长文!「视觉-语言-动作」模型入门基础教程(非常详细),VLA模型从入门到精通,收藏这一篇就够了!

本文深入探讨**视觉-语言-动作(****VLA****)模型**的技术演进,阐述了机器人如何从处理**单一模态**转变为能够同时**感知图像、理解****指令****并执行物理动作

weixin_58753619的博客 1911

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

【万字长文】大模型赋能具身智能实战——决策制定与具身学习全解析!

本文全面解析了大模型赋能具身智能在决策制定与学习方面的最新进展,涵盖分层与端到端决策架构,以及模仿学习、强化学习等方法。大模型通过增强感知、交互、规划和学习能力,为具身智能提供强大支持。文章比较分析了不同方法的优缺点,并讨论了当前面临的泛化能力、实时性、安全性等挑战及未来研究方向,为具身智能的发展提供了系统性视角。

2401_84204413的博客 902

万字长文,学妹一看就会的RDKS100模型量化及部署

本文介绍了RDK S100模型量化部署的详细教程,主要针对Ubuntu22.04宿主机环境与RDKS100设备。内容涵盖算法工具链(OpenExplorer)的安装配置,包括Docker环境搭建、NVIDIA Container Toolkit安装,以及国内镜像源优化等关键步骤。作为RDKX5模型部署的姐妹篇,本文侧重基础模型部署,后续将更新具身智能模型应用。教程提供30分钟快速入门的量化部署方案,帮助开发者解决S100新工具链的适应问题。参考资源包括RDKS100用户手册、官方算法工具链和ModelZoo

xiongqi123123的博客 3021

具身智能成败之关键!干货长文首次全面回顾具身智能领域中的视觉-语言-动作模型!

文章链接:https://arxiv.org/pdf/2405.14093本综述是关于具身智能领域中新兴的视觉-语言-动作模型的首次全面回顾。对具身智能领域中涌现的VLA模型进行了全面回顾,涵盖了架构、训练目标和机器人任务等各个方面。引入了当前机器人系统的分层结构分类法,包含三个主要组件:预训练、控制策略和任务规划器。预训练技术旨在增强VLAs的特定方面,如视觉编码器或动力学模型。低层次控制策略根据指定的语言命令和感知到的环境执行低层次动作。高层次任务规划器将长远任务分解为由控制策略执行的子任务。

AIGCer的博客 2219

Pure Vision-Language-Action (VLA) 模型:一份全面的综述精读

本文综述了纯视觉-语言-动作(VLA)模型的最新研究进展,系统梳理了从基础模型到具身智能的发展脉络。文章提出基于动作生成策略的四大范式分类法:自回归、扩散、强化和混合专用方法,并对每类方法的代表性工作、技术特点及优缺点进行了详细分析。同时涵盖了VLA研究所需的数据集、仿真平台、机器人硬件等关键支撑要素,并讨论了当前面临的五大挑战和未来四大发展方向。该综述为研究者提供了VLA领域的全景式技术路线图,既可作为入门指南,也能为特定方向的深入探索提供参考。

家鸽的代码屋 569

一文讲清楚具身智能:从机器人、模仿学习到 VLA,如何建立完整技术坐标系

这是一篇面向技术从业者与研究者的具身智能入门长文。文章尝试系统梳理具身智能的核心概念、技术分层、典型项目与未来发展脉络,帮助读者把 ALOHA、ACT、LeRobot、π0、π0.5 等常见名词真正放到同一张图里理解。

m0_51246196的博客 616

AI大模型与具身智能双向奔赴:宇树、Anthropic引领从虚拟到物理的产业变革!

当下,“脑体协同”是全球AI产业趋势。随着宇树、智元等机器人公司进入资本市场,出货量提升,具身智能将从融资驱动迈向产业落地阶段。他们需要“大脑”突破泛化瓶颈,完成复杂任务;大模型企业需要物理世界“身体”验证落地,完善商业模式。“最强大脑”与“最强身体”相遇,数字智能迈向物理智能的新时代正在到来,率先突破者将获时代红利。

IT界那些事儿 90
上一篇: 万字长文,彻底讲透智能体化搜索!强化学习基础、角色、优化全拆解,不收藏亏大了!
下一篇: 万字长文,深度解析Embedding!从核心原理到三大分类,一文带你入门到精通!
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2839原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值