空间智能和世界模型是当前AI研究的前沿领域

AI教母李飞飞:从ImageNet到世界模型,空间智能如何定义下一代AI的疆界 摘要:李飞飞博士回顾AI发展历程,从ImageNet突破数据瓶颈开启深度学习革命,到提出以人为本的AI伦理框架。她指出当前大语言模型的局限性,强调空间智能与世界模型(WLM)是AI下一前沿,其团队开发的Marble平台可生成交互式3D环境,应用于影视、医疗等领域。李飞飞认为机器人技术面临物理系统复杂性等独特挑战,呼吁技术创新需以增强人类福祉为核心。全文展现AI从数据驱动到空间认知的范式转变,体现科学家对技术社会价值的深刻思考。(149字) 注:严格控制在150字内,涵盖AI发展历程、技术突破(ImageNe 阅读详情

目录

第一部分:空间智能 —— 让AI从“看到”到“看懂”三维世界

1. 核心任务:从2D到3D的几何解析

2. 技术基石:多视图几何与深度学习融合

第二部分:世界模型 —— 让AI从“静态理解”到“动态预测”

1. 核心思想:学习世界的“物理引擎”

2. 关键技术架构:

3. 两种主要的模型范式:

总结:两者的关系与未来

1. 3D场景理解基础代码

2. 神经辐射场核心组件

3. 物理世界预测模型

4. 多视图几何一致性

5. 交通应用示例

6. 实用的工具函数

关键要点:


空间智能和世界模型是当前AI研究的前沿领域,核心代码通常涉及复杂的深度学习架构。以下是这些技术的关键组件代码示例和实现思路:

  1. 空间智能核心:理解3D几何、相机模型、多视图一致性

  2. 世界模型核心:状态编码、动态预测、物理约束

  3. 交通应用:结合领域知识(轨道几何、车辆动力学)

  4. 数据需求:需要多视角图像、深度信息、物理仿真数据

第一部分:空间智能 —— 让AI从“看到”到“看懂”三维世界

空间智能的目标是让机器获得对人类和动物来说与生俱来的能力:理解物体在三维空间中的几何属性、关系以及自身的视角。

其核心技术原理可以概括为下图所示的演进过程:

图表

代
形成3D场景理解”

1. 核心任务:从2D到3D的几何解析
  • 深度估计:

    • 原理: 为图像中的每一个像素计算其与相机的距离。这不再是识别“是什么”,而是估计“在哪里”。

    • 方法:

      • 双目视觉: 模仿人类双眼,通过两个摄像头拍摄图像的视差来计算深度。

      • 单目深度估计: 使用深度学习模型,从单张图片的纹理、阴影、物体大小等线索中“猜”出深度。这是一个病态问题,但大数据驱动的模型表现得非常好。

  • 表面法线估计:

    • 原理: 估计物体表面每一个点的朝向(垂直于表面的向量)。这对于理解物体的形状和材质至关重要。

    • 方法: 同样基于深度学习,通过分析光照、阴影和纹理的连续变化来推断表面朝向。

  • 3D物体检测与姿态估计:

    • 原理: 不仅要找出物体,还要用一个3D的立方体来框住它,并确定它在空间中的旋转角度。

    • 方法: 在2D检测的基础上,回归出物体的3D尺寸、位置和欧拉角。

2. 技术基石:多视图几何与深度学习融合
  • 多视图几何: 这是计算机视觉的经典支柱。其核心原理是,从不同视角拍摄的同一场景的照片,包含了重建其3D结构的全部信息。

    • 对极几何: 描述了同一场景点在两个不同视角的图像平面上的投影关系。

    • 运动恢复结构: 从一系列2D图像中同时计算出相机的运动轨迹和场景的3D结构。

    • SLAM: 在未知环境中,通过传感器数据实时构建环境地图并同时定位自身。

  • 神经场景表征: 这是深度学习带来的革命。它不再显式地构建点云或网格,而是用一个神经网络来“记忆”或“学习”一个场景。

    • 神经辐射场: 这是当前最热门的技术。它将一个3D场景表示为一个连续的数学函数:输入一个3D坐标和观看视角,输出该点的颜色和密度。通过可微分渲染,这个网络可以从多张2D图片中学习出来,最终能生成任意新视角的、极其逼真的图像。NeRF让AI拥有了“脑补”3D场景的能力。


第二部分:世界模型 —— 让AI从“静态理解”到“动态预测”

世界模型的目标更近一步:不仅要理解世界的当前状态,还要能预测世界在未来将如何演化。它本质上是为AI构建一个 “内部模拟器”。

1. 核心思想:学习世界的“物理引擎”
  • 原理: 现实世界遵循着确定的物理规律(如重力、摩擦力、碰撞)。世界模型试图通过数据驱动的方式,学习这些规律的简化版,使其能够在虚拟环境中预测下一秒、下一分钟会发生什么。

2. 关键技术架构:

世界模型通常包含两个核心组件:

  1. 表征模型:

    • 功能: 将高维的、冗余的原始观察(如图像)压缩成一个低维的、蕴含信息的隐状态。这个隐状态去除了无关细节,只保留了理解世界动态所必需的信息(如物体的位置、速度、材质等)。

    • 好比: 当你看到桌球开局,你的大脑不会记住每个球的颜色细节,而是抽象出“15个球的位置和速度”这个关键状态。

  2. 动态模型:

    • 功能: 接收当前的隐状态和一个动作,预测下一个时刻的隐状态。

    • 公式: s_{t+1} = f(s_t, a_t),其中 s 是状态,a 是动作。

    • 好比: 在你的大脑中,你可以模拟“如果我这样击球,母球会撞到9号球,然后9号球会以某个角度滚入底袋”。

3. 两种主要的模型范式:
  • 基于显式规划的:

    • 思想: 在采取行动前,在内部模拟器中“推演”多种未来可能的情况,然后选择最优的行动路径。

    • 如MuZero: 它通过学习得到的模型,在内部进行蒙特卡洛树搜索,模拟未来几步,找到最佳着法。

  • 基于隐式学习的:

    • 思想: 不进行显式规划,而是通过端到端训练,让策略网络直接学习到在某种状态下应该采取什么行动。世界模型的知识被隐式地编码在策略网络中。

    • 如DrQ: 它通过数据增强和强化学习,直接学习到一个强大的策略。


总结:两者的关系与未来

  • 空间智能是世界模型的基础: 一个强大的世界模型,首先需要对世界的当前状态有一个精确的、三维的理解。你不能预测一个你“看不懂”的世界。

  • 世界模型是空间智能的升华: 仅仅理解静态的3D结构是不够的,世界模型赋予了AI因果推理和预见未来的能力,这是实现真正通用智能的关键一步。

对于轨道交通而言,这意味着:

  • 空间智能 让系统能实时构建车站、轨道、列车和乘客的精确3D数字孪生。

  • 世界模型 则能在这个数字孪生中,模拟预测:如果一辆列车晚点,客流会如何拥堵?如果发布一个疏导指令,人群会如何移动?如果轨道出现微小形变,一个月后会对车轮造成什么影响?

这两项技术的结合,正在将轨道交通从被动的响应系统,转变为一个能够预见风险、主动优化的“活的”有机体。

1. 3D场景理解基础代码

python

复制

下载

import torch
import torch.nn as nn
import torchvision.models as models
from torch.nn import functional as F

class Basic3DSceneUnderstanding(nn.Module):
    """基础的空间智能模型 - 理解3D场景"""
    
    def __init__(self, backbone='resnet50'):
        super().__init__()
        # 2D特征提取
        self.backbone = models.resnet50(pretrained=True)
        self.feature_dim = 2048
        
        # 3D理解模块
        self.depth_estimator = DepthEstimationHead(self.feature_dim)
        self.normal_estimator = SurfaceNormalHead(self.feature_dim)
        self.layout_estimator = LayoutEstimationHead(self.feature_dim)
        
    def forward(self, x):
        # 提取2D特征
        features = self.backbone(x)
        
        # 估计3D属性
        depth_map = self.depth_estimator(features)
        surface_normals = self.normal_estimator(features)
        room_layout = self.layout_estimator(features)
        
        return {
            'depth': depth_map,
            'normals': surface_normals,
            'layout': room_layout
        }

2. 神经辐射场核心组件

python

复制

下载

class NeRF(nn.Module):
    """神经辐射场 - 世界模型的核心技术"""
    
    def __init__(self, hidden_dim=256, positional_encoding_dim=10):
        super().__init__()
        
        # 位置编码 - 让网络学习高频细节
        self.positional_encoding = PositionalEncoding(positional_encoding_dim)
        
        # 主要MLP网络
        self.network = nn.Sequential(
            nn.Linear(positional_encoding_dim * 2 * 3 + 3, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
        )
        
        # 输出头:RGB颜色 + 密度
        self.output_head = nn.Linear(hidden_dim, 4)  # [RGB, density]
        
    def forward(self, positions, directions):
        # 位置编码
        encoded_positions = self.positional_encoding(positions)
        encoded_directions = self.positional_encoding(directions)
        
        # 拼接特征
        x = torch.cat([encoded_positions, encoded_directions], dim=-1)
        
        # 通过网络
        features = self.network(x)
        output = self.output_head(features)
        
        # 分割输出
        rgb = torch.sigmoid(output[..., :3])  # RGB在0-1范围
        density = F.softplus(output[..., 3:])  # 密度为正数
        
        return rgb, density

3. 物理世界预测模型

python

复制

下载

class WorldModel(nn.Module):
    """世界模型 - 预测物理状态变化"""
    
    def __init__(self, observation_dim, action_dim, hidden_dim=512):
        super().__init__()
        
        # 编码当前状态
        self.encoder = nn.Sequential(
            nn.Linear(observation_dim, hidden_dim),
            nn.LayerNorm(hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),
            nn.LayerNorm(hidden_dim),
        )
        
        # 动态模型 - 预测下一状态
        self.transition_model = nn.Sequential(
            nn.Linear(hidden_dim + action_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),  # 预测隐状态变化
        )
        
        # 解码器 - 从隐状态重建观察
        self.decoder = nn.Sequential(
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, observation_dim)
        )
        
    def forward(self, observation, action):
        # 编码当前观察
        hidden_state = self.encoder(observation)
        
        # 预测下一状态
        transition_input = torch.cat([hidden_state, action], dim=-1)
        next_hidden = hidden_state + self.transition_model(transition_input)
        
        # 解码预测的观察
        predicted_observation = self.decoder(next_hidden)
        
        return predicted_observation, next_hidden

4. 多视图几何一致性

python

复制

下载

class GeometricConsistency(nn.Module):
    """几何一致性约束 - 确保3D理解的一致性"""
    
    def __init__(self):
        super().__init__()
        
    def compute_reprojection_loss(self, depth_map1, depth_map2, transformation):
        """
        计算重投影损失 - 确保不同视角的一致性
        """
        # 使用可微分渲染计算重投影误差
        height, width = depth_map1.shape[-2:]
        
        # 生成像素坐标网格
        y_coords, x_coords = torch.meshgrid(
            torch.arange(height), 
            torch.arange(width)
        )
        pixel_coords = torch.stack([x_coords, y_coords], dim=-1).float()
        
        # 将2D像素反投影到3D
        points3d_1 = self.backproject_to_3d(depth_map1, pixel_coords)
        
        # 变换到第二个相机坐标系
        points3d_2 = self.transform_points(points3d_1, transformation)
        
        # 投影到第二个图像平面
        reprojected_coords = self.project_to_2d(points3d_2)
        
        # 计算重投影误差
        loss = F.l1_loss(reprojected_coords, pixel_coords)
        
        return loss
    
    def backproject_to_3d(self, depth, pixel_coords, camera_matrix):
        """将2D像素和深度反投影到3D空间"""
        # 实现反投影逻辑
        pass
    
    def project_to_2d(self, points3d, camera_matrix):
        """将3D点投影到2D图像平面"""
        # 实现投影逻辑
        pass

5. 交通应用示例

python

复制

下载

class RailSpatialIntelligence(nn.Module):
    """轨道交通空间智能专用模型"""
    
    def __init__(self):
        super().__init__()
        
        # 轨道场景理解
        self.track_detector = TrackDetectionHead()
        self.obstacle_detector = Obstacle3DDetectionHead()
        self.passenger_flow_estimator = PassengerFlow3DEstimator()
        
        # 物理模拟
        self.train_dynamics = TrainDynamicsPredictor()
        self.crowd_simulation = CrowdMovementPredictor()
        
    def forward(self, multi_view_images, sensor_data):
        # 3D轨道场景重建
        track_3d = self.track_detector(multi_view_images)
        obstacles_3d = self.obstacle_detector(multi_view_images)
        
        # 乘客流3D分析
        passenger_density_3d = self.passenger_flow_estimator(multi_view_images)
        
        # 物理预测
        train_movement = self.train_dynamics(track_3d, sensor_data)
        crowd_movement = self.crowd_simulation(passenger_density_3d)
        
        return {
            'track_3d': track_3d,
            'obstacles_3d': obstacles_3d,
            'passenger_flow_3d': passenger_density_3d,
            'predicted_train_movement': train_movement,
            'predicted_crowd_movement': crowd_movement
        }

6. 实用的工具函数

python

复制

下载

def positional_encoding(x, num_frequencies=10):
    """位置编码 - 让MLP学习高频函数"""
    frequencies = 2.0 ** torch.arange(num_frequencies).float().to(x.device)
    encoded = []
    for freq in frequencies:
        encoded.append(torch.sin(freq * x))
        encoded.append(torch.cos(freq * x))
    return torch.cat(encoded, dim=-1)

def volume_rendering(rgb, density, rays):
    """体素渲染 - 从神经辐射场生成2D图像"""
    # 沿光线采样
    num_samples = 128
    t_vals = torch.linspace(0., 1., num_samples).to(rgb.device)
    
    # 计算透射率和权重
    delta = t_vals[1:] - t_vals[:-1]
    alpha = 1.0 - torch.exp(-density * delta)
    
    # 累积透射率
    transmittance = torch.cumprod(1.0 - alpha, dim=-1)
    weights = transmittance * alpha
    
    # 渲染最终颜色
    rendered_rgb = torch.sum(weights[..., None] * rgb, dim=-2)
    
    return rendered_rgb

关键要点:

  1. 空间智能核心:理解3D几何、相机模型、多视图一致性

  2. 世界模型核心:状态编码、动态预测、物理约束

  3. 交通应用:结合领域知识(轨道几何、车辆动力学)

  4. 数据需求:需要多视角图像、深度信息、物理仿真数据

这些代码提供了基础框架,实际应用中需要:

  • 大规模3D数据集

  • 强大的计算资源

  • 领域特定的优化

  • 与现有交通系统的集成

附录

一、物理世界:我们存在的舞台

简单来说,物理世界就是我们所在的这个由物质、能量、空间和时间构成的,遵循着特定自然规律运行的客观宇宙。

你可以把它想象成一个无比宏大、精密且“讲道理”的舞台。

它的核心特征包括:

  1. 客观实在性:它不依赖于我们的意识而存在。无论我们是否观察它,月亮都在那里,引力都在起作用。

  2. 遵循物理定律:这个世界的运行有一套基本的“游戏规则”,比如牛顿力学、电磁学、热力学、相对论和量子力学。苹果会落地、光会沿直线传播、能量守恒等等,都是这些定律的体现。

  3. 四维时空:我们的世界不是三维的,而是由三维空间(长、宽、高)和一维时间共同构成的“四维时空”。爱因斯坦的相对论告诉我们,时空是弯曲的,物质和能量决定了时空的形状,而时空的形状决定了物质如何运动。

  4. 由基本粒子构成:目前我们认为,世界上的一切,从星辰大海到我们自己的身体,都是由夸克、电子等基本粒子构成的,它们通过四种基本力(引力、电磁力、强核力、弱核力)相互作用。

总结: 物理世界是那个“坚硬”的、有规则的底层现实。它是我们所有经验和探索的最终对象。


二、空间智能:我们理解舞台的“大脑GPS”

空间智能是一种认知能力,它远不止是“认路”那么简单。它指的是在脑海中理解、操作、记忆和转换物体与空间关系的能力。

它就像我们大脑内置的一套强大的3D建模和模拟软件。

它的核心能力包括:

  1. 空间感知:准确感知周围环境、物体的大小、方向、距离和位置关系。比如,接住一个飞来的球,就需要精准的空间感知。

  2. 心理旋转:在头脑中想象一个物体旋转后是什么样子。比如,玩俄罗斯方块时,你需要快速判断下一个形状旋转后能否填满空隙。

  3. 空间可视化:在脑海中构建和操纵复杂的图像或场景。建筑师在设计图纸时,就能在脑中“看到”建成后的大楼。

  4. 导航与寻路:在环境中确定自己的位置,并规划从一个地方到另一个地方的路线。这不仅仅是记路标,更是脑中形成了一幅“认知地图”。

  5. 理解图形信息:能轻松读懂地图、图表、几何图形和工程蓝图。

哪些人空间智能突出?

  • 建筑师和工程师:在设计阶段就能在脑中构建整个结构。

  • 外科医生(尤其是微创手术):需要通过二维屏幕来感知和操作三维的人体器官。

  • 飞行员和司机:需要持续判断速度、距离和方位。

  • 艺术家和雕塑家:对比例、透视和构图有天然的直觉。

  • 棋手:需要在脑中推算未来许多步的棋盘局面变化。

总结: 空间智能是我们大脑用来理解、记忆和模拟物理世界的工具。它让我们能够在心理上“驾驭”这个空间舞台。


三、两者的深刻联系:从认知到改造

物理世界和空间智能的关系,就像是“硬件”和“驱动它的核心软件”之间的关系。

  1. 空间智能源于对物理世界的适应:
    人类的空间智能是在漫长的进化过程中,为了在物理世界中生存(寻找食物、躲避天敌、制造工具)而发展起来的。我们的大脑被自然选择塑造成了一台擅长处理空间问题的机器。

  2. 空间智能是我们理解物理世界的模型:
    我们无法直接“感受”时空弯曲,但我们可以通过空间智能构建的数学模型和思想实验来理解它。爱因斯坦的“电梯思想实验”就是他超凡空间智能的体现,他通过在脑中模拟物理场景,颠覆了我们对物理世界的认知。

  3. 空间智能是改造物理世界的桥梁:
    人类所有伟大的工程和艺术创造,都始于脑海中的一个空间构想。

    • 建造金字塔:需要先在脑中规划巨石如何堆叠。

    • 发明飞机:需要理解空气动力学和三维空间中的姿态控制。

    • 开发VR/AR:这是空间智能的终极体现——直接用数字技术创造一个可以交互的、仿真的物理世界。

  4. 物理世界是空间智能的“校准器”:
    我们的空间智能需要通过在实际物理世界中的行动和反馈来不断校准和修正。一个婴儿通过抓握玩具来学习距离感,我们通过走路来验证脑中的路线是否正确。

总结

  • 物理世界是客观存在的、有规则的宇宙舞台。

  • 空间智能是我们主观的、大脑内置的,用于理解、记忆和操作这个舞台的3D模拟器。

正是因为我们拥有强大的空间智能,我们才不仅能在物理世界中生存,更能深入地理解它的规律,并最终按照我们的想象去改造和创造它。从原始人投出长矛,到宇航员操纵飞船对接空间站,这一切都是空间智能与物理世界互动的壮丽史诗。

李飞飞访谈:空间智能是AI的下一个前沿 摘要:李飞飞博士在Y Combinator访谈中分享了她对AI发展的深刻见解。从开创ImageNet数据集推动深度学习革命,到探索空间智能这一AI新前沿,她始终选择解决"近乎妄想"的根本性问题。访谈揭示了技术创新的规律:真正的突破需要长期坚持和对基础问题的重新思考(如数据驱动方法)。李飞飞特别强调空间智能的挑战性,指出其相比语言模型面临更高维度的复杂性。作为学者与创业者,她建议年轻研究者专注跨学科AI、理论创新等产业界不易涉足的领域。其经历展现了多元化视角对技术创新的价值,以及从学术到产 阅读详情

相关推荐

李飞飞:AI的下一站——空间智能与世界模型的宏伟宣言

在人工智能领域,语言模型的惊人进展常常让人们误以为文本数据是通往通用人工智能(AGI)的唯一途径。然而,计算机视觉先驱、World Labs创始人李飞飞博士(Fei-Fei Li)的最新研究和深刻思考,正在将聚光灯重新投向被长期忽视但至关重要的领域:空间智能(Spatial Intelligence)。本次访谈深入探讨了如何超越大型语言模型(LLMs)的局限,让AI通过直接感知、视频和多模态交互来理解我们所处的物理世界。文章将基于李飞飞博士的论述,详细解析空间智能的重要性、世界模型的构建路径,以及我们距离真

老孙 | Ethan Sun 的博客:AI 智能体与 AI 原生软件的工程实践 976

AI的下一个前沿——空间智能与世界模型

《从文字到世界:空间智能是AI的下一个前沿》摘要:李飞飞提出空间智能作为AI发展的核心方向,指出当前AI虽擅长文字处理但缺乏空间认知能力。文章系统阐述了构建"世界模型"的必要性,该模型需具备生成性、多模态和交互性三大能力,以解决AI在物理世界交互中的短板。通过研究通用训练任务、空间数据架构和新型模型设计,空间智能将革新创作、机器人、医疗和教育等领域。这一突破将推动AI从抽象理解走向真实世界交互,最终实现增强而非取代人类能力的目标。

Linda的自动化测试之旅 1183

空间智能领域:AI人工智能的未来走向

本部分旨在全面探讨空间智能领域中AI人工智能的未来发展方向。通过对相关技术的深入分析、实际应用案例的研究以及行业动态的跟踪,明确AI在空间智能领域的发展趋势和潜在机遇。范围涵盖空间智能的各个方面,包括但不限于地理信息系统(GIS)、遥感技术、导航定位、虚拟现实(VR)/增强现实(AR)等领域中AI的应用和发展。本文将按照以下结构展开:首先介绍空间智能与AI的核心概念及其联系,通过文本示意图和Mermaid流程图进行直观展示;接着阐述核心算法原理,使用Python代码详细说明;

AI大模型应用之禅 1053

告别“人工智障”!我用“世界模型”让机器人拥有“想象力”,这套方法整理成了万能公式!

我们系统化地整理了跨机器人、自主驾驶与通用视频场景的数据资源与评测指标,涵盖了像素级预测质量、状态级理解以及任务性能等方面。此外,我们对当前最先进的模型进行了定量比较,并总结出若干关键的开放挑战,包括:缺乏统一的数据集与评测基准;需要评估物理一致性而非仅关注像素保真度的指标;模型性能与实时控制所需计算效率之间的权衡;以及在长时序预测中实现时间一致性并减缓误差累积的核心建模难题。

老皮的博客 932

探索AI人工智能在空间智能领域的无限可能

随着科技的飞速发展,AI人工智能技术正以前所未有的速度渗透到各个领域。空间智能领域作为一个涉及地理空间信息处理、分析和应用的重要领域,与AI的结合具有巨大的潜力。本文的目的在于全面探索AI人工智能在空间智能领域的应用可能性,涵盖从基础理论到实际应用的各个方面。范围包括地理信息系统(GIS)、遥感影像分析、智能导航、智慧城市等多个与空间智能相关的子领域。本文首先介绍背景信息,让读者了解研究的目的和意义。接着阐述核心概念与联系,为后续的算法和应用讲解奠定基础。

大模型应用工坊 972

AI人工智能在空间智能领域的应用案例全面解读

空间智能(Spatial Intelligence)是指对物理空间中物体位置、形态、关系的感知、分析与决策能力。小到手机导航找路,大到卫星监测全球变暖,都属于空间智能的范畴。本文聚焦“AI如何让空间智能更聪明”,覆盖遥感监测、路径规划、城市管理等6大核心场景,带你从技术原理到真实案例全面理解。本文将按照“概念→原理→案例→趋势”的逻辑展开:先通过故事理解空间智能与AI的关系,再拆解核心技术(如遥感图像分析、路径规划算法),接着用5个真实案例展示应用,最后展望未来挑战与机会。空间智能。

AI架构师小马 1219

[人工智能-大模型-50]:空间智能与世界模型的比较

综上所述,空间智能侧重于对物理空间的感知与操作,属于感知层面的核心能力;而世界模型则是一种更高阶的认知架构,整合了空间、时间、因果、意图等多种信息,致力于构建对环境的全面理解与预测能力。此外,神经辐射场(NeRF)、3D高斯泼溅(3D Gaussian Splatting)等新兴技术也在推动空间表征向更高保真度发展,而这些表征正逐步被整合进可微分的世界模型中,支持端到端的学习与推理。可学习、可推理、可泛化的“内在模拟器”,类似于人类大脑对世界的心理模型。未来的趋势将是将空间智能作为世界模型的一个。

文火冰糖(王文兵)的博客 1356

AI空间智能在AR_VR领域的前沿应用

本文旨在全面介绍AI空间智能在AR/VR领域的最新应用,涵盖从基础理论到实际实现的全过程。我们将重点讨论空间感知、环境理解和交互技术,这些是构建沉浸式AR/VR体验的核心要素。文章首先介绍核心概念,然后深入技术细节,包括算法原理和代码实现,最后探讨应用场景和未来趋势。每个部分都配有易于理解的解释和实际示例。空间智能(Spatial Intelligence): 计算机理解和与物理空间交互的能力增强现实(AR): 将数字内容叠加到真实世界视图上的技术虚拟现实(VR): 完全沉浸式的数字环境体验。

AI智能探索者的博客 1331

一文读懂:世界模型(World Model)

世界模型(World Model)是人工智能算法模型的一种新概念,旨在模仿人类和动物通过观察与交互自然地学习关于世界运作方式的知识。这一理念由深度学习之父杨丽坤Yann LeCun提出,作为通往通用人工智能(AGI)的路径之一。不同于以大数据和大算力驱动的Transformer流派,世界模型学派认为实现AGI需要AI具备真正的常识性的理解能力,这些能力只能通过对世界的内在表征来获得。世界模型的核心在于它能够估计感知未提供的世界状态信息,并预测未来可能的状态变化,比如基于Actor模块提出的动作序列所导致的世

zyjwjck的博客 2万+

空间智能领域,AI人工智能成为新宠

空间智能领域旨在研究和处理与空间相关的数据和信息,涵盖地理空间、室内空间、工业空间等多个方面。随着科技的发展,空间数据的规模和复杂性不断增加,传统的处理方法已经难以满足需求。AI人工智能具有强大的数据分析、模式识别和智能决策能力,将其引入空间智能领域,可以提高空间数据处理的效率和准确性,实现更智能的空间规划、管理和应用。本文的范围主要聚焦于AI在空间智能领域的应用原理、算法、实际案例以及未来发展趋势等方面。

AI大模型应用之禅 868

量子城域网建设设备系列(三):网络管理系统(NMS)

本文对量子网络中的网络管理系统进行了初步的介绍。

量子领域相关话题 2013

未来已来 | 最强『世界模型』问世,AI获得“想象力“,用意念脑补周围世界,OpenAI已关注!

然而,站在你自己想象中的出租车位置,从它的角度想象周围的环境,你会感觉到出租车令人困惑的行为背后可能有一个动机:也许救护车正在靠近。其次,当提供由Genex生成的想象视频时,人类做出的决策比传统的仅图像设置更准确、更明智,特别是在需要高级空间推理的多智能体场景中。通常,在不熟悉的环境中,具身代理必须通过物理探索获得新的观察结果,从而更好的了解其周围的环境,这不可避免地是昂贵、不安全和耗时的。尽管先前的工作可以基于3D模型渲染场景的新视图,但有限的渲染距离和有限的视场限制了生成视频的范围和连贯性。

具身机器人和通用AI 1045

QT+SOEM主站协议库实战指南—从编译到嵌入式应用

本文提供了一份QT与SOEM开源EtherCAT主站协议库的集成实战指南。详细介绍了在Windows和Linux平台下编译SOEM库的步骤,并讲解了如何将其无缝集成到QT项目中,构建具备实时监控与控制功能的工业上位机应用。内容涵盖从环境搭建、核心协议开发到嵌入式部署与优化的全流程,为开发高性价比、自主可控的工业控制解决方案提供完整路径。

u6v7w8x的博客 438

李飞飞:空间智能是人工智能的下一个前沿领域

Diana:另一件很酷的事是,除了你做过的所有了不起的事情,你还指导了很多传奇研究者,比如Andre Kaparthy、在Nvidia的Jim Fan、你的ImageNet合著者Jad Deng,他们都拥有了非常杰出的职业生涯。我认为无论你来自哪里,无论我们要解决的问题是什么,那种勇于面对困难、全身心投入并致力于解决问题的勇气和无畏,是成功者的重要特质。现在随着大型语言模型的发布和发展,我们看到不同组织在开源上的做法各不相同:有的完全闭源,有的完全开源,有的处于中间状态,比如只开源权重或者有很多限制条款。

2501_91883294的博客 1486

stm32学习笔记:ADC

stm32学习笔记:ADC

hmh520i的博客 3223

把 ABAP 经验装进 GitHub Copilot 的按需大脑,Agent Skills 如何改变 ABAP 开发

2026 年 8 月,SAP Community 上出现了一次很有代表性的 ABAP 实验。开发者把标准 Flight Model 里的复制成自己的测试类,删除原有 ABAP Unit Test,再让 GitHub Copilot Agent 为方法重新生成测试代码。真正有意思的地方并不是 Copilot 会不会写,而是开发者给 Copilot 准备了两个专门的 Agent Skills,一个负责 ABAP Unit Test 的通用规则,一个负责 ABAP Test Double Framework。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 154

从文字到世界:空间智能是人工智能的下一个前沿

日常生活中,人类依赖它完成看似平凡的动作:停车时想象车尾与路沿间的距离,接住抛来的钥匙,穿过人群而不相撞,或在半梦半醒间将咖啡倒入杯中。而让 AI 真正理解并增强人类创造力——无论是学习分子化学的学生、构思建筑的设计师、创作世界的电影人,还是追求沉浸体验的艺术家——这一目标依旧未能实现。科学界普遍认为,感知与行动构成了推动智慧进化的核心循环,也是自然创造出人类——这一感知、学习、思考与行动的顶点物种——的根基。人类对世界的理解是整体性的——不仅看到事物本身,还理解它们之间的空间关系与意义。

2301_79342058的博客 1088

手把手教你学Simulink--移动机器人多轮协同场景实例:基于Simulink的双轮差速PMSM轮毂电机协同驱动仿真

本文介绍了基于Simulink的双轮差速PMSM轮毂电机协同驱动仿真系统。针对移动机器人存在的电机参数不一致、负载分配不均等问题,提出主从同步+力矩补偿的协同控制策略。通过搭建包含运动学模型、PMSM电机模型和矢量控制器的仿真系统,实现了速度同步误差<0.005m/s、轨迹跟踪误差<0.8cm、能耗降低12.5%的优化效果。文章详细阐述了建模步骤、核心算法实现和性能验证,为移动机器人动力系统设计提供了实用参考方案。

MHD0815的博客 133

李飞飞 — 从文字到世界:空间智能是人工智能的下一个前沿领域

创造力是智慧的乐趣。随着空间智能世界模型的推理和生成能力日益强大和稳健,可以设想,在给定目标的情况下,世界模型本身不仅能够预测世界的下一个状态,还能基于新状态预测下一步行动。而真正理解并赋能人类创造者的AI——无论是学习分子化学复杂概念的学生、构思空间的建筑师、构建虚拟世界的电影制作人,还是寻求完全沉浸式虚拟体验的任何人——的愿景,也依然遥不可及。世界模型是一种新型生成模型,其理解、推理、生成和交互语义、物理、几何和动态上复杂的世界(无论是虚拟的还是真实的)的能力,远远超出了当今逻辑逻辑模型的能力范围。

wumolin20130628的博客 963

全面解析量化价值投资多因子模型的原理

明明知道“买便宜的好公司”是价值投资的核心,但面对3000+只A股,如何快速筛选出“便宜又好”的标的?主观判断总被情绪干扰——明明PE很低的股票,买了却不涨;或者因为“感觉”错过牛股?想规模化投资,但手动分析100只股票就要花一周,根本无法覆盖全市场?量化价值投资的多因子模型,正是解决这些问题的钥匙。它将价值投资的核心逻辑(“便宜”“好公司”)转化为可量化的因子,用数学模型替代主观判断,实现系统化筛选、可回测验证、规模化复制的投资决策。为什么多因子模型能有效预测股票收益?

AI天才研究院 1058

抓包网络调试工具 reqable抓包教程

如果CA根证书未安装成功,网络图标是黄色,点击盾牌图标可以进入CA根证书安装界面,详细步骤请阅读。在API调试中,获取流量是第一步也是最基本的操作,这里讲解下如何使用Reqable获取流量,通俗地讲就是抓包。我们可以选择一个图片请求,双击打开详情面板,能够看到该请求的详细信息。如果系统代理未设置,网络图标是黄色,点击网络图标可以自动设置系统代理。此域名的结构树,可以查看该域名下所有请求的目录结构,点击选择可以查看该请求的详情。首先,需要启用Reqable的调试功能,点击最右上角的。打开浏览器,输入地址。

代码简单说 Vue、JAVA、PHP、Node.js 熟练运用,接口、架构、性能全搞定。 2557

李飞飞最新演讲:空间智能——AI的下一个前沿,开启三维世界理解新时代,收藏学习!

本文讲述了斯坦福教授李飞飞提出"空间智能"是AI的下一个前沿。她回顾了AI视觉从ImageNet到生成式AI的发展历程,认为AI需要从二维理解跃升至三维世界理解,才能真正接近通用智能。为此,她创立了World Labs,专注于"世界模型"研究,使AI能生成、推理和重建三维场景。空间智能将重塑内容创作、机器人交互等领域,成为连接物理与数字世界的关键基础层。

yihanss的博客 1287

【实战篇导读】四足机器人运动控制导读

认知有限,望大家多多包涵,有什么问题也希望能够与大家多交流,共同成长!本文先对四足机器人运动运动控制系统及相关算法做个简单的介绍,具体内容后续再更,其他模块可以参考去我其他文章主要介绍了波士顿spot机器人的发展历史、四足机器人的硬件系统及电机执行器组成包括硬件系统、关节电机执行器,机载传感器机处理器及电气连接等。概述了四足机器人规划控制、感知、定位及局部地图的相关算法方向。

qq_35635374的博客 679

AI教母李飞飞长文,从语言到世界:空间智能开启 AI 的下一个十年

“AI教母”李飞飞发表了一篇信息量非常高密的长文, 名为“From Words to Worlds:Spatial Intelligence is AI’s Next Frontier”。 AI的下一个前沿,是「空间智能」。

墨城的博客 1191

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

空间智能是人工智能的下一个前沿领域

From Words to Worlds: Spatial Intelligence is AI’s Next Frontier

2402_83802259的博客 764

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

李飞飞最新文章原文 — 从文字到世界:空间智能是人工智能的下一个前沿领域

世界模型是一种新型生成模型,其理解、推理、生成和交互语义、物理、几何和动态上复杂的世界(无论是虚拟的还是真实的)的能力,远远超出了当今逻辑逻辑模型的能力范围。随着空间智能世界模型的推理和生成能力日益强大和稳健,可以设想,在给定目标的情况下,世界模型本身不仅能够预测世界的下一个状态,还能基于新状态预测下一步行动。无论是加速我们在实验室中对疾病的理解,革新我们讲述故事的方式,还是在我们因疾病、伤痛或年老而最脆弱的时刻给予我们支持,我们都站在科技的前沿,这项科技将提升我们最珍视的生活品质。因此,许多科学家推测,

人工智能学家 187

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

上一篇: 李飞飞和杰弗里·辛顿能被分别誉为“AI教母”和“AI教父”
下一篇: 人工智能技术之间的关系
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

交通上的硅基思维

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值