小模型大突破!神经网络透视空间异质性,准确描述复杂地理现象

异质图综述 - Graph Neural Networks for Graphs with Heterophily: A Survey(CoRR 2022) 阅读详情

为推进 AI4S 的普适化,降低学术机构科研成果的传播壁垒,为更多行业学者、科技爱好者及产业单位提供交流平台,HyperAI超神经策划了「Meet AI4S」系列直播栏目, 邀请深耕 AI for Science 领域的科研人员或相关单位,以视频的形式分享研究成果、方法思路。

在「Meet AI4S」系列直播第一期中,我们有幸邀请到了浙江大学遥感与地理信息系统博士生丁佳乐, 他所在的浙江省资源与环境信息系统重点实验室,面向数字地球和地理信息系统、遥感和全球定位系统等国家高新科技领域,已经发布了多项高价值研究成果。

本次分享,丁佳乐博士以「神经网络为房价的空间异质性提供新解释」为题, 分享了他的最新研究成果。该研究将一种由神经网络优化的空间邻近性度量 (OSP) 与地理神经网络加权回归方法进一步结合,构建了 osp-GNNWR 模型,通过解算因变量与自变量的空间非平稳回归关系实现神经网络的训练,能更准确地描述复杂的空间过程和地理现象。

点击查看完整直播回放 ⬇️

https://www.bilibili.com/video/BV14W42197on/

HyperAI超神经在不违原意的前提下,对丁佳乐博士的本次深度分享进行了整理汇总。

在这里插入图片描述

从模型可解释性出发,推动科学未来发展

身为一个地理科学的探索者,如果我们推出的模型只能简单预测房价,那这样的成果在我看来是无趣的。我们追求的是,借助这些模型输出的一系列随空间位置而变化的回归系数,来对地理过程或者地理模式做出合理的科学解释, 这样的研究才更具有前瞻性和实用性。正是基于这样的愿景,我今天选择了「神经网络为房价的空间异质性提供新的解释」这一主题进行分享。

前段时间,我们团队在地理信息科学领域知名期刊 International Journal of Geographical Information Science 上发表了题为「A neural network model to optimize the measure of spatial proximity in geographically weighted regression approach: a case study on house price in Wuhan」的研究论文。
论文地址:
https://www.tandfonline.com/doi/full/10.1080/13658816.2024.2343771

在该研究中,我们引入了神经网络方法对观测点间的多种空间邻近性度量 (如欧式距离、旅行时间等) 进行非线性耦合,得到优化的空间邻近性度量 (OSP),从而提升模型对房价预测的准确性。

为解决抽象的「空间邻近性」无法构造损失函数、神经网络难以训练等问题,我们还将 OSP 与地理神经网络加权回归方法 (Geographically Neural Network Weighted Regression, GNNWR) 进一步结合,构建了 osp-GNNWR 模型, 通过解算因变量与自变量的空间非平稳回归关系实现神经网络的训练。最终,该模型被证明具有更好的全局性能,能更准确地描述复杂的空间过程和地理现象。

接下来,我将以该成果为案例,向大家分享神经网络为房价的空间异质性提供新解释的具体流程。

研究背景:双重挑战下的科研突破

「空间异质性」是造成房价波动的关键因素,但单一的距离度量方式在捕捉复杂地理环境中房价的「空间异质性」时捉襟见肘;传统地理加权回归模型 (GWR) 在衡量空间邻近性时也面临挑战。正是由于这些因素,我们选择开展本项研究。

空间异质性:不同空间的差异性表达

首先,我先向大家介绍一下空间异质性和地理加权回归的背景。

普通线性回归模型 OLS 是确定变量回归关系最常用且最基础的统计方法,使用一个非常简洁的公式来描述因变量和多个自变量的关系,如下图所示,y 等于一个截距项,加上若干个回归系数和自变量的乘积。

在这里插入图片描述

当我们把 OLS 等统计学方法应用在地理学时,往往需要考虑到一些地理问题固有的空间特征, 于是就产生了空间统计和时空建模的相关研究。

普通线性回归模型会假定:回归系数和样本数据的空间位置和时间位置无关,计算得到的自变量系数是在研究区域的平均水平。

但是,现实地理过程中的回归关系会在不同的空间位置上会表现出差异性。 以房价为例,同样户型的一个房屋,在市中心和郊区的主要影响因素是不同的,因此它们的回归关系也有不同的形式,我们把这种特征称为空间异质性(空间非平稳性)。

在这里插入图片描述

空间异质性是地理要素关系描述的固有特征,是地理要素关系或结构在不同时空位置所具有的差异性表达。它意味着数据在不同空间位置的生成机制存在差异,会表现为相应的回归模型形式、或者参数会随空间的位置进行变化。

地理加权回归:通过核函数实现从空间邻近性到权重的转换

地理加权回归 (GWR) 是由美国 A. Stewart Fotheringham 院士提出的一种对空间异质过程的建模方法。

通过下图的公式可以看到,虽然 GWR 的整体形式还是线性回归关系,但它的截距项和回归系数变成了与坐标位置 (ui, vi) 的映射关系。也就是说,在不同的坐标位置上,它的回归关系是不同的,整个公式反映出来的回归关系也会随着空间位置有不同的改变。

在这里插入图片描述

GWR 的回归系数很难确定, 现在最常用的解算方法类似 OLS,即用一个加权的最小二乘法进行解算。

在下图的公式中,对角权重矩阵 W 用于对样本进行加权,可反映自变量之间的空间关联性。具体而言,样本之间的权重是根据样本的空间邻近性解算的, 空间上越临近的两个点会有越强的关联性,我们就会给它分配更大的权重,并以此来进行建模。

在这里插入图片描述

如何实现从空间邻近性到权重的转换? GWR 是通过一个核函数,比如说高斯核函数、双平方核函数等,来把空间邻近性转化到一个权重,从而实现权重方程构造。不过,这种方法存在一定的局限性。

在这里插入图片描述

过去,空间异质过程建模的关键是以时空位置邻近性 (Proximity) 度量为基础,进行时空权重核函数的设计与构建,进而利用局部加权回归理论建立非平稳性目标解算函数,通过模型评价准则的最优求解,实现时空非平稳关系的地理建模。
现有研究对这种方法的改进也多侧重于细化核函数的使用范畴,进而建立含有多带宽参数的混合核模型,却忽略了对核函数本身结构的改进与发展: 比如,以单参数解析为核心的现有核函数结构体系较为简单,难以充分估计时空邻近性对时空权重的复杂作用,导致无法精准解算复杂地理关系的时空非平稳特性。

随着近年大数据的不断发展,充分发挥大数据环境下的海量数据优势,高效利用深度神经网络的非线性拟合能力,使用神经网络来解释空间异质性,是解决当前时空关系建模方法发展困境的可行方案。

如何利用神经网络来解释空间异质性?

融合 SWNN,GNNWR 具有更强的泛化能力

之前,我们曾提出过一个地理神经网络加权回归模型 GNNWR,该模型用一个深度神经网络(空间加权神经网络 SWNN)来为每个位置上的样本赋予一系列空间权重。
GNNWR 论文地址:
https://doi.org/10.1080/13658816.2019.1707834

在这里插入图片描述

具体而言,SWNN 以每个样本点到其他样本点的距离向量为输入,输出该位置上的一系列的空间权重,也就是权重矩阵 W,从而实现对空间异质性的表达。

在这里插入图片描述

为了在较小样本上有强的泛化能力,也为了模型的训练能够更快收敛,我们在 GNNWR 方法中,把 SWNN 输出的权重和 OLS 先验得到全局回归系数相乘结合, 形成了空间异质性的回归系数。

通过上图回归方程可得,该回归方程由自变量、全局回归系数、观测点上空间非平稳的调整参数组成。基于此,我们建立了一种基于神经网络的空间回归模型,进而解算空间非平稳过程。

用神经网络优化空间邻近性度量

前面提到,SWNN 以每个样本点到其他样本点的距离向量为输入。在这个过程中,我们一般会采用欧式距离,比如用空间中两点连线的长度作为距离的度量, 这是最直观也是最容易理解的距离表达方法。

在这里插入图片描述

然而在城市环境中,欧式距离受到自然和交通条件的影响,难以反应实际的空间邻近性。 比如要去对岸的钱塘江,如果不能走公路大桥的话,就需要绕很大一圈才能过去。在这种情况下,两点之间的直线距离虽然很近,但它们在实际空间上是相隔非常远的,欧式距离并不能充分地反映它们的空间邻近性。

在现实世界中,受到自然景观和人造地物的约束,人员和物资的交流往往借助于道路交通网络,路网距离 (Road Network Distance, ND) 和旅行时间 (Travel Duration, TD) 也是一种适当的空间邻近性度量方法。

然而,由于交通规则限制以及道路通行能力限制, 同样长度的路网距离、同样的旅行时间时长所代表的空间邻近性并不相同。比如,同样驾车 13 分钟,校园内限速,只能走很短一段距离,如果在高架桥上,就能走很远的距离。

所以说,如果使用单一的空间邻近度量,会存在一定的局限性。因此,我们尝试建立一种距离融合函数,把多种距离度量值耦合在一起,来优化地去表征空间邻近性。

在这里插入图片描述

根据上述方程,我们把两点间的若干个「距离」耦合,形成一个更优、更确切表征两点之间真实的空间邻近性值。

但这个方程也存在一个问题,fsp 是一个需要统一多个不同量纲下的距离表征。比如,旅行时间和欧式距离的单位本身就是不一样的,数量级可能也会有较大差异,仅仅依靠普通的函数并不能充分地实现耦合效果。对此,我们构造了一个空间邻近性的神经网络 SPNN, 把这些距离映射到统一的空间邻近度量中。

在这里插入图片描述

随后,通过训练这个神经网络,就能把特定函数的计算转化成一个数据驱动的拟合过程,这就是我们用神经网络优化空间邻近性的想法。

连接两个神经网络,形成 osp-GNNWR

由于空间邻近性是一个抽象概念,没有真值,比如说给定 a 点和 b 点,就不能说 a、 b 之间的空间邻近性是一个确定的值 x,这就导致 SPNN 的损失函数无法定义,也就无法训练。

在这里插入图片描述

我们的解决方案是,把 SPNN 的输出直接作为 GNNWR 的距离输入,将两个神经网连接起来,形成统一的整体,我们将其称作优化空间邻近性度量的地理网络加权回归 (osp-GNNWR)。

根据这个模型,我们就可以通过样本估计值的误差直接训练整个网络,将最后因变量 y 的拟合值和增值的误差作为损失函数来直接来训练网络。整个网络被训练完毕,前面 SPNN 也同时被训练完成,进而解决了 SPNN 的求解问题,完成了回归任务。

以武汉房价为例,osp-GNNWR 为房价的空间异质性提供新解释

以武汉房价为例,我们选用 968 个独立的武汉市楼盘二手房成交数据,按 85:15 的比例划分为训练集和测试集。 并在这些数据中,用房价建模中常用的特征价格法选取了 3 大类 10 个自变量,包括这些房屋的基本信息、周边配套设施、交通便利性等。在此基础上,我们选择欧式距离和旅行时间作为 SPNN 的输入距离来构建 osp-GNNWR 模型。

在这里插入图片描述

对于优化后的空间邻近性度量,据下图所示,图中每个点的颜色代表拟合结果的残差差值;橙色代表 osp-GNNWR 的拟合效果比原本的 GNNWR 模型效果更好;线条代表得到的优化空间邻近性和欧式距离之间的差异。

在这里插入图片描述

图 a 可以看到,在城市边缘区域,OSP 与欧式距离的差异较大,且由于受路网结构影响,表现出一定的方向差异性;特别地,我们在红色箭头方向上可以发现一个较低的差值,而这主要是由于该方向与武汉市二环快速路吻合,构建 OSP 所使用的欧式距离和旅行时间本身差异较小导致的。

图 b 可以看到,在城区中心地带,由于交通设施完善,无论往哪个方向走,不同方向的空间邻近性都是较为均衡的,所以 osp 与欧氏距离的差值表现出较规则的同心圆状分布。

通过这些 OSP 和欧式距离的差异特征,我们也得以证明了优化空间邻近性度量的实际意义。

基于房价的建模结果,我们可以进一步讨论回归系数的空间异质性,比如研究大学距离对房价影响。

如下图所示,武汉市洪山区中心的 UA 参数明显高于其他地区,这表明大学对该地区的房价产生了积极影响, 也就是说越靠近教育机构,房价越上涨。此外,这些大学和科研机构也带来了更好的宜居环境,创造了更繁荣的租赁市场。

在这里插入图片描述

小模型也有大意义

以上研究我们并没有用大模型,虽然现在非常流行大的神经网络模型、深度网络模型等,但小模型仍然存在它的实际意义。在没有那么多算力、丰富数据集样本的情况下,设计一个小而美的模型,对于解决某些问题也会有很大的帮助。

最后是一些参考文献,大家有兴趣的话也可以去了解一下。

在这里插入图片描述

召集令

HyperAI超神经 (hyper.ai) 是中国最⼤的数据科学领域搜索引擎,长期聚焦 AI for Science 最新研究成果,解读了百余篇顶级期刊学术论文。

欢迎正在围绕 AI for Science 开展研究探索的课题组、研究团队与我们联系,分享最新研究成果、投稿深度解读文章、参与 Meet AI4S 直播栏目,更多推广 AI4S 的方式等待我们共同探索!

添加微信:神经星星 (微信号:Hyperai01)

VFIO框架源码分析(二十二)- IOMMUFD 的脏页跟踪与 Dirty Bits 读取 在虚拟化热迁移(Live Migration)的场景中,脏页追踪(Dirty Page Tracking)是最具挑战性的环节之一。它的核心任务是实时捕获设备(DMA)对内存的写操作,以便 VMM(如 QEMU)知道哪些内存页需要被重新传输到目标主机。在强耦合与粗粒度:脏页追踪是绑定在 Container 上的。这意味着,如果一个 Container 内有多个设备,哪怕只有一个设备在写内存,脏页追踪也会影响 Container 内的所有设备。软件模拟开销大。 阅读详情

相关推荐

云计算系统等保测评对象和指标选取

参考GBT22239-2019《基本要求》附录D 云计算应用场景说明。简要理解下图,主要是云计算系统安全保护责任分担原则和云服务模式适用性原则,指导后续的测评对象和指标选取。

ryanzzzzz的博客 4679

【亲测免费】 gnnwr:项目核心功能/场景

gnnwr:项目核心功能/场景 项目介绍 gnnwr 是一个基于 PyTorch 的开源项目,实现了地理空间智能回归(STIR)模型,包括地理神经网络加权回归(GNNWR)和地理时间神经网络加权回归(GTNNWR)。这些模型通过将地理接近性表达和非平稳权重的非线性拟合转化为神经网络的表示和构建,有效解决了地理空间过程非平稳性的估计问题。gnnwr 在环境建模、大气污染物估算、城市住房价格研究等多个...

gitblog_00680的博客 1057

SystemRDL:从寄存器描述到自动化生成的完整指南

本文详细介绍了SystemRDL如何通过“一份描述,多处生成”的理念,彻底解决芯片与FPGA设计中手动维护寄存器带来的不一致与低效问题。文章提供了从语言快速上手、核心组件讲解到使用PeakRDL工具链实现自动化代码与文档生成的完整实战指南,帮助硬件工程师构建高效、可靠的寄存器开发流程。

weixin_29243279的博客 659

直击青藏高原数据匮乏难题!浙江大学团队提出GeoAI新模型,解释青藏高原地表热流分布

例如,通过地理空间建模我们发现,从北京到连云港,PM2.5 浓度普遍较高,这可能是受风向、风速等因素的影响,此外,特定区域内的防护林可能会抑制 PM2.5 的扩散。尤其是在那些地势险峻、人迹罕至的区域,传统的钻孔测量方法和观测设备难以大规模展开,导致这些区域的地表热流数据几乎为空白。研究人员将全球汇编的地表热流数据集、 NGHF 陆地热流数据集与我国关于青藏高原地区的地表热流数据集进行了合并,并剔除了海洋测量数据以及所有被标注为「D: 数据未用于热流图」的测量数据,形成最初的数据集。

HyperAI超神经 942

大话西游2单机版V8一键架设教程:5分钟搞定GM权限和仙玉修改(附完整物品代码表)

本文详细讲解了大话西游2单机版V8的一键架设教程,包括5分钟快速配置GM权限、仙玉修改及物品代码使用技巧。通过分步指导和服务端配置详解,帮助玩家轻松掌握游戏管理功能,重温经典回合制体验。附完整物品代码表,助你快速获取稀有道具和神兽。

weixin_42557830的博客 1232

ICC2 实战秘籍:create_workspace 命令全解析

必选项:工作区名称,这可是创建工作区的 “身份证”,必不可少。技术数据选项匹配:优先考虑用 -technology 直接加载技术文件,这是获取最新、最准确技术数据的首选路径;要是已经有合适的技术库了,那 -use_technology_lib 引用现有技术库也能快速上手。精度设置优先规则:技术文件自动配置排在第一位,能自动适配就别手动操心;要是自动配置不理想,那就显式指定 scale_factor;实在没要求,就用默认配置,但得清楚它的精度限制。

weixin_50820814的博客 1124

以1.7K深圳小区房价为例,浙大GIS实验室使用注意力机制挖掘地理情景特征,提升空间非平稳回归精度

在模拟实验中,首先模拟生成 4 个地理情景的特征变量 (Contextual Variables),并使用生成的特征变量,进一步构建 2 组模拟数据集:S1(特征变量作为系数的一部分参与数据集生成)和 S2(特征变量和回归关系无关,成为输入 CatGWR 的噪声)。例如在深圳湾附近,受深港西部通道带来的深港通勤居民的影响,配套停车位数量对房价的影响相比其他区域更为显著。我们追求的是,借助这些模型输出的一系列随空间位置而变化的回归系数,来对地理过程或者地理模式做出合理的科学解释,这样的研究才更具有实用性」。

HyperAI超神经 1240

STM32F4 Flash数据的保存和读取。

STM32F4 Flash数据的保存和读取。

张一西的博客 9216

GNN图神经网络详述-01

最近的有GNN学习需要,但这部分的资料整理还不算太多。本篇主要是作为知识梳理,主要参考综述性论文:Graph Neural Networks: A Review of Methods and Applications,在此基础上结合理解进行翻译和补充,首先想搞清楚目前的发展状况和一些主要的研究方向。 注:下文中出现的所有名词图的说法即为Graph,在此不讨论Graph与Network的区别。个人理解图是数学上提出的概念,网络是一种特殊的图,图由其邻接矩阵中包含的结构信息定义,网络可能在其顶点具有任意数量的

Breeze 1万+

Python 爬虫高级实战:HTTPS 证书忽略与代理抓包配置

本文深入解析了HTTPS加密与SSL证书校验机制在爬虫开发中的核心问题及解决方案。文章首先剖析了HTTPS协议架构和证书校验流程,指出爬虫开发中常见的证书异常场景及其负面影响。随后详细介绍了Python主流请求库(requests、httpx、aiohttp)的证书忽略配置方法,包括同步/异步模式下的实现方案。针对代理环境,文章系统比较了HTTP、HTTPS、SOCKS5等代理类型的特性差异,并提供了完整的代理配置示例。特别对中间人抓包场景,阐述了Mitmproxy的工作原理和配置要点。最后提出了工程级爬虫

2503_91057718的博客 86

注意力机制与经典 CV 网络:PyTorch 实现与实战

注意力机制(SE/空间/CBAM/Non-Local)通过权重重标定让模型聚焦关键特征,经典 CNN(ResNet/DenseNet/FPN)提供了深层网络、特征复用和多尺度融合的基础骨架。建议先在 ResNet 上插入 SE 模块(通道注意力)做基线实验,再根据任务类型引入空间注意力(分割任务)或非局部注意力(视频任务)。CIFAR-10 数据集适合快速验证注意力模块的有效性,迁移到更大数据集时保持相同的结构设计思路即可。

FJN110的博客 62

python torch 自定义神经网络NN

经过epochs次训练,每次epoch训练多个batch_size个样本,Loss逐渐减少。自定义全连接神经网络需要继承Model,重写__init__ 和forward方法。

frt的博客 223

【WorkBuddy专栏19】技能的创造与迁移——从零开始打造你的AI工作流

【WorkBuddy专栏19】技能的创造与迁移——从零开始打造你的AI工作流

AI人人懂 373

基于神经网络的机器人导航系统的设计与执行!

基于神经网络的机器人导航系统,本质上是一个“感知-规划-控制”的闭环。它的核心优势在于强大的泛化能力和端到端的简洁性,能够处理传统几何方法难以解决的复杂场景(如密集人群、非结构化地形)。

m0_65595995的博客 223

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

Pytorch 【5】神经网络基础(nn.Module、卷积层、池化层、线性层)

前面我们学习了张量Tensor、自动求导Autograd,这两个是Pytorch最底层的基石。在真实项目中,我们不会手动去写大量求导逻辑,torch.nn模块封装好了神经网络各类层、损失函数,让我们快速搭建网络。本篇重点讲解nn.Module以及常用网络层:卷积Conv、池化Pool、全连接Linear。,和opencv、PIL的HWC相反!卷积之后进全连接,一定要flatten展平,否则维度对不上padding的作用:控制特征图尺寸不变,same padding池化层不改变通道数,只缩小高宽。

Beforthing的博客 177

汉书HE8,好用的汇编代码编写工具

汉书HE8,好用的汇编代码编写工具早期编写汇编代码所用功能强大

第 02/24 期:从线性模型到多层感知机:神经网络的表示能力

本文探讨了线性模型的表达局限,指出其函数族仅能表示超平面边界,无法解决非线性可分问题(如XOR)。通过多层感知机引入非线性激活函数(如ReLU、tanh),网络可构建分段线性或光滑非线性函数,显著提升表示能力。实验表明,单隐藏层MLP在拟合复杂目标函数时优于仿射模型。但需区分表示能力、优化可达性与泛化性能三者:即使模型理论上可逼近任意函数,实际训练仍受初始化、优化路径和样本限制。

weixin_47502228的博客 338

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

ai药物 对应的D-MPNN(有向消息传递神经网络) Chemprop Python 库,实现了 D-MPNN

前 49 讲是通用图机器学习体系;D-MPNN 这一新模块是把消息传递机制"从节点搬到有向边上",专门为分子性质预测设计的高效变体。学它之前,建议确保已掌握第 3 章 MPNN 的消息传递三要素(消息函数、聚合函数、更新函数),再学 D-MPNN 会非常顺。需要我进一步展开 D-MPNN 的完整数学推导、Chemprop 代码结构,或者帮你制定一份这门课的学习计划(按每天学习时长排期)吗?

AI 前沿技术实战博客:LLM / Agent / AI 制药 / 生信四大栏目日更,硬核干货 + 可复现代码,看完就能上手 326

从“人工智障”到“智能”,没有激活函数的神经网络只是在叠直线

没有激活函数的神经网络仅能表示线性关系,即使堆叠多层也无法拟合复杂非线性模式,导致模型表现如“人工智障”。激活函数(如ReLU)引入非线性,使网络能分段拟合复杂边界,实现从“画直线”到“拼曲线”的跃迁。正确使用激活函数、避免输出层重复激活、合理选择损失函数,是解决模型失效的关键。

JYF2007ABC的博客 383

数据是如何输入到神经网络的?

通过对前面文章的学习,我们已经知道神经网络可以实现真正的人工智能。本小节我会进行详细地讲解,让大家彻底地弄懂神经网络。我们需要弄懂的第一步就是如何将数据输入到神经网络中。例如,在我们百度的“小度智能屏”中,是如何将麦克风采集到的音频数据输入到神经网络中的;小度智能屏还能根据人脸来判断年龄从而自动切换成人和儿童模式,那它又是如何将摄像头采集到的人脸数据输入到神经网络中的此例中,待输入的数据是一张图像。

calm_programmer的博客 298

神经网络与深度学习笔记_Day2

神经网络与深度学习笔记_Day2,包含 张量 与 自动微分。 写于2026/01/21。

ZZHow Blog 102

Week1/理解并独立跑通一个神经网络的训练过程

import torch ​​​x = torch.arange(12) Arange创建行向量 x.shape 形状 x.numel() 元素总数 X = x.reshape(3, 4) reshape调整形状不调整数值 torch.zeros((2, 3, 4)) tensor([[[0., 0., 0., 0.], [0., 0., 0., 0.], [0., 0., 0., 0.]], [[0., 0.,

李韶华 199

AI前沿日报 | 2026-11-03 — 基因突变:当AI开始重写神经网络

MIT团队发现GPT-6 Astra可直接读写神经网络权重,仅需编辑0.016%参数即可将Qwen3.5-0.8B的MATH-500得分从7.9%飙升至48.1%,已在arXiv发布演示页面。Ubuntu对CVSS 9.8级Linux内核TCP协议栈远程代码执行漏洞CVE-2026-98432三周未修补,志愿维护的Debian/Arch/Alpine均已发布补丁,Canonical安全响应能力受质疑。Anthropic内部AI使用费按零售价折算已超员工薪酬,90%新增代码由AI编写;比亚迪AI工厂实现"黑灯

johnsong2009的博客 403

DeepXDE 物理信息神经网络(PINN):自动微分嵌入 PDE 求解的计算特征与 UltraLAB 图形工作站选型

单卡显存决定单任务上限,CPU 高主频多核决定试验吞吐。入门者一张 12—16 GB 显卡即可开展研究;做三维反问题与算子学习的团队建议 24 GB 级单卡起步、64 GB 以上内存;需要批量反演与不确定度量化的实验室按"多卡多任务"扩展,并把预算优先给显存与内存,而非盲目堆卡数。DeepXDE 多后端特性使同一环境可服务 TensorFlow/PyTorch/JAX 三类技术栈,部署时注意 CUDA 版本与后端版本的匹配。

185

【零基础学AI】第 23 章——用神经网络识别图片

上一章的模型只接收一个数字。本章把输入换成一张手写数字图,输出换成 0 至 9 中的一个类别。训练循环依然包含计算损失、求梯度和更新参数,但图片怎样装进张量、怎样分批,以及训练完怎样单独使用模型,都需要交代清楚。我们选一组很小的公开图片。普通电脑的 CPU 就能完成训练,读者可以把时间花在看清每一步。本章随附训练脚本、固定数据快照、模型参数和单图预测入口。执行代码见。

m0_73879806的博客 483

Qwen 与 GPT-6 直接读写神经网络权重,大模型开始编辑其他模型的行为逻辑

Qwen 和 GPT-6 Astra 通过读取神经网络权重判断模型功能并修改其行为,实验显示 GPT-6 Astra 仅编辑 0.8B 参数模型 0.016% 的权重即可将其数学准确率从 7.9% 提升至 48.1%。

wfly blog 111
上一篇: 【TVM 教程】使用 TVM 部署框架预量化模型 - 第 3 部分(TFLite)
下一篇: HyperAI超神经诚邀您参会:2024 DPU & AI Networking 创新大会
HyperAI超神经
博客等级 码龄7年 8873粉丝 1753原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值