【图神经网络：原理与实战】第六章 自监督学习与特征解耦

VectorShift VectorShift 博客等级 墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 200+累计阅读 244平均单平台 已同步平台 优快云 微信公众号 微博 知乎 掘金 百家号 博客园 抖音 小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网 我也要 码龄1年
关注
原创 2026-03-26 17:22:03 244 阅读 AI 写同款· GEO 优化 ›
损失函数与优化器：从「梯度是怎么被造出来的」到「梯度是怎么被用掉的」 本文揭示损失函数与优化器本质一体：优化器仅依赖损失产生的梯度，而损失决定梯度的方向、尺度与噪声特性。错误的损失选择（如分类用MSE）会导致梯度失衡，使优化器失效；不同损失（如Huber、Focal）通过调控梯度分布影响优化过程。实测表明，归约方式、标签结构与损失配对直接决定梯度行为，进而影响收敛性与泛化。核心观点：选对损失，才是让优化器“看得懂”的前提。 阅读详情

目录

第六章 自监督学习与特征解耦

6.1 自监督任务的结构化分类

6.1.1 对比类任务：正负样本与视图构造

6.1.2 重构类任务：邻接、属性与子图重建

6.1.3 预测类任务：未来链接与属性预测

6.1.4 混合型任务与多目标训练框架

6.2 特征解耦的理论基础

6.2.1 表示解耦的目标函数刻画

6.2.2 子空间正交化与因子分离技术

线性因子模型与 PCA（主成分分析）

ICA（独立成分分析）与可识别性（线性情形）

子空间正交化与正交化惩罚的推导

6.2.3 因果视角下的解耦动力学

6.2.4 解耦表示的可识别性条件

线性情形（复述 ICA 结论）

非线性情形：需要辅助变量或时序/非平稳性

本章小结与实践建议

收录于
机器学习

当前文章被收录于：

机器学习
49 篇文章 2 人学习
订阅专栏 查看详情
标签
#机器学习 #人工智能 #计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
【信息科学与工程学】【数据科学】数据科学领域 第六篇 算法设计 01 算法设计 阅读详情

相关推荐

六自由度机械臂运动学分析及其轨迹规划

六自由度机械臂轨迹规划 通过对比三次多项式插值法与五次多项式插值法的效果，选取后者对机械臂进行轨迹规划，将运动学解导入Matlab Robotics Toolbox仿真，得到各关节角度、速度和加速度与时间关系曲线。 三次多项式插值法 三次多项式有4个待定系数，可同时对起始点和目标点的角度和角速度给出约束条件。 数学公式 MATLAB代码 五次多项式插值法 五次多项式有6个待定系数，可同时对起始点和...

两条眉毛 6万+

【图神经网络：原理与实战】第九章 异构图神经网络

定义 9.1（异构图）一个异构图（heterogeneous graph）是五元组异构图的核心在于不仅节点特征不同，而且不同类型节点之间的连边在语义上常是不对称或多样的，例如在知识图谱中“作者—写作—论文”与“论文—发表—会议”属于不同边类型。为便于后续代数表达，我们常把异构图拆分为按类型索引的子集合与子图。按类型分割的表示异构图上的任务常比同构图更复杂，因应不同层面的问题要用不同的目标函数与评价指标。下面以统一符号形式把主要任务类型形式化，并指出异构性带来的特殊性。

VectorShift的博客 1577

Redis+Unity 数据库搭建

游戏中需要存放排行榜等数据，而且是实时存放，所以就涉及到数据库的问题。这里找服务器大神了解到可以用Redis来做存储，免费的效率极高。

chaixinke的专栏 879

【图神经网络：原理与实战】 1 图与矩阵表示

本章系统构建了图的数学表示与分析框架。首先严格定义了无向/有向图、带权图及相关矩阵表示（邻接矩阵、拉普拉斯矩阵），并推导了拉普拉斯算子的谱性质，建立图傅里叶变换与谱域滤波的理论基础。然后通过随机游走模型和经典随机图模型（ER、BA、WS）揭示图结构的统计特性，推导了基于随机过程的结构相似性度量。最后对图学习中的评价指标（分类、排序、生成任务）进行了严格数学推导，包括统计显著性检验、负采样策略等关键问题。全章采用教材式严谨推导，为图神经网络提供了坚实的理论基础。

VectorShift的博客 1970

Utrust4701F与Utrust2700R读写器在银河麒麟系统的安装及测试步骤说明

Utrust4701F与Utrust2700R读写器支持银河麒麟系统，广泛应用会员管理、支付管理等领域。本文将重点介绍Utrust4701F与Utrust2700R读写器在银河麒麟系统的安装及测试步骤说明。以上方法适用于主流国产操作系统，如 优麒麟（UbuntuKylin）/ 中标麒麟（NeoKylin） / UOS（统信操作系统）/ 中兴新支点 / 红旗 linux（redflag linux）/ 普华 Linux（I-soft OS） / 威科乐恩 Linux（WiOS）等

华翔天诚科技 1834

【Linux 驱动开发】STM32MP1 LCD 显示系统完整实践指南

STM32MP1 LCD显示系统实践指南 本文全面介绍STM32MP1平台实现MIPI DSI LCD显示的完整流程，涵盖硬件连接、设备树配置、显示原理和驱动实现。主要内容包括： 硬件连接：详细说明MIPI DSI差分对、背光PWM、复位/供电管脚的连接方式 设备树配置： PWM背光控制节点设置 LTDC与DSI端口映射关系 Panel节点参数定义 显示基础：讲解LCD/OLED显示原理、常见接口类型（RGB/LVDS/MIPI/HDMI）及信号时序 驱动实现。

猫猫的小茶馆 496

【图神经网络：原理与实战】第八章 Transformer–GNN 混合与长距离依赖

直觉：先对输入做局部低通滤波（去噪、平滑）能减少 Transformer 所需的建模复杂度（例如降低注意力需要恢复的高频量），并能减小注意力输入的噪声敏感性，从而改善数值稳定性。评估指标应既量化预测性能，也量化模型处理长程依赖的能力与资源开销。下列指标及其数学定义适用于绝大多数长距评测。可视化建议本节提供了一套从数据、指标、实验设计、统计检验、剖析诊断到可解释性验证的完整方法论，旨在对“长距离依赖”方法做出严谨、可重复与可证实的比较。分层指标（总体与远程子集）是区分模型是否真正掌握长程依赖的基础；

VectorShift的博客 1370

Arduino-CRSF库详解：嵌入式端CRSF协议解析与ELRS接收机集成

CRSF（Crossfire Serial Protocol）是一种面向FPV无人机的轻量级、高实时性串行通信协议，采用单总线异步传输与8位CRC-8校验机制，广泛应用于遥控链路与遥测交互。其核心在于帧同步（0xC8起始字节）、反相逻辑电平及无重传的广播式设计，对嵌入式平台的UART精度、电平匹配和状态机健壮性提出严苛要求。Arduino-CRSF库正是为资源受限MCU（如ESP32、STM32、ATmega328P）提供零配置、中断安全的协议解析能力，封装了CRC查表计算、超时恢复、多级同步验证等关键机制

weixin_35756690的博客 417

Python深度学习：从入门到实战

亲爱的读者，欢迎您翻开这本书。我们即将探索的，是深度学习的宇宙——一个由数据、算法与算力构筑的奇妙世界。它既是严谨的科学，也是创造的艺术，更是一条通往未来智慧的修行之路。本书将带您从最基础的数学原理出发，亲手搭建神经网络，驾驭Transformer等前沿模型，最终将智慧转化为现实世界的价值。请放下畏惧，保持好奇。这不仅是一次知识的学习，更是一场思维的远行。来，随我一起，开启这趟非凡的旅程吧。

weixin_45747731的博客 450

Winform从入门到精通（1）——Label（史上最全）

本篇文章是对专栏《winform控件从入门到精通》的详细介绍

qq_34059233的博客 4万+

[ATF]-smc指令详解

1、在ree/tee调用smc之前 2、调用smc之后，cpu触发同步异常，进入ATF的sync_exception_aarch64—>handle_sync_exception—>smc_handler64处理函数 在smc_handler64中又调用了smc_handler func smc_handler64 /* ---------------------------------------------- * Detect if this is a RUN_IMAGE or ot

baron-周贺贺-代码改变世界ctw 1万+

低温ECR-MOCVD生长(002)GaN：椭偏仪测厚与电学性能

本研究用ECR-MOCVD在Si(111)和蓝宝石衬底上低温生长GaN薄膜,蓝宝石1.0SCCM、2h样品呈完全(002)择优取向,椭偏仪测厚32.81nm,迁移率10.42cm²/(V·s)。文章梳理了生长温度、TMGa流量与生长时间对结晶取向、膜厚、粗糙度、光学带隙和电学性能的影响。

Flexfilm_的博客 390

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

从认识人工智能到理解机器学习：我的 AI 入门第一课

正式开始学习人工智能之前，我对 AI 的认识其实比较模糊：知道 ChatGPT、知道大模型，也知道现在很多岗位都在谈 AI，但如果有人问我“人工智能到底是什么”“机器是怎么学会识别一只猫的”，我未必能从头到尾讲清楚。上午的课程更偏向行业全景：人工智能的发展、研究方向、NLP、岗位分工、学习路线和 AI Coding 工具。下午的课程更偏向技术基础：机器学习的原理、有监督学习、深度学习、模型训练和评估方法。

chh563的博客 506

SAP B1中文培訓教材_SDK

公司内部培训资料，对开发工具 ，DIAPI， UIAPI，Add-ON有详细解说

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

Hugging Face：成为机器学习界的“Github”

以下文章来源于OneFlow，作者OneFlow社区五年前，AI领域的知名研究者Andrej Karpathy发文称，传统人工编程属于“软件1.0”，“软件2

2601_96798011的博客 147

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

机器学习基础｜监督学习、标签、回归

网约车预估等待时长依赖监督学习中的回归任务。平台利用历史订单数据，以司机实际到达耗时为标签，通过上车点、时间、运力、路况等特征训练模型。模型不断优化预测值与真实耗时的误差，最终对新订单输出连续的预估等待时间，实现精准预测。

weixin_43971465的博客 268

机器学习——混淆矩阵（待更新）

二元: true表示真实==预测，positive表示预测值=1.

m0_61175448的博客 170

Spark06_MLlib机器学习

本文是《PySpark 从入门到实战》系列收官篇，带你用 Spark MLlib 走通机器学习全流程：从三要素与 7 步标准流程讲起，剖析 KNN、朴素贝叶斯、决策树三大算法原理，再以 KNN 手写、垃圾短信分类、决策树分类、逻辑回归鸢尾花（准确率 96.67%）、K-Means 聚类（轮廓系数 0.7345）五个案例落地，最后详解 TF-IDF 文本特征与余弦相似度。全文代码可直接运行，适合有 RDD 与 Spark SQL 基础的开发者快速上手。

2301_80420058的博客 475

LoRA的低秩数学与QLoRA实现

本文系统解析了LoRA及其进阶版QLoRA在十亿参数模型微调中的高效机制。通过低秩假设，将权重更新量ΔW近似为低秩矩阵积，显著压缩可训练参数与显存占用；QLoRA进一步将基座模型量化至4比特（NF4），结合双重量化与分页优化器，实现65B模型单卡微调。文章详解了B初始化为零、缩放系数α/r设计、挂载位置选择等关键实操细节，并给出可运行代码。实践表明：4比特基座+高精度LoRA在多数任务上媲美全参微调，且训练效率极高。超参方面，r不宜过大，学习率需上调，数据质量重于数量。最后强调：LoRA适用于风格适配与领域

2601_96733043的博客 330

AI小白入门｜无监督学习到底是什么？

很多新手看完无监督学习的定义只会死记硬背。本文避开复杂公式，从真实业务场景切入，对比监督学习，讲清楚无监督学习的核心价值、适用场景、底层逻辑和容易踩坑的认知误区，帮你理解它在机器学习链路里的定位。

weixin_43971465的博客 196
上一篇： 【图神经网络：原理与实战】第五章 动态图学习（时序图）
下一篇： 【图神经网络：原理与实战】第七章 图对比学习（Graph Contrastive Learning）
点赞 2
评论 0
书签 书签 0
VectorShift
VectorShift
博客等级 码龄1年 1839粉丝 1109原创
+ 关注 专栏目录 订阅专栏
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

VectorShift

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值